Nvidia推出用于AI处理的边缘计算平台

2019-06-25 14:52:54

Nvidia正在推出一个名为EGX平台的新平台,旨在为边缘网络提供实时人工智能(AI)。我们的想法是让AI计算更接近传感器在发送到大型数据中心之前收集数据的位置。

边缘用作发送到数据中心的数据的缓冲区。它对所收集的数据进行了优化,只发送与主要数据中心相关的内容进行处理。这可能意味着丢弃超过90%的收集数据,但诀窍是知道要保留哪些数据以及丢弃哪些数据。

“在这个数据驱动的世界中需要AI,”Nvidia企业和边缘计算高级主管Justin Boitano在上周五的新闻发布会上表示。“我们分析源头附近的数据,捕获异常情况并将异常情况报告给母舰进行分析。”

Boitano说,我们正在进行交叉,因为边缘计算比云计算更多,因为那里需要做更多的工作。

EGX来自14家服务器供应商,提供各种外形尺寸,将AI与网络,安全性和Mellanox存储相结合。Boitano表示,这些机架适用于任何符合行业标准的机架,因此它们可以装入Vapor IO和Schneider Electric等边缘容器中。

EGX使用Nvidia的低功耗Jetson Nano处理器,同时也一直使用Nvidia T4处理器,可以提供超过10,000万亿次操作(TOPS)的实时语音识别和其他实时AI任务。

Nvdia正在开发名为Nvidia Edge Stack的软件堆栈,可以不断更新,软件在容器中运行,因此不需要重新启动,只需重新启动容器即可。EGX运行企业级Kubernetes容器平台,如Red Hat Openshift。

Edge Stack是优化的软件,包括Nvidia驱动程序,CUDA Kubernetes插件,CUDA容器运行时,CUDA-X库和容器化AI框架和应用程序,包括TensorRT,TensorRT推理服务器和DeepStream。

该公司拥有40多家早期采用者,其中包括宝马集团物流公司,该公司使用EGX和自己的Isaac机器人平台,以实时高效处理日益复杂的物流。