Facebook的PyTorch AI框架增加了对移动应用部署的支持

2020-04-02 10:59:01    来源:新经网    作者:冯思韵

Face book公司今天更新了其流行的人工智能软件框架Py Torch,支持新功能,使更无缝的人工智能模型部署到移动设备。

Facebook的PyTorch AI框架增加了对移动应用部署的支持

Py Torch被开发人员用来研究和构建软件应用程序的人工智能模型,然后由于它与领先的公共云平台的集成,这些应用程序直接投入生产。 Py Torch最初是由Face book的AI研究小组作为编程语言Python的函数机器学习库构建的。

它主要用于深度学习,这是机器学习的一个分支,试图模仿人脑的功能方式。 它在语言翻译、图像和语音识别等领域取得了重大突破。

在移动设备上运行机器学习的能力是很重要的,因为应用程序可以从具有较低的延迟中显著受益。 如果应用程序可以自己处理数据而不将其发送到云中,那么它毕竟会使一切运行更加顺利。

这就是Face book在最新发布的Py Torch中试图解决的问题,支持从Python到部署在iOS和Android上的“端到端工作流”。 Face book的Py Torch团队在一篇博客文章中表示,这仍然是一个实验特性,还有很多工作要做,以提高机器学习模型在移动中央处理单元和图形处理单元上的性能。

Facebook的PyTorch AI框架增加了对移动应用部署的支持

第二个实验特性旨在在构建机器学习应用程序时更有效地利用服务器端和设备上的计算资源。 增加对“八位模型量化”的支持是为了提高推理过程中的性能,即当一个经过训练的机器学习模型得出结论或进行预测时。 量化是指用于在降低精度的情况下执行计算和存储的技术。

“为了支持在服务器和边缘设备上更有效地部署,Py火炬1.3现在支持使用熟悉的热切模式PythonAPI的8位模型量化,”Py火炬团队写道。

Py Torch还获得了一种新的工具,名为Captum,该工具旨在帮助开发人员更好地理解为什么他们的机器学习模型得出一定的结论。

“Captum提供了最先进的工具来理解特定神经元和层的重要性,并影响模型的预测,”Py火炬小组写道。 “Captum的算法包括集成梯度、电导、平滑梯度和VAR梯度以及深度提升。”

其他更新包括发布探测器2目标检测库,以帮助计算机视觉研究。 此外,Face book还宣布启动一个名为CrypTen的新的基于社区的研究项目,该项目将探索隐私和安全技术的实现,如安全多方计算、可信执行环境和Py Torch的设备上计算。

最后,Face book表示,Py Torch现在支持GoogleCloud的张量处理单元,以便能够更快速地开发和训练机器学习模型:“当组装成称为Cloud TPU Pods的多轨ML超级计算机时,这些TPU可以在几分钟或几小时内完成ML工作量;在其他系统中,这些工作量以前需要几天或几周。

Facebook的PyTorch AI框架增加了对移动应用部署的支持

星座研究公司的分析师霍尔格·穆勒(Holger Mueller)告诉硅谷,今天的更新显示,Face book在Py Torch及其相关服务方面取得了坚实的进展。

穆勒说:“但关键问题是,在谷歌的TensorFlow方面,Py Torch的差距有多大? “两者都在移动目标,开发商的采纳将提供答案。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。