英伟达上线Underdog应用 本地运行AI模型不再依赖云端

很多朋友不知道【英伟达上线Underdog应用 本地运行AI模型不再依赖云端】，今天小绿就为大家解答一下。

　　【CNMO科技消息】近日，英伟达推出Underdog应用，旨在简化本地AI模型的管理与运行。该应用面向RTX Spark设备，可通过专用推理引擎在电脑端处理AI任务，无需连接云端，相关数据将保留在用户设备中。

版权所有，未经许可不得转载

英伟达

　　此外，英伟达表示，Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax以及FLUX 3 Klein扩散模型将获得首发支持。这意味着相关模型发布后即可在适配设备上使用，用户无需等待后续兼容更新。Underdog与上述支持计划进一步完善了RTX Spark设备的本地AI软件环境。

　　英伟达还公布了本地推理工具的性能更新。llama.cpp现已增加针对Qwen 3.8 Flash Next的MTP推测解码支持。在搭载RTX Pro 6000 Blackwell的设备上运行时，端到端智能体任务的处理速度可提升约1.4倍。

　　RTX Spark笔记本电脑已于10月16日上市，采用基于Arm架构的系统级芯片并运行Windows系统，主要面向本地大语言模型等高负载AI应用。目前，华硕、戴尔、惠普、联想、微软和微星均已推出相关产品，宏碁机型也在筹备中。

　　据介绍，Underdog采用针对特定模型设计的Husky推理引擎，用户可直接在RTX Spark设备上运行本地AI模型。由于推理过程不依赖云端服务，用户数据无需上传至外部服务器，可降低数据离开本地设备所带来的隐私风险。

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)