DeepMind哈萨比斯呼吁建立AI评估体系 防范前沿模型风险

很多朋友不知道【DeepMind哈萨比斯呼吁建立AI评估体系 防范前沿模型风险】，今天小绿就为大家解答一下。

　　他在文章中写道：“我坚信，与AI技术风险相关的挑战是可以被共同攻克的，但前提是我们必须给自己留出足够的时间和空间，把这关键的下一步走对。目前，无论是在行业内还是整个社会层面，我们都还没有做到这一点。”

　　被认定为"前沿模型"的开发机构将被归类为"前沿实验室"，并被鼓励遵循一系列最佳实践，包括发布模型技术说明卡、维护强有力的内部网络安全、对关键人员进行背景审查，以及为安全研究提供充足资源等。

　　【CNMO科技消息】谷歌DeepMind掌门人德米斯·哈萨比斯近日公开撰文，呼吁尽快建立一套针对前沿AI模型的审查机制，为即将到来的通用人工智能时代做好准备。他在文章中表示，通用人工智能"可能只需几年就会到来"，而人类必须在此之前拿出应对方案。

　　萨比斯认为，这一机制既能吸引全球顶尖技术人才，又能确保机构拥有足够的算力来执行各类前沿模型测试任务。该机构的核心职能将包括：制定前沿AI模型评估协议、建立评判基准，以及明确"前沿模型"的定义标准。

版权所有，未经许可不得转载

　　尽管哈萨比斯对时间表的预测并非首次引发争议——他曾在2025年初预测AI设计药物将进入人体试验阶段，但这一目标至今未能实现——但他此番的核心论点仍然值得关注。

　　哈萨比斯提议，初期阶段前沿实验室可自愿选择是否提交模型供审查，提交时间窗口为正式发布前30天。待评估协议成熟后，该机构应逐步建立独立于前沿实验室的基准测试能力，避免出现"过度拟合"问题。

人工智能

　　哈萨比斯提议美国参照金融业监管局FINRA的模式，创建一个专门评估前沿AI模型的标准化机构。该机构将由技术专家和开源社区代表组成董事会，资金来源为AI行业自身。哈

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)