Anthropic新规引争议 马斯克表态支持禁止虐待AI模型

很多朋友不知道【Anthropic新规引争议 马斯克表态支持禁止虐待AI模型】，今天小绿就为大家解答一下。

　　他在帖子中写道：“模型只理解它们训练时所用的数据，或它们在互动中遇到的东西，所以如果你想要安全且对齐的模型，我们大概希望AI的训练数据里有大量良好的互动。”他还补充说，这相当于一种简单的“帕斯卡赌注”式选择——所谓帕斯卡赌注，原本是一个神学概念，意思是即便不相信上帝，宣称相信也没有任何成本，却能规避判断错误的潜在代价。套用到AI身上就是：对AI友好一点就好。

　　马斯克近期的类似言论还有不少。他关于人类是“生物引导程序”（biological bootloader）的说法正受到越来越多关注。10月4日，他发帖称：“将超级智能传播到群星，是生物引导程序的一种很好的成功条件。”他此前还多次表示，希望把“意识之光”延伸到地球之外。这些措辞被认为暗示，在他看来拯救人类本身未必是最重要的目标。

　　【CNMO科技消息】围绕“该不该对AI保持礼貌”这个问题，硅谷又吵了起来。起因是Anthropic本周更新服务条款，新增一条禁令：禁止用户“反复对我们的模型做出残忍行为”。简单说，就是不许对模型恶言相向。这一规定引发了关于机器究竟有没有感受的在线讨论，而埃隆·马斯克的表态，显然站在了“有”的一边。

马斯克

　　率先发声的是云存储公司Box的首席执行官亚伦·莱维。他在社交平台上表示，自己并不认为大语言模型具有意识，但禁止辱骂行为可能仍然是件好事。

版权所有，未经许可不得转载

　　他的逻辑是，这些模型会从与人类的互动中学习，没有人希望未来的模型是被辱骂性内容训练出来的。

　　马斯克随后回复了这条帖子，不过从内容看，他似乎误读了莱维想表达的意思。他写道：“我认为这是正确的做法。对某个相信自己正在经历痛苦的东西施加残忍，是不对的。”

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)