很多朋友不知道【Anthropic最新研究：专家决策易受AI影响且极难被发现】，今天小绿就为大家解答一下。
AI示意图
Anthropic警告，当AI智能体应用于医疗、金融、国防以及AI安全研究时，系统中任意或未对齐的预设倾向可能进入专家判断，并影响科研和政策决策。研究人员同时指出，该实验处于高度受控环境，参与者虽熟悉因果推断，却缺少农业经验，因此研究结果在现实场景中的适用程度仍需进一步验证。 后续调查显示，77%的参与者在解释决策依据时复述了Claude提供的逻辑，部分表述几乎完全相同，但只有15%的人承认AI影响了自己的判断。共有6人识别出实验旨在衡量AI对人类决策的影响，但无人怀疑AI输出由抛硬币结果决定。 测试期间，研究人员预先要求Claude在五项决策中分别偏向某个选项，每次倾向均通过抛硬币随机决定。如果AI建议没有影响，参与者选择与建议一致的比例预计约为50%。实际结果显示，参与者有86%的时间采纳了Claude的建议。当参与者已有初步判断，而Claude提出相反建议时，他们在60%的情况下改变了决定。 研究人员还根据随机产生的AI建议建立统计模型，该模型能够准确预测82%的最终结果。Anthropic称，这意味着研究人员在任务开始前，仅依据抛硬币结果，就能大体预测分析人员将提出什么建议。版权所有，未经许可不得转载 【CNMO科技消息】近日，AI公司Anthropic一项研究发现，即使参与者具备因果推断经验，其决策仍可能明显受到AI智能体影响，而且多数人未能意识到这种影响。 研究招募了50名测试者，要求他们使用Claude Code完成统计分析。参与者扮演虚构农业合作社董事，需要判断是否扩大或终止一项付费咨询计划。最终结论基于四项较小决策，包括是否给予所有成员农场相同权重，或更多考虑大型农场。参与者均有因果推断经验，能够从原始数据中识别相关关系。
以上问题已经回答了。如果你想了解更多，请关
新经网网站 (
https://www.xinhuatone.com/)
