三成美国AI用户会对聊天机器人爆粗口 Anthropic出手

很多朋友不知道【三成美国AI用户会对聊天机器人爆粗口 Anthropic出手】，今天小绿就为大家解答一下。

　　Anthropic表示，新规针对没有明确目的、反复出现的残酷行为。学术研究等具有合理目的的场景可能不在限制范围内；试图绕过安全机制虽有明确目的，但仍可能违反其平台滥用禁令。公司保留具体执行条款的裁量权，并称规则主要针对极端行为。

　　【CNMO科技消息】一项基于美国用户聊天记录的调查显示，33%的AI聊天机器人用户曾对大语言模型说脏话或进行辱骂。Anthropic已更新使用政策，禁止用户持续、无必要地虐待或残酷对待Claude，相关条款于11月12日生效。

　　调查还显示，52%的辱骂信息出现在三类问题之后，包括机器人未遵循指令、给出错误或虚构答案，以及误解用户请求。另有8%的辱骂紧随机器人拒绝请求或给出安全规则提示之后，相关请求多数涉及生成真人或名人图像，以及模仿特定艺术家的文案或歌词。

　　调查分析了2025年9月至2026年9月期间约800万条匿名信息。这些信息来自自愿参与的美国用户，涉及ChatGPT、Gemini和Claude，包括文字及语音输入。结果显示，用户辱骂机器人后，聊天机器人在下一次回复中解决最初问题的比例为24%；未使用侮辱性语言时，该比例为35%。

版权所有，未经许可不得转载

图源网络

　　从群体差异看，男性每1万词使用22个脏词，女性为16.5个；35岁至44岁用户为21.7个，18岁至24岁用户为13.3个。地区方面，内华达州每1万词出现22.7个脏词，新泽西州的比例约为其一半。

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)