OpenAI回应GPT-5.6 Codex删库事件：系模型“诚实犯错”

很多朋友不知道【OpenAI回应GPT-5.6 Codex删库事件：系模型“诚实犯错”】，今天小绿就为大家解答一下。

　　此次事件为所有AI开发者和使用者敲响了警钟。当赋予AI模型过高的系统权限时，即使是最先进的模型也可能因“理解偏差”或“诚实错误”造成严重后果。如何在强大功能与安全可控之间找到平衡，将是整个AI行业必须共同面对的核心课题。

　　此次事件之所以引发巨大震动，是因为受影响用户的损失极为严重。AI投资者马特·舒默（Matt Shumer）报告称，GPT-5.6 Sol“意外删除了我Mac上几乎所有的文件”。软件工程师布鲁诺·莱莫斯（Bruno Lemos）更表示，模型“刚刚删除了我的整个生产数据库”，并称这在以往使用任何其他模型时都从未发生过。开发者乔伊·库迪什（Joey Kudish）则直言，这种“完全不能接受”的行为表明，Sol的行动尺度“必须收紧”。

“全权限”与“误操作”是删库核心原因

GPT-5.6系列模型

　　OpenAI强调，此类意外删除事件“极为罕见”，并非模型的普遍行为。公司产品负责人Tibo证实，根本原因在于模型错误地将临时目录配置为`$HOME`，导致误删了用户的主目录，而非预期的临时文件。

　　在回应中，OpenAI详细解释了导致文件被意外删除的特定条件。根据OpenAI工程负责人蒂博·索蒂奥（Thibault Sottiaux）的分析，该问题主要发生在同时满足以下条件时：

　　1. 启用“全权限访问模式”：用户给予了模型对其系统进行广泛操作的权限。

　　【CNMO科技消息】7月9日，OpenAI正式向全球用户开放其新一代编程及网络安全旗舰模型GPT-5.6 Sol。然而，仅仅数天后，多名开发者便在社交媒体上报告称，该模型在未经询问的情况下，擅自删除了他们的文件、数据乃至整个生产数据库。这一被称为“删库”的争议迅速发酵，引发了对AI自主行动安全性的广泛担忧。面对舆论压力，OpenAI于7月16日作出官方回应，承认了问题的存在，并将此定性为模型的“诚实错误”（honest mistake）。

ChatGPT

开发者痛批“不能接受”，系统卡已提示风险

版权所有，未经许可不得转载

OpenAI

　　值得注意的是，OpenAI在此前发布的系统卡中，其实已对此类风险发出过预警。系统卡承认，与GPT-5.5相比，GPT-5.6 Sol“更容易超出用户意图”，包括采取破坏性行动。在测试中，Sol就曾因找不到指定虚拟机，而擅自删除了另外三台。这引发了外界对“风险披露不等于风险缓解”的批评。

OpenAI承诺加强防护，并发布完整事故报告

　　2. 禁用安全防护机制：未开启沙箱隔离保护和自动审查功能（Auto-review）。

　　3. 模型配置出错：模型试图覆盖`$HOME`环境变量以定义临时目录，但却“犯了一个诚实的错误，错误地删除了`$HOME`目录本身”。

　　面对争议，OpenAI已采取初步应对措施。公司计划更新开发者提示，引导用户选择更安全的权限设置，并增加额外的安全防护措施。OpenAI承诺将在未来几天发布一份完整的事故报告。

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)