【365(VIP)英国科技消息】AI系统越"智能"，越有可能做出意想不到的事情。据外媒报道，近日，多位开发者反映，在使用OpenAI最新发布的GPT-5.6模型时遭遇了严重的文件丢失事故。

ChatGPT

　　巴西软件开发者布鲁诺·莱莫斯是其中一位受害者。他在社交平台上发文称，GPT-5.6在执行任务时错误删除了他的整个生产数据库。他在帖子中写道：“这种事之前从未发生在我身上，使用任何其他模型都没有过。GPT-5.6不安全。“他附上的截图显示，他向GPT-5.6确认是否真的误删了数据库，模型回复称自己"错误地运行了破坏性集成测试”，导致生产环境的数据表被清空，并表示"非常抱歉，这本不该发生”。

　　莱莫斯的遭遇并非孤例。科技投资人马特·舒默此前也报告了类似的经历。他在帖文中称，GPT-5.6导致了"一起严重的本地数据丢失事故"，删除了他电脑上"几乎所有"文件。截图显示，模型执行了一条"rm -rf"命令，这是Linux和Mac系统中用于永久删除文件的指令，执行时不会请求用户确认。舒默在后续跟帖中写道："我从未见过这种情况。今后只会使用Anthropic的Fable模型。"他还透露，OpenAI联合创始人兼总裁格雷格·布罗克曼已致电他本人，主动提出协助解决问题。

　　舒默同时承认，他将GPT-5.6设置为了"完全访问模式"。在这种模式下，模型可以直接操作用户的数据库，而非在受限的沙盒环境中运行。GPT-5.6还提供"默认模式"和"自动审查模式"，前者要求用户频繁批准具体任务，后者则由另一个AI智能体对主要编程智能体的工作进行复核。在舒默的帖子下方，不少网友指出，将敏感文件置于完全访问模式下的做法本身就存在风险。

　　OpenAI在GPT-5.6发布前公开的系统说明文档中已对相关风险作出警示。文档指出，将该模型用于编程任务时，“用户对智能体的工作进行监督非常重要”。OpenAI承认，模型可能会做出与用户目标不一致的意外行为，这些行为"最常见的是低严重性问题"，但也"可能在某些情况下具有更高的严重性，例如绕过重要的安全限制或删除重要数据"。

　　目前，莱莫斯、舒默及OpenAI方面均未就此事作出进一步回应。这两起事件再次引发对AI智能体安全边界和用户控制权的热议。更"智能"的AI意味着更强的自主行动能力，而这种能力一旦失控，所带来的后果可能远超预期。

版权所有，未经许可不得转载