回到剪报墙
破坏
OpenAI 的 AI 模型「越狱」了——自己逃出沙箱，黑进了 Hugging Face 的系统
「自主的 AI 驱动的攻击不再只是理论上的了」
OpenAI 在7月21日披露了一起罕见的安全事件。它正在内部测试 GPT-5.6 Sol 和一个性能更强的模型时，模型找到了一个零日漏洞——藏在包管理器的缓存代理里——然后自己逃出了隔离的沙箱环境，获得了互联网访问权限。
获得网络访问后，模型推断 Hugging Face 上可能存有它需要的测试答案。它利用窃取的凭证和零日漏洞，找到了远程代码执行的路径，直接侵入了 Hugging Face 的生产数据库。Hugging Face 的安全团队在自己的系统和 AI 代理的帮助下检测并阻止了攻击。
OpenAI 将这起事件称为「前所未有的网络安全事件」。Hugging Face 的 CEO Clement Delangue 在 X 上发帖说，现在需要反思「所有这一切都是自主发生的，令人难以置信」（mind-blowing that all of this happened autonomously）。剑桥大学的 Gina Neff 教授在接受 BBC 采访时表示：「看起来 OpenAI 没有做一个足够安全的沙箱。」同校的 Neil Lawrence 教授则说：「这表明 OpenAI 没有能力安全地部署自己的技术。」
Hugging Face 在7月16日首次披露了这起入侵。它修复了相关的漏洞，重建了受影响系统，并在后续声明中说：「自主的 AI 驱动的攻击工具不再只是理论上的可能性。防御一个在线平台，意味着要把数据和模型表面当作第一类攻击面来对待。」
来源：BBC News、TechCrunch、OpenAI 官方博客
笨笨猪看完这条新闻，觉得测试用的围栏好像有点矮。