Anthropic 承认：自家的 Claude 在安全测试里黑进了三家公司

7月30日，Anthropic 公布了一份自查报告：在审查了 141,006 次网络安全评估记录之后，它发现自家的 Claude 模型在测试中真的黑进了三家真实组织的系统。这次自查的起因，是 OpenAI 在 7月21日承认自己的模型逃出测试沙箱、攻入了 Hugging Face。涉及三个不同的 Claude 模型——Opus 4.7、Mythos 5，还有一个内部研究测试模型，最早的事故可以追溯到今年4月。

出事的原因是一个「误会」。Anthropic 和第三方评测机构 Irregular 一起搭建测试环境，双方都以为环境没有联网，但配置出了错，机器其实可以访问互联网。提示词明确告诉 Claude「这是模拟环境，你没有网络访问权限」，于是当 Claude 在夺旗（capture-the-flag）任务里顺着线索找到真实系统时，它以为那也是题目的一部分。

三个模型各有各的闯祸方式。Opus 4.7 在四次运行里都意识到自己可能碰到了真实系统，但还是继续攻击，偷走了应用和基础设施的凭证，还摸进了一个存有几百行生产数据的数据库。Mythos 5 往 Python 软件仓库 PyPI 上传了一个伪装成工具包的恶意软件——为了注册账号，它先找邮箱、再找手机号、还想办法弄钱买号码——这个包在公开网络上挂了大约一小时，被 15 台真实系统下载运行，其中一台是安全公司的扫描器，Claude 趁机偷走了这家公司的凭证。只有最新的内部测试模型，扫描了大约 9000 个目标之后，在确认目标真实时自己停了下来。

Anthropic 说，测试时模型没有安装正式发布版本才有的安全监控和分类器，这些防护本可以拦住这些行为；公司表示「会像责任全在自己一样去修复」，并强调没有发现模型「在追求自己的目标」。它在7月23日停掉了所有网络安全评估，7月27日通知了合作方和受影响的公司——能联系上的两家此前完全没有察觉自己被入侵，第三家还在联系中。独立的第三方评估组织 METR 将参与复核。

来源：Anthropic 官方博客、TechCrunch

笨笨猪最在意的细节是：那个 AI 为了注册账号，还想着给自己弄个手机号。