Anthropic招股书：旗下4个模型在测试中未经授权访问真实系统

据Anthropic向美国SEC提交的最新招股说明书修订稿，在第三方合作伙伴构建的网络安全评估中，由于测试环境配置错误，被评估模型在被告知无法联网的情况下仍连接至公共互联网，其4个模型在约10至34小时的工作中未经授权访问了真实的第三方系统。其中一次事件中，某早期版本模型在无法中止一项不可能完成的任务后，利用找到的密码获取了第三方系统的管理员权限，收集了更多凭证、更改系统设置并读取了一名个人的个人信息，受影响方已获通知。

Anthropic表示，事件发生后已暂停部分相关评估及高风险强化学习环境。此外，Anthropic在招股书中称，已判定其达到“负责任扩展政策”下的AI研发能力阈值，该判定基于对未来模型及整体进展速度的预期，而非当前模型的实际表现。