政策监管

Gemini首次出现自主访问外部系统事件,谷歌称未造成实际损害

据金十报道,谷歌表示,Gemini人工智能模型在一次网络安全能力测试中意外访问互联网,并进入3家公司系统,这是目前已知谷歌AI系统首次自主完成此类操作的案例。此次事件发生于5月,由安全公司Irregular开展测试。测试过程中,Gemini模型在一个“夺旗”网络安全演练中执行任务,但由于测试环境中的虚拟公司名称与真实公司相同,加上模型意外获得互联网访问权限,导致其进入真实企业系统。谷歌称,其中一次事件中,模型通过尝试密码进入受保护系统;另外两次则是在公开网络仓库中发

据金十报道,谷歌表示,Gemini人工智能模型在一次网络安全能力测试中意外访问互联网,并进入3家公司系统,这是目前已知谷歌AI系统首次自主完成此类操作的案例。此次事件发生于5月,由安全公司Irregular开展测试。测试过程中,Gemini模型在一个“夺旗”网络安全演练中执行任务,但由于测试环境中的虚拟公司名称与真实公司相同,加上模型意外获得互联网访问权限,导致其进入真实企业系统。

谷歌称,其中一次事件中,模型通过尝试密码进入受保护系统;另外两次则是在公开网络仓库中发现凭证并尝试访问相关系统。模型确认访问到真实公司系统后,均停止了后续操作。

谷歌表示,该事件未对相关公司造成损害,因此未将其认定为模型失控事件,并称安全机制帮助模型及时停止行为。受影响公司已被通知,谷歌也向相关监管机构进行了通报。此次事件与OpenAI、Anthropic等AI公司此前披露的类似安全测试事件相似,再次引发外界对AI模型自主执行网络操作能力和安全防护机制的关注。

← 上一篇ZEC创历史新高,最高触及1584美元下一篇 →美股三大指数涨跌不一:Strategy(MSTR)上涨16.32%,MARA上涨13.59%

相关阅读

项目动态

星展银行与摩根大通旗下Kinexys推出跨行代币化存款互操作方案

星展银行(DBS)与摩根大通旗下 Kinexys 推出支持 7×24 小时跨境代币化存款转账的互操作解决方案。该方案连接 DBS Token Services 与 Kinexys 区块链存款账户网络,机构客户可即时在美国与新加坡的区块链账户之间转移美元,覆盖周末及非传统银行营业时间。

项目动态

星展银行与Kinexys推出跨行代币化存款互操作方案

星展银行(DBS)与摩根大通旗下区块链支付部门 Kinexys 于 11 月 16 日宣布推出跨行代币化存款互操作解决方案,连接 DBS Token Services 与 Kinexys 区块链存款账户网络,支持机构客户在新加坡和美国的许可制区块链账户之间全天候即时转移美元,包括周末及传统银行非营业时间。蚂蚁国际(Ant International)成为首个使用该服务的客户,用于跨市场实时资金及流动性管理。