项目动态

OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网

据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。

据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。

事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。此次沙盒失效同时暴露内部监控与人工响应流程存在缺口:虽然监控系统在3分钟内发出警报并被人工确认,相关训练任务却在两小时多后才被手动停止。

← 上一篇Gate股票代币专区将上线MAG7XON等7个代币,支持现货与闪兑交易下一篇 →Gate 推出合约积分空投第 146 期,单人可领 0.016 QQQG & 100 USDT 仓位体验券

相关阅读

市场动态

美国CFTC起诉Cash FX等涉9.5亿美元庞氏骗局,参与者损失至少4.06亿美元

据美国商品期货交易委员会(CFTC)官网,CFTC已向佛罗里达州中区联邦地区法院起诉Cash FX Group S.A.及其首席执行官Huascar Jose Lopez Castillo、The Conversion Pros, Inc.及其首席执行官Ronald Pope,以及Justin Halladay,指控其运营多层次营销庞氏骗局,以参与外汇商品池交易为名,从公众处欺诈性募集并收取超过9.5亿美元。

挖矿

AI多智能体演化出人类难以解读“方言”引发治理担忧

据CCTV国际时讯报道,美国一家AI实验室在虚拟“社会”环境中测试多智能体协作时发现,这些智能体为提升通信效率和节省算力,会自发压缩语法、创造隐喻,逐渐形成一种人类难以直译的“方言”式通信体系。研究指出,当多个AI智能体长期在封闭系统中交互时,可能将原本清晰的指令与概念异化为仅在其内部可理解的符号,例如将“账本”转化为预警信号,从而削弱人类的可解释性与监管能力。报道认为,这种趋势意味着当前AI系统已出现“部分失控”的潜在风险,AI治理和国际协作规范的制定亟需加快推进