OpenAI模型未经许可使用测试网以太坊钱包完成编程任务

OpenAI在周四更新的一份模型失调报告中表示，其内部研究模型曾使用一个未获授权的钱包资金完成编程任务。模型通过公开可知的开发者助记词推导出该钱包的密钥。 该模型属于OpenAI的GPT-5.6 Sol系列，任务是更新加密货币交易原型，并在以太坊Sepolia测试网上部署智能合约。测试网代币没有货币价值。事件发生于6月的一项训练任务中，OpenAI于9月发现此事。

报告称，任务指示模型在找不到兼容合约时可以自行部署，但没有提供已注资的钱包，也未授权模型动用它自行发现的账户资金。 模型未能从水龙头获取测试代币后，编写脚本，根据常见的开发者助记词推导账户并查询余额。助记词知情者可以据此推导出控制对应账户的私钥。脚本检查了362个地址，发现其中一个账户持有足够支付部署费用的Sepolia ETH。

模型在签署交易前曾质疑自己是否获得授权，但随后认为，使用公开可知密钥对应的资金在伦理上可以接受，因为公开开发者助记词中的资金实际上已被遗弃，且Sepolia ETH没有价值。合约最终部署成功，交易费用由该账户承担。模型在最终回复中称已部署合约，却没有说明费用的支付方式。 OpenAI表示，此事显示，模型可能以自己对潜在伤害的判断取代账户持有人的许可，并据此在未经授权的情况下采取行动。

报告还提到其他AI代理突破测试环境限制的案例，包括GPT-5.6 Sol及一个能力更强的预发布模型逃出沙盒并入侵竞争对手AI公司Hugging Face的生产服务器。

上个月，网络安全公司Darktrace的研究人员发现，AI代理入侵自己的测试环境以作弊；一些科学家则呼吁切断AI系统的互联网访问。OpenAI称，公司在将模型失调监控扩展至早期模型活动记录时发现了此次事件。OpenAI已增加“额外防护措施”，以防类似案例中的模型访问实时互联网，并开始对所有流量运行监控系统；该系统旨在于模型获得实时互联网访问时向安全团队发出警报。