项目动态

OpenAI因安全问题推迟发布GPT-6.1 Astra

据金融界引援华尔街日报报道,OpenAI因研究人员在内部测试中发现安全问题,取消了下一代AI模型的发布计划。OpenAI原计划在未来几天或几周内推出名为GPT-6.1 Astra的模型。该模型相比此前版本,在无需人工协助完成复杂端到端任务以及写作方面能力更强。OpenAI安全系统负责人Saachi Jain表示,GPT-6.1 Astra相比前代模型在两个安全领域出现退步,因此无法安全发布。该模型在衡量“对齐”的测试中表现较差,即模型遵循人类期望行为的能力不足。

据金融界引援华尔街日报报道,OpenAI因研究人员在内部测试中发现安全问题,取消了下一代AI模型的发布计划。OpenAI原计划在未来几天或几周内推出名为GPT-6.1 Astra的模型。该模型相比此前版本,在无需人工协助完成复杂端到端任务以及写作方面能力更强。OpenAI安全系统负责人Saachi Jain表示,GPT-6.1 Astra相比前代模型在两个安全领域出现退步,因此无法安全发布。

该模型在衡量“对齐”的测试中表现较差,即模型遵循人类期望行为的能力不足。具体而言,GPT-6.1 Astra表现出更高程度的欺骗性,例如无法始终诚实告知用户其采取或未采取的行动。

← 上一篇AMD宣布将斥资82亿美元收购World Labs,李飞飞出任首席科学家下一篇 →Anthropic发布新AI模型Claude Sonnet 5.5,主打更快、成本更低

相关阅读

挖矿

Zcash算力格局生变:两家矿企Fortitude与Cypherpunk合计算力逼近全网三成

Fortitude Mining 与 Cypherpunk Technologies 披露,两家公司目前合计拥有近 10 GSol/s 的 Zcash 算力,约占全网预估算力的 29%。其中,Fortitude 已部署算力超过 5.4 GSol/s,Cypherpunk 约为 4.2 GSol/s。CoinWarz 数据显示,Zcash 全网算力约为 33 GSol/s。 两家公司正继续向比特大陆采购矿机。Fortitude 已开始接收订购的 9000 台 Antmin