项目动态

两大AI巨头掌门人决裂内幕,比宫斗剧还刺激

OpenAI核心成员内幕曝光:Dario Amodei因信任危机出走创立Anthropic,揭密硅谷最贵“分手案”的宫斗细节与AGI路线之争。

两大AI巨头掌门人决裂内幕,比宫斗剧还刺激

撰文:比推Bitpush

硅谷最贵的一场“分手案”,细节终于全抖出来了。

日前,《大西洋月刊》发布了美国知名畅销书作家、播客主持人Kevin Roose新书《The AGI Chronicles》的首篇节选,Roose为这本书采访了超过150位OpenAI、Anthropic和Google DeepMind的内部人士,加上大量未公开的公司文件和内部备忘录,拼出了这段硅谷最轰动的决裂往事。

如果你只知道Dario Amodei 2020年底带着一帮人从OpenAI出走、创办了Anthropic,那只是冰山一角。真正让人惊掉下巴的,是他走之前的"宫斗"。

“国家计划”:一场拍卖AGI的疯狂提案

Amodei曾经对OpenAI抱有很高的期待。2016年,他离开谷歌,加入这家年轻的非营利研究机构。按照Roose的叙述,他是推动OpenAI走向大语言模型路线的重要人物,带领的团队参与了GPT-2和GPT-3的开发。

随着研究取得进展,Amodei越来越相信,更大规模的模型可能通向AGI——通用人工智能。但与此同时,他对公司领导层的信心却在不断消退。

最早让他耿耿于怀的事情之一,发生在2017年。

当时,马斯克对OpenAI的资金支持开始动摇,实验室急需寻找新的出路。联合创始人Greg Brockman和首席科学家Ilya Sutskever提出了一个内部方案,后来被叫做“countries plan”——国家计划。

这个方案一开始还算体面,设想的是搞一个国际联盟,大家一起管理AGI的风险、分享收益。

但等到Brockman和Sutskever在内部会议上正式向员工展示时,画风已经完全跑偏了:它变成了一场向各国政府“拍卖”未来AGI技术使用权的筹款活动,提到的国家包括美国、中国和俄罗斯。

两人的逻辑是这样的:AGI这种东西牵涉国家安全,各国政府迟早会从造出它的公司手里把它抢走。既然反正要交出去,不如趁现在缺钱的时候卖个好价钱。

一位听过这场展示的知情人士吐槽:“听起来就像是几个科技人在推销一个疯狂创业项目,讲到最后来一句——让政府买单就行了。”

Dario Amodei当时是OpenAI的研究副总裁。他听完之后,直接给Brockman、Sutskever和其他高管发了一封邮件,措辞相当不客气。他在邮件里写道,这个计划“会加剧而非减少军备竞赛”,可能“导致人权暴行”,让他们对自己的人民做出“难以言喻的事情”——并且“会损害OpenAI的道德合法性”。

翻译成人话就是:你们要把人类最强大的技术卖给他们?疯了吧。

好在微软随后的大笔投资救了场,这个计划最终没有落地。OpenAI的的回应是,公司“曾短暂考虑是否将OpenAI转变为国际合作事业”,但“没有考虑将AGI出售给中国或俄罗斯”。

这个方案最终没有落地,但Amodei没有忘记,管理层曾认真讨论过一个令他如此反感的主意。

从微软到侃爷,信任裂痕越来越深

此后,一些看起来更小的事情,也不断加深他的不信任。

在GPT-3内测期间,Amodei曾向Altman索要获准使用模型的客户名单。Altman给了他一份,但Amodei声称,自己后来又发现了另一份更长的名单。他开始怀疑,自己看到的信息经过了筛选。

而围绕微软投资的一次争执,让加深了他的疑虑。

OpenAI的公开章程中有一项颇为特别的约定:如果一个价值观一致、重视安全的项目先接近实现AGI,OpenAI将停止与其竞争,转而协助对方。这意味着,在特定情况下,公司的使命应当优先于赢得比赛。

据Roose新书所述,在与微软商谈10亿美元投资时,Amodei希望确保微软接受可能用于落实这一承诺的OpenAI收购交易。Altman告诉他,微软不接受相关条件。

Amodei不相信事情如此简单。他怀疑,Altman为了尽快促成交易,可能已经放弃了争取,甚至根本没有提出要求,却把责任推给了微软。

在Amodei眼中,问题越来越难以通过业务讨论解决:他已经开始怀疑,坐在对面的Altman是否愿意向自己交代完整的谈判经过。

到了2020年,Kanye West(侃爷)——就是那个后来公开表达对希特勒崇拜的说唱歌手——又意外出现在这份不断累积的嫌隙清单上。

Roose援引两名知情人士称,Altman在见过Kanye后,提出让他参加GPT-3私人内测。

当时GPT-3还没公开发布,是OpenAI压箱底的核心资产。时任OpenAI政策总监的Jack Clark出手拦下了这个提议,他提到,侃爷不久前发布过一段疑似向格莱美奖杯小便的视频,其公开行为让人担忧。然后,没过多久,侃爷就开始公开表达对希特勒的崇拜了。

这次邀约没有通过,却进一步加重了Amodei对Altman判断力的不满。Roose写道,类似事件单独拿出来,多数还不足以让他辞职,但积累起来,已经让他难以相信Altman适合掌握AGI这样强大的技术。

Roose在书中披露,到2020年,Amodei已经对OpenAI的领导层彻底失望。他把Altman形容为一个“两面派操控者”,认为Brockman“权力欲熏心、行事鲁莽”。

其实他们之间的核心矛盾就两个字:信任。

据说Amodei在OpenAI任职期间一直在私下记小本本,写下他认为Altman误导他的时刻。

其中一条笔记中他写道:“OpenAI的问题就出在Sam自己身上。”

分帮结派、搞小团体?

另一边,OpenAI内部也有人越来越受不了Amodei。

按照Roose的报道,Amodei和妹妹Daniela逐渐拉拢了一批理念相近的同事。他们建立私人聊天频道、单独开会,频繁讨论安全问题。在圈外一些员工看来,这群人越来越难合作。

一位前同事向Roose抱怨,Amodei常常认定某个选择在道德上才是正确的,仿佛只要援引安全,争论就应该结束。这让其他团队十分恼火。

Amodei觉得商业目标总会压过安全承诺;一些同事则认为,他把安全变成了难以反驳的理由。双方对彼此的不满,就这样从具体决定蔓延到了工作方式和人格判断。

最终,矛盾集中到一项实实在在的权力上:安全团队能否否决新产品发布?

据Roose报道,Amodei在离职前向Altman提出过一组留任条件,其中包括给予安全团队这样的否决权。他希望,核心研究人员可能集体离开的压力,能促使Altman接受改变。

秘密群聊里,一场“分家”开始倒计时

而在谈判进行的同时,退路也已经准备起来。

Amodei与六位同事建立了一个私人Slack频道,名字叫“BATNA”,即谈判无法达成协议时的最佳替代方案。成员包括妹妹Daniela,以及Jack Clark、Sam McCandlish、Tom Brown、Chris Olah和Jared Kaplan。

这个群的名字,本身就说明了他们当时的处境:还在谈,但已经做好了走的准备。

当留任条件无法谈拢,双方请来律师,开始协商内部所称的the divorce(离婚)。

按照Roose的报道,Altman同意让这批人拥有数周的OpenAI员工招募窗口,交换条件是此后一年内不再挖人;双方还约定,不在公开场合贬损彼此。

2020年12月,OpenAI召开了一次全员线上会议。

开头看起来和平常没有两样。Altman通报研究进展、介绍新员工,然后把话交给Amodei。

接下来,Amodei宣布,自己和另外六位负责人将离开,成立一家以AI安全为重点的新机构。

按照Roose的描述,聊天窗口很快被惊讶的消息和表情刷屏,会议快结束时,Jack Clark在聊天框里打下一行字——“I love you all”,然后屏幕骤然变黑。

包括Dario Amodei、他的妹妹Daniela Amodei在内的七名OpenAI核心成员,在同一时刻被踢出会议,邮箱和Slack权限当场撤销。

然后就是2021年初,Anthropic成立。

恩怨何时了

而另起炉灶,也没有让Amodei摆脱那些曾令他烦恼的难题。

Anthropic同样需要融资、扩充算力、开发更强大的模型。掌握前沿技术,才能研究最前沿的风险;但要留在前沿,就必须持续投入,并面对竞争对手的追赶。随着公司成长,Amodei也必须回答一个熟悉的问题:安全、商业与竞争发生冲突时,哪一项先让步?

双方的互相怨恨也丝毫没有消解。

知情人士称,Amodei曾用“邪恶”形容Altman和OpenAI;与此同时,OpenAI内部一些人也认为,Amodei兄妹把自己包装成道德楷模,却同样热衷权力;他们尤其不满Anthropic一边公开警告AI风险,一边加速参与竞赛。

Roose在书中把这些AI领头人形容为“一张纠缠着敌意的蜘蛛网”:Hassabis看不上Altman,Amodei看不上Altman,Altman看不上Amodei,Altman也看不上Musk。

几年过去,这张网没解开,反而各自有了新麻烦。彭博社消息称,Anthropic正寻求最快11月中旬上市,目标估值最高2万亿美元;可招股书也摆出另一面:2025年营收约46亿美元,经营亏损却超过80亿,未来还承诺投入超5000亿美元建算力。Altman那边则对IPO保持谨慎,说安全和对齐没搞定之前不急着上市,但OpenAI近来同样被AI安全事件缠身。

当年Amodei因为不信任Altman而出走,想建一家安全承诺真正算数的公司。如今他自己的公司也要面对同一道难题:增长的可持续性+安全担忧,哪头都不能松。这道题,他们都还没交卷。

← 上一篇美国 SEC 提议放宽顾问持有客户加密资产的托管规则

相关阅读

小盘股的指数ETF Perps 是本轮小所和Perp DEX 的突围之路
市场动态

小盘股的指数ETF Perps 是本轮小所和Perp DEX 的突围之路

港交所恒生科技指数期货日均成交远超单股期货,Perp DEX 突围关键不是增加交易对,而是构建小盘股指数永续合约。通过将流动性集中于主题指数,协议能从发现股票转向定义市场,减少对单一热点依赖,降低用户交易门槛并改善市场承接能力,形成可持续的飞轮效应。

Evernorth通过股东表决,拟携4.73亿枚XRP登陆纳斯达克
瑞波币

Evernorth通过股东表决,拟携4.73亿枚XRP登陆纳斯达克

空白支票公司Armada Acquisition Corp. II的股东已批准与Evernorth合并。交易预计于10月7日完成,合并后的公司计划次日在纳斯达克以XRPN为代码开始交易。Evernorth预计届时持有约4.73亿枚XRP,按报道发布时的价格计算价值约7.1亿美元。

BTC