淖涝网 > 社会 > 正文

​反向出埃及记,为什么OpenAI留不住真大佬?

2024-08-13 04:03 来源:网络 点击:

反向出埃及记,为什么OpenAI留不住真大佬?

文 | 适道

Sam Altman 曾对《纽约客》侃侃而谈:" 马斯克非常渴望拯救世界,但前提他必须是拯救世界的那个英雄。"

对于他本人呢?我想到一个有趣的类比:Altman 毫不在意世界是否毁灭,但前提他必须在诺亚方舟上,而且必须是船长。

不出意外地,OpenAI 又双叒出现了人事地震。

"ChatGPT 架构师 "、联创 John Schulman 官宣转投 Anthropic;去年新加入的产品副总裁 Peter Deng 官宣离职;大跌眼镜的是,Altman 的坚定战友,OpenAI 总裁兼联创 Greg Brockman 也疑似离场。

如果此前 " 人员出走潮 " 是 Altman 扫除异己;那么 Greg Brockman" 长期休假 "(Altman 未回应),或许是这位 " 新王 " 众叛亲离的开始。

至此,OpenAI 最初 11 位创始人或仅存两席:Sam Altman,以及杨立昆得意门生,语言与代码生成部门负责人 Wojciech Zaremba。著名 OpenAI 爆料人 Jimmy Apples 发 X:高层已成空壳,你们快上新吧。

与此同时,OpenAI 创始人之一,Altman 昔日 " 导师 " ——马斯克再次将 Altman、Brockman 告上法庭,理由是创立之初的 " 欺骗和敲诈勒索 "。

适道来细数 "OpenAI 大将叛变 " 历程,探讨 Sam Altman 为何留不住真大佬?

" 登基 " 前传:是安全问题,但也不都是安全

古有 PayPal 黑帮,今有 OpenAI 叛将。

据统计,此前 OpenAI 已有近 75 名重要员工离职,创立了约 30 家 AI 公司。

前研究副总裁 Dario Amodei& 前安全与政策副总裁 Daniela Amodei 兄妹创办 Anthropic,估值 180 亿美元;

前首席科学家 Ilya Sutskever 创办 SSI,估值 100 亿美元;

前工程副总裁 David Luan 创办 Adept AI(被亚马逊收编),估值超 10 亿美元;

前技术负责人 Jonas Schneider 创办机器人创企 Daedalus,估值 4000 万美元;

前研究科学家 Aravind Srinivas 创办 Perplexity.AI,估值估值 30 亿美元;

前技术人员 Tim Shi 创办 AI 客服平台 Cresta Al,估值 16 亿美元;

其中,Anthropic 成长为 OpenAI 的头号对手、前司员工 " 庇护所 ";Perplexity.AI 成长为 OpenAI 最佳套壳者、Google 搜索挑战者 ........

对于普通研究员而言,离开是谋求更好的发展;但对于核心成员,尤其是创始团队而言,离开基本就是因为三观不同。

典型代表为马斯克、Amodei 兄妹,以及 Ilya Sutskever。他们与 Altman 过招后反而巩固了 Altman 在 OpenAI 的地位。

第一步,推翻马斯克 " 暴政 "

2015 年,谷歌收购 DeepMind。马斯克与 PayPal 联合创始人、Founders Fund 创始人 Luke Nosek 联手提出了一个竞购方案,但最终未成功。这成为了马斯克挥之不去的遗憾。

在此背景下,忧心忡忡的马斯克参加了一场载入硅谷史册的晚宴。席间聚集了约十位杰出人物,其中三位尤为耀眼—— Altman、Ilya Sutskever,以及 Greg Brockman。

他们和马斯克探讨了 AI 可能引发的灾难性后果,和成立一个匹敌谷歌项目所需的各项条件。

四人团队认为自己具备成功所有要素:Hinton 得意门生 Ilya Sutskever 是 AI 科学家;Stripe CTO Brockman 是运营高手;YC CEO Sam Altman 能协调所有要素;特斯拉创始人马斯克有钱。

晚宴上,马斯克承诺会投资 10 亿美元,并提议将项目命名为 OpenAI ——将以非营利性的方式运作,专注于研发对人类有益的安全 AI,而不是追求利润。

2017 年,谷歌发表著名 Transformer 论文,揭示了关键在于处理大量数据,这需要巨大算力支持(Ilya Sutskever 在 OpenAI 创立之初已有此判断)。

于是,OpenAI 开始缺钱了(马斯克共为 OpenAI 捐赠了 4400 万美元,并承担了租金)。

Brockman 和其他 OpenAI 成员建议将该组织转变为营利性机构,以便从微软等投资者那里筹钱。

一开始,马斯克坚决反对。但当他意识到成立营利性实体很必要性时,就希望自己获得多数股权、初步董事会控制权,并担任 CEO。马斯克甚至提出将 OpenAI 并入特斯拉。原因是,特斯拉是唯一有希望与谷歌比肩的公司。

眼看没人答应,马斯克又开始游说 OpenAI 研究人员跳槽特斯拉。

终于," 作妖不断 " 的马斯克被董事会投票出局。

走之前,他还诅咒 OpenAI 战胜 DeepMind/Google 的概率为 0%。

不过,与 Altman 密切的人透露,马斯克纯粹是嫉妒 Altman 抢了自己在 AI 领域的风头,他更加关注如何击败 OpenAI,而非 AI 安全。与马斯克亲近的人则坚称,他对 AI 安全的担忧是真实且深刻的,比如开发 xAI 替代 OpenAI。

但无论如何,赶走 " 独裁者 " 马斯克绝对是 Altman 登基的第一步。

第二步,金蝉脱壳,追求利润最大化

2019 年,OpenAI 从微软手中拿到了 10 亿美元,以继续开发 " 好 "AI。

当你拿到 10 亿美元时,你就必须回报 " 金主 ",这其实已经让一些元老心怀疑虑。

但 Altman 相当灵活——不留恋非营利组织的名声,留恋非营利组织的壳子。

他创造性地构建了一种全新的架构。一方面,OpenAI 能像普通公司运作,比如筹资、发放员工股权;另一方面,OpenAI 投资者的回报有上限。

本质上,OpenAI 成为了一个由非营利组织董事会控制的营利公司。

这听起来就不稳定,团队内部分裂开始逐步出现。

2021 年,Dario Amode 创立 Anthropic 时说:

"OpenAI 内部有一群人,当我们创造 GPT-2 和 GPT-3 后,对两件事有非常强烈的信念。一是认为这些模型中投入的计算资源越多,它们会变得越好,几乎没有尽头。我认为现在这个观点得到了更广泛的认可,但我们是最早的信仰者。

第二点是认为,需要除了扩大模型规模之外的东西,那就是对齐或安全性。因为只通过增加计算资源并不能告诉模型它们的价值观。所以我们秉持着这个想法,成立了自己的公司。"

虽然 Anthropic 看起来更加 " 安全 ",并在准确性方面下足了功夫。例如,Anthropic 使用了大量复杂的事实问题来针对模型已知的弱点,将答案分为正确答案、错误答案(幻觉)、承认 " 不知道 "。相应地,Claude3 可以表示自己不知道答案,而不是提供不正确的信息。除了更准确的回复,Claude 3 甚至还能 " 引用 ",指向参考材料中的精确句子来验证他们的答案。

但正如 OpenAI 回报微软,Anthropic 也要回报亚马逊,以合乎道德的方式经营一家大型 AI 公司几乎是不可能的。

最近,Anthropic 就被曝 24 小时抓取百万次网站数据等等。

" 质疑、理解、成为 " 或许才是大模型初创公司的必经之路。

第三步,清洗叛徒 " 黄袍加身 "

陈桥兵变,宋太祖赵匡胤在半夜熟睡中,被兵变将士们偷偷地将黄袍披在身上。第二天,他痛苦地接受了大家的 " 逼迫 "。主打一个民心所向。

而在去年 11 月 OpenAI 宫斗中,也上演了一出 " 硅谷版 " 黄袍加身。彼时,数百名 OpenAI 员工签署联名信,要求所有 " 叛变 " 董事会成员辞职、恢复 Altman 职位,否则签署联名信的员工将采取行动," 可能会加入 Altman 和 Brockman 在微软新成立的子公司 "。

这威望和影响力,简直是所有 CEO 的梦想。

等等,故事还有另一个版本。

其实这场风波,除了 " 比心队列 ",还有一个关键因素——金钱。

就在逼宫事件前不久,OpenAI 刚刚为员工组织了一场股票出售活动,让大家有机会套现部分股权。结果,钱还没拿到手呢,老板先被干下去了。

一些投资者表示,如果 Altman 不回归,他们会暂停执行要约收购。眼看拿这笔钱提前退休,居然被 " 大恶人 "Ilya Sutskever 搅黄了!换谁能不生气。

因此,签署请愿书确实是民心所向。而且,当你身边 95% 同事都签名支持时,你很可能也会签上字。

至于 Ilya Sutskever 逼宫失败与被迫出走,除了不那么懂人性之外,还和 Altman 极强的弄权能力有关,具体如下。

" 新王 " 剪影:专权、欺骗、牟利、放任

时间回到 2016 年。彼时,OpenAI 办公地点是 Brockman 的私人公寓——沙发、厨柜,甚至床铺,都是员工的工作台。这个不起眼的地方,居然让 20 位世界顶尖的 AI 大神齐聚一堂。

当时 Altman 和马斯克不常驻,是 Brockman 和 Ilya Sutskever 携手撑起了团队。

Ilya Sutskever 是 AI 领域的领军人物,Brockman 则被视为 OpenAI 业务运营的顶梁柱,

员工们记得,他们曾与 Ilya Sutskever 一同漫步于旧金山大街,深入讨论宏观议题,自问是否在正确的研究道路上踟蹰。Ilya Sutskever 对 AI 有着超前洞察力,他能用简单的类比来阐释复杂的技术概念,比如将神经网络比作一种特殊的计算机程序或电路。

甚至在 OpenAI 成立之初,Ilya Sutskever 就意识到 AI 的巨大飞跃不是来自某个特定的调整或新发明,而是源自海量数据的积累,就像为引擎不断注入燃料。

也正是这个原因。2017 年,谷歌 Transformer 论文一经发表,Ilya Sutskever 就能及时带领 OpenAI 探索并采用 Transformer 架构,成为行业内最早采纳这项先进技术的先锋之一。

Brockman 的勤奋众所周知。一位前员工回忆,每天早晨到达办公室时,总能看到 Brockman 对着电脑,晚上离开时,他也在键盘上敲打。几年后,Brockman 的婚礼在 OpenAI 办公室举行,婚礼由 Ilya Sutskever 主持,这一场景成为了公司文化的一部分。

在 Brockman 和 Ilya Sutskever 加入 OpenAI 时,他们已经实现财富自由了。披星戴月只不过是被一个共同的梦想驱动——利用 AI 为人类未来做贡献。

后续如我们所知,二人分道扬镳。不过,相隔几个月 " 被逼走 " 的二人未来也可能殊途同归。

第一宗罪:专权

很多人可能将 11 月宫斗视为 Altman 的无妄之灾,实际并非如此。

故事还是要从 Anthropic 说起。

起因是,Altman 与董事会成员 Helen Toner 本来就不对付。

去年 10 月,Toner 在乔治城大学的智库发表了一篇论文,倾向于认为 Anthropic 在安全性更胜一筹,并轻微批评 ChatGPT" 偷工减料 " 发布。

尽管论文结论挺温和,但 Altman 气炸了,并开始私下与董事会成员逐一接触,想把 Toner 投出去。

而且 Altman 颠倒黑白,声称 Toner 的一位支持者也想逐出她。

最终结果大家都知道了,被投出去的人是 Altman。

第二宗罪:欺骗

董事会之所以想让 Altman 走人,主要是不信任他。

比如去年 7 月,OpenAI 成立超对齐团队,由 Ilya Sutskever 和 Leike 领导。团队旨在为公司内部和非 OpenAI 模型的安全性提供研究。

但逃不过 " 先野蛮生长,再安全有序 " 的规律。OpenAI 对 AGI 安全治理的优先级,显然放在了推出 " 闪亮产品 " 之后。初期承诺给超级对齐团队的 20% 算力,也遭不断蚕食,伤及 " 建立一个更负责任的 AGI" 员工的信心。

有趣的是,本次转投 Anthropic 的 John Schulman 离职也和 AI 对齐相关:" 希望加深对 AI 对齐的关注,并开启我职业生涯的新篇章,让我可以重返实际的技术工作。"

今年 7 月末,OpenAI 还把安全部门高级主管 Aleksander Madry 调离了安全岗位,并给他重新分配了 "AI 推理 " 的工作。

但 OpenAI 告诉媒体,Madry 到新职位上后,仍致力于安全工作。Altman 居然还强调,OpenAI 坚持了 " 给整个安全团队至少 20% 算力 " 的承诺。

请注意,此时 " 超级对齐团队 " 被他偷偷换成了 " 整个安全团队 "。

第三宗罪:牟利

如果欺骗升级呢?小道消息,去年董事会对 Altman 的驱逐和他隐瞒投资有关。

今年 6 月,WSJ 指出—— Altman 投资了 400 多家公司,所持股份价值至少有 28 亿美元。这个隐秘且庞大的投资帝国因 OpenAI 成功而直接受益。

表面上,Altman 作为 OpenAI CEO,年薪仅 6.5 万美元,且不持有任何股份,原因是不想让金钱腐蚀 AI 的安全发展。

实际上,在 Altman 的投资帝国中,越来越多的公司直接和 OpenAI 做起了生意,要么是 OpenAI 客户,要么是主要业务合作伙伴。

例如,OpenAI 正与核能创业公司 Helion 达成协议,希望通过后者购买大量电力,为数据中心供电。幕后老板正是 Altman。

又例如,OpenAI 想付费使用 Reddit 内容来训练 ChatGPT。而 Altman 和他所控制的实体持有 7.6% 的 Reddit 股份。甚至早在 2014 年,Altman 还短暂地担任过 Reddit CEO。合作传出后,此前疯狂掉血的 Reddit 股价大涨 10%,结果就是 Altman 所持股份一举增长 6900 万美元,达到 7.54 亿美元。

第四宗罪:放任

Altman 之所以对 AI 安全放任,有一部分原因是他非常乐观?

如果你知道真正答案,可能会五味杂陈。

2015 年,Altman 就明确地表达过自己的担心,认为高级 AI 会成为人类生存的最大威胁。甚至在早期谈话中,他还用一种轻佻语气提到,AI 有可能终结世界。

甚至面对《纽约客》记者,Altman 透露,自己早就储备了枪支、黄金、弹药、抗生素,以及以色列国防军的防毒面具。他还提到自己在美国加州 Big Sur 有一片地,确保能在世界末日避难。

而当媒体再次提出时,Altman 口风又变了:这不就是每个小男孩梦想的秘密基地吗?

而他的妹妹安妮表示,这很符合她对自己哥哥的了解——一个极度注重安全、准备在最坏情况下囤积资源的人。可以推测,Altman 确实拥有足够的储备,只是懂得闭嘴了。

据称,Altman 的野心也在不断扩张。例如,他正在进行普遍基本收入的研究,以防 AI 导致大规模失业;他推出 Worldcoin 加密货币,该项目通过扫描眼球来分配收入。

了解 Altman 的人透露,他的目标远不止于此,他甚至想成为 " 世界之王 ",接管整个世界。反正,Altman 确实曾考虑竞选加州州长。而 Altman 曾经的导师 Paul Graham 说:我认为他的目标是掌控整个未来!