AI 元年,Open AI“宫斗”讲了一个什么样的故事?

加深了人们对 AI 安全、伦理和监管的思考或许就是Open AI 罢免风波所带来的最正面的反响。
2023年5月25日,以色列,街头艺术模仿上帝的推文,写道:“不再需要我了,与 ChatGPT 一起享受乐趣。上帝”。摄:Alexi Rosenfeld/Getty Images
美国 人工智能 发展 科技 科技公司

1985年,苹果电脑公司的创办人 Steve Jobs 被自己亲手创立的公司开除,直到 1996年才重新回到公司,成为科技史上的一段传奇。

而在38年后的2023年,科技界再次上演类似的剧情。

11月17日,引领2023年 AI 行业大爆发的公司 OpenAI的创办人兼 CEO Sam Altman 突然被董事会开除。就在一周前,Altman 还站在 OpenAI 首次开发者大会 Dev Day 的舞台上,宣布推出一系列 AI 新功能和未来应用场景。仅仅过了一周,他就不再是 OpenAI 的 CEO。

这场突如其来的风波,在11月迅速成为全球关注的焦点,直到 5 天后,Altman 恢复 CEO 职位,风波才宣告结束。

2024年1月19日,美国《Politico》杂志报导称美国司法部与联邦贸易委员会正在讨论由谁对 Open AI 展开反垄断调查,而知情人士称调查范围包括 Microsoft 与 Open AI 的关系。Microsoft 称它对 OpenAI 没有任何控制权,但在 Opne AI 的罢免风波中,Microsoft 却扮演了极大的角色。

这一切,都与 Open AI 的历史与其独特的结构有关。

OpenAI 前史

OpenAI 是一家专注 AI 研究和开发的新创公司,于 2015 年成立,由 Elon Musk(Tesla、SpaceX CEO)、Sam Altman(前 Y Combinator 总裁)、Greg Brockman(前 Stripe CTO)、Ilya Sutskever(知名机器学习专家)等多位业界领袖共同创办。

最初,OpenAI 是一家非营利组织 OpenAI Nonprofit,所有需要的运算能力、研发成本、人才成本皆由外界捐款支持,并由 OpenAI 董事会所控制。但后来Open AI 渐渐发现只靠捐款无法支撑。

2019 年,OpenAI 决定设计一个“利润上限(capped-profit)”的架构,新的营利子公司能够利用“发行股票”来筹集资金、吸引世界一流的人才加入,但仍需遵循非营利组织 OpenAI Nonprofit 的指导,希望能借此平衡营利和非营利性质之间的关系。

后来,OpenAI 与 Microsoft 建立了战略合作伙伴关系,由 Microsoft 投资 130 亿美元购买 OpenAI Global, LLC 49% 的股份,而另外 51% 的股份仍由 OpenAI Nonprofit、员工和初期投资人的控股公司(Holding Company)持有。

2023年10月29日,波兰,一只假手指向显示 ChatGBT 应用程式的手机萤幕。摄:Jaap Arriens/NurPhoto via Getty Images
2023年10月29日,波兰,一只假手指向显示 ChatGBT 应用程式的手机萤幕。摄:Jaap Arriens/NurPhoto via Getty Images

在这个复杂的结构下,OpenAI 董事会是所有 OpenAI 活动的管理、监督机构,职责是推进 OpenAI 的使命——安全、广泛益处的通用人工智慧(AGI),并决定何时实现 AGI。OpenAI 董事会由 6 位成员组成,分为 3 位内部董事(于 OpenAI 公司内任职)以及 3 位外部独立董事,独立董事不持有 OpenAI 股权,就连 OpenAI 的 CEO Altman 也不直接持有股权。

根据“Open AI 宪章”,“我们的首要信托责任是对人类的信托责任。我们预计需要调动大量资源来完成我们的使命,但我们将始终努力采取行动,尽量减少员工和利益相关者之间可能损害广泛利益的利益冲突。”这是 Open AI 设置如此复杂的结构的原因,但是,这样从非营利组织半路转型的复杂组织架构,从图中就可以发现,掌握权力最大的不是股东,而是董事会(Board of directors),这也成为了 OpenAI 面临这次风波的一个关键因素。

罢免风波骤起

11月17日,OpenAI CEO Altman 在临时受邀参加的董事会会议中被开除。随后,OpenAI 董事长 Greg Brockman 也被通知,将从董事会中除名,他也在不久提出辞呈。

同时,OpenAI 正式对外发布了一篇文章,写道“因为 Sam Altman 与董事会沟通时不坦承,不再相信他继续领导 OpenAI 的能力,将由原来 CTO Mira Murati 担任临时 CEO。”

值得注意的是,Microsoft 作为 OpenAI 最大股东(2023 年初投资 130 亿美元,占 OpenAI 49% 股份),没有被事先通知,Microsoft 股价在事发后应声大跌。

发动罢免的董事包括内部董事 Ilya Sutskever、外部董事 Adam D’Angelo、Helen Toner 和 Tasha McCauley。

其中,Adam D’Angelo 是美国最大知识问答网站 Quora 的创办人和现任 CEO,他在这次风波期间一段被认为是罢免 Sam Altman 事件的始作俑者,因为 Quora 在今年二月也推出了与 ChatGPT 竞争的产品 Poe,不过,他是风波发生后谈判双方唯一能达成一致的董事,也是这次唯一继续留任的 OpenAI 董事会成员。

2023年9月14日,新加坡,OpenAI 执行长 Sam Altman 在 Token2049 会议上发表演讲。摄:Joseph Nair/Bloomberg via Getty Images
2023年9月14日,新加坡,OpenAI 执行长 Sam Altman 在 Token2049 会议上发表演讲。摄:Joseph Nair/Bloomberg via Getty Images

而 Tasha McCauley 是 3D 城市建模公司 GeoSim Systems 的现任 CEO;Helen Toner 则是安全与新兴科技中心 (CSET) 战略总监。在风波发生后,有报导指出,Helen Toner 在这次风波之前曾经与 Sam Altman 发生过冲突,Sam Altman 曾批评 Helen Toner 一篇关于 AI 安全的论文,并试图说服其他董事会成员将 Helen Toner 踢出董事会,这也被认为是发起罢免的可能原因之一。两人在罢免风波结束后均离开了 Open AI 董事会。

在发动罢免行动的董事中,最引人注意的是 Ilya Sutskever。Ilya Sutskever 是OpenAI 的共同创办人,也是其首席科学家。他是“AI 教父”Geoffrey Hinton 研究公司 DNNResearch 的一员,后来成为 Google Brain 的机器学习明星研究员,还在 2012 年时共同发明了卷积神经网路 AlexNet,也是 AlphaGo 论文的作者之一。报导指身为内部董事的 Ilya Sutskever 在这次的风波中,可能因为与 Sam Altman 在 AI 技术发展速度、安全问题上的想法出现分歧,导致倒戈“外部董事”的阵营,是发起罢免的关键人物。

不过,在罢免风波中,Ilya Sutskever 公开表示后悔这次的罢免行动,希望 Sam Altman 回到 OpenAI 担任 CEO,他又连署了员工要求 Altman 回任 CEO 的连署书。在风波之后,他辞去了 Open AI 的董事职务,不过仍留在 Open AI。

投资人与员工压力下峰回路转

在罢免消息传出后,就有报导指出,这次罢免很可能是由首席科学家 Ilya Sutskever 策划的,原因可能是 Ilya Sutskever 与 Sam Altman 在推动商业化和 AI 发展的速度上出现了分歧。

一天之后的11月18日,Sam Altman 发了推文,受到数百位 OpenAI 员工回复“爱心”公开支持,包括临时 CEO Mira Murati 。一群 OpenAI 重要员工要求 OpenAI 董事会辞职,不然就会集体离职出走。

隔天,11月19日 OpenAI 的现任董事会同意辞职,但在找到新的董事会成员之前,会继续进行谈判。Sam Altman 带著“访客证”回到 OpenAI 与董事会谈判,由 Microsoft CEO Satya Nadella 主导谈判。

结果出乎意料的是,OpenAI 董事会任命了前 Twitch 共同创办人Emmett Shear 担任新的临时 CEO。过了不久,Microsoft CEO Satya Nadella 就在推特上宣布 Sam Altman 和 Greg Brockman 将加入 Microsoft,而他也欢迎其他 OpenAI 的员工加入。

11月20日,参与罢免 Sam Altman 的 OpenAI 首席科学家 Ilya Sutskever 公开表示后悔这次的行动。同时,OpenAI 内部流出了超过 95% 的 OpenAI 员工签署(包括 Ilya Sutskever)联合声明,声明指除非董事会辞职并重新任命 Sam Altman否则他们将会辞职。

Microsoft CEO Satya Nadella 当天在接受访问提到,目前无法确定 Sam Altman 是会回到 OpenAI 还是加入 Microsoft,但如果 Sam 和他的团队决定加盟 Microsoft,他们已具备所有必要的智慧财产和法律资源来支持。

最终,11月21日,OpenAI 临时 CEO Emmett Shear 表示如果董事会无法拿出证据说明“为何解雇 Sam Altman”,他也会辞去临时 CEO 的职务。经过一整天的谈判后,OpenAI 宣布 Sam Altman “原则上”恢复 OpenAI CEO 职位,并重组 OpenAI 董事会。

11月29日,Open AI 正式公布Greg Brockman 重任 OpenAI 主席,Sam Altman 重任 OpenAI CEO,Mira Murati 重任 OpenAI CTO,而董事会则改组为 9 人,Microsoft 四位高层成为 OpenAI 董事会的无投票权观察员。

2023年11月6日,美国,OpenAI 执行长 Sam Altman 在 OpenAI DevDay 活动上发表演说。摄:Justin Sullivan/Getty Images
2023年11月6日,美国,OpenAI 执行长 Sam Altman 在 OpenAI DevDay 活动上发表演说。摄:Justin Sullivan/Getty Images

为何罢免 Altman

对外界来说,直至风波结束之后,罢免 Altman 的原因仍然是一个谜团。为数不多的公开发言中,Open AI 董事会的官方说法指 Altman 对董事会不坦承,而前董事Helen Toner 则表示安全问题并不是董事会想要解雇 Sam Altman 的原因,缺乏信任才是原因。她认为解雇 Sam Altman 符合 OpenAI 董事会确保安全建立 AI 系统的职责。

事件的核心人物 Sam Altman 是美国矽谷新创圈的明星创业家,全世界最有名的新创加速器Y Combinator (YC)共同创办人 Paul Graham 在对他的评价是:“你可以把他放到一个全部都是食人族的岛上,五年后再回来看,你会看到他已经成为国王。”

《TIME》杂志访问了 Sam Altman 身边 20 多位同事,虽然多数人形容他和蔼可亲、才华横溢、充满干劲,善于团结投资者和研究人员围绕他的愿景,造福整个社会。但也有人表示他某些时候可能会很狡猾、不诚实,甚至欺骗他人,擅长操纵他人来同意自己的观点,“ Sam Altman 关心使命,关心其他人,关心人性。但如果你观察他的行为,你会发现他确实以极端的方式追求权力。”

Sam Altman 曾经说过他在 OpenAI 没有持有任何股权,唯一原因就是“他热爱这件事”,这个违反人性的回答让人觉得他没那么坦承:“Sam Altman 会不会可能利用他在 OpenAI 的地位来推进他其他事业”。根据《WIRED 》连线杂志的报导,OpenAI 同意从 AI 晶片新创 Rain 购买价值5100万美元的 AI 晶片,有趣的是,这间新创刚好就是 Sam Altman 的个人投资。

而媒体的叙事则多指向另外一个方向。

从多数的报导中,Sam Altman 是一位对于通用人工智慧(AGI)极其乐观的人,他相信 AI 消灭人类的可能性不仅很低,而且在过去一年还在不断下降。2022 年 11 月,Sam Altman 等 OpenAI 管理层得知最大的竞争对手 Anthropic 也在开发一款聊天机器人,为了抢先发布,OpenAI 管理层决定低调发布 ChatGPT,未料5 天后,ChatGPT 用户突破 100 万,OpenAI 成为了矽谷最热门的新创公司,Sam Altman 也突然成为全球明星。

《The Atlantic》的报导指出,“OpenAI 公司内部的安全团队认为应该放慢进度,这些安全团队努力改进 ChatGPT,相比之下,公司的产品部门希望利用这股势头,继续加倍投入商业化。”

这或许正是专注 AI 安全问题的首席科学家 Ilya Sutskever 决定“倒戈”的关键之一。

Ilya Sutskever 曾公开表示 AI 将能解决人类目前面临的所有问题,包括失业、疾病和贫困,但也会同时产生新的问题,“虽然人类对动物有很多感情,但当我们需要在两个城市之间兴建高速公路时,我们并不会去征求动物的同意。这不是因为我们讨厌动物,我们很爱动物,但高速公路对我们来说更重要。我想,这就是我们人类未来与 AGI 相处的基本模式。”

而在 Sam Altman 回到 OpenAI 没多久,新的媒体报导就指出 Sam Altman 是因为一封内部研究人员发送给董事会的信件才被开除的。这封信警告董事会,他们发现了一种可能对人类造成威胁的 AI 技术 Q ,这可能是通用人工智慧(AGI)的重大突破。Sam Altman 之后接受访问时,也间接证实了 Q 的存在。

最值得玩味的则是,OpenAI 在宣布 Sam Altman 回归的官方文章中,提到了未来会继续研究 AI 的安全问题。

2023年6月5日,以色列,OpenAI 首席执行官 Sam Altman 在特拉维夫大学校园发表演讲。摄:Costfoto/NurPhoto via Getty Images
2023年6月5日,以色列,OpenAI 首席执行官 Sam Altman 在特拉维夫大学校园发表演讲。摄:Costfoto/NurPhoto via Getty Images

通用人工智能如何兼顾安全与发展

从商业角度来讲,这场罢免风波无异于一场闹剧。

对一般公司而言,CEO 在一家公司中扮演著重要的角色。作为公司的领导者,CEO 负责制定及实施公司的战略方向。由于 CEO 对公司的经营和企业文化具有重大影响,因此他们对公司的股价和市场表现也有显著的影响。当公司股价表现不佳时,CEO 很可能会被“代表股东”的董事会“开除”,但也表示 CEO 表现好时不会随便被董事会开除,因为开除 CEO 会对股价造成波动。

这种结构设计使得公司中股东、董事会和管理层三方之间形成了一种相对的平衡关系。

但 与典型的营利公司董事会根据财报、股价、对股东利益做出决策相比,OpenAI 的独立董事只按照所谓的“使命”加上自己的判断,来确保 OpenAI 符合人类的最佳利益,正常的商业逻辑很难想像重要的公司命运只掌握在少数人、且大多没有相关利益的成员手上。Open AI 的罢免闹剧对一家正在进行正常经营的公司充分证明其架构有著严重的问题。

但正如纽约时报评论文章所指出的那样,Open AI 的这次风波背后是“一场人工智慧两种不同愿景之间的较量”,而最终,相信“人工智慧是一种变革性的新工具,可能会开启一个繁荣的新时代,并为利用其潜力的企业赚取大量财富”的一方胜出了。

随著 ChatGPT 出现, AI 风险议题迅速成为国际政策界辩论的焦点,不仅有白宫的行政命令,还包括在英国举办的全球 AI 安全峰会,以及在联合国、G-7 和非洲联盟中制定的 AI 标准。从这个意义上来说,Open AI的罢免风波也可看作 AI 的经营者尝试在发展与安全之间寻求平衡,但看起来,“乌托邦主义者占据了主导地位,全速前进。”

美国资讯安全专家 Bruce Schneier 在他最新的文章 AI and Trust 中提到,随著 AI 技术的进步,我们人类会错误地将 AI 视作“朋友”,忽略了它们实际上只是提供“服务”的工具,久而久之,掌控 AI 的科技公司,就会利用消费者对 AI 的信任来监控和操纵消费者,所以政府有责任建立“社会信任”,应该创造一个可以信赖 AI 的环境。

曾经,人工智慧的创造者对这项技术既好奇又恐惧,并试图通过组织治理来限制它的力量。既然自我治理已被宣告失败,加深了人们对 AI 安全、伦理和监管的思考或许就是Open AI 罢免风波所带来的最正面的反响。

读者评论 4

会员专属评论功能升级中,稍后上线。加入会员可阅读全站内容,享受更多会员福利。
  1. 这事过去快一个多月了,当初在X关注过这件事的人,哪怕只是看了中推博主的转述,也知道这篇文章80%的内容,又何必再看这篇文章。时效性和深度两头都不沾,的确有点水

  2. 作为一篇评论文章,这篇文章似乎有点过于流水账了。

  3. 最后一张图的图题错了。