1985年,蘋果電腦公司的創辦人 Steve Jobs 被自己親手創立的公司開除,直到 1996年才重新回到公司,成為科技史上的一段傳奇。
而在38年後的2023年,科技界再次上演類似的劇情。
11月17日,引領2023年 AI 行業大爆發的公司 OpenAI的創辦人兼 CEO Sam Altman 突然被董事會開除。就在一週前,Altman 還站在 OpenAI 首次開發者大會 Dev Day 的舞台上,宣布推出一系列 AI 新功能和未來應用場景。僅僅過了一週,他就不再是 OpenAI 的 CEO。
這場突如其來的風波,在11月迅速成為全球關注的焦點,直到 5 天後,Altman 恢復 CEO 職位,風波才宣告結束。
2024年1月19日,美國《Politico》雜誌報導稱美國司法部與聯邦貿易委員會正在討論由誰對 Open AI 展開反壟斷調查,而知情人士稱調查範圍包括 Microsoft 與 Open AI 的關係。Microsoft 稱它對 OpenAI 沒有任何控制權,但在 Opne AI 的罷免風波中,Microsoft 卻扮演了極大的角色。
這一切,都與 Open AI 的歷史與其獨特的結構有關。
OpenAI 前史
OpenAI 是一家專注 AI 研究和開發的新創公司,於 2015 年成立,由 Elon Musk(Tesla、SpaceX CEO)、Sam Altman(前 Y Combinator 總裁)、Greg Brockman(前 Stripe CTO)、Ilya Sutskever(知名機器學習專家)等多位業界領袖共同創辦。
最初,OpenAI 是一家非營利組織 OpenAI Nonprofit,所有需要的運算能力、研發成本、人才成本皆由外界捐款支持,並由 OpenAI 董事會所控制。但後來Open AI 漸漸發現只靠捐款無法支撐。
2019 年,OpenAI 決定設計一個「利潤上限(capped-profit)」的架構,新的營利子公司能夠利用「發行股票」來籌集資金、吸引世界一流的人才加入,但仍需遵循非營利組織 OpenAI Nonprofit 的指導,希望能藉此平衡營利和非營利性質之間的關係。
後來,OpenAI 與 Microsoft 建立了戰略合作夥伴關係,由 Microsoft 投資 130 億美元购买 OpenAI Global, LLC 49% 的股份,而另外 51% 的股份仍由 OpenAI Nonprofit、員工和初期投資人的控股公司(Holding Company)持有。
在這個複雜的結構下,OpenAI 董事會是所有 OpenAI 活動的管理、監督機構,職責是推進 OpenAI 的使命——安全、廣泛益處的通用人工智慧(AGI),並決定何時實現 AGI。OpenAI 董事會由 6 位成員組成,分為 3 位內部董事(於 OpenAI 公司內任職)以及 3 位外部獨立董事,獨立董事不持有 OpenAI 股權,就連 OpenAI 的 CEO Altman 也不直接持有股權。
根據「Open AI 憲章」,「我們的首要信託責任是對人類的信託責任。我們預計需要調動大量資源來完成我們的使命,但我們將始終努力採取行動,儘量減少員工和利益相關者之間可能損害廣泛利益的利益衝突。」這是 Open AI 設置如此複雜的結構的原因,但是,這樣從非營利組織半路轉型的複雜組織架構,從圖中就可以發現,掌握權力最大的不是股東,而是董事會(Board of directors),這也成為了 OpenAI 面臨這次風波的一個關鍵因素。
罷免風波驟起
11月17日,OpenAI CEO Altman 在臨時受邀參加的董事會會議中被開除。隨後,OpenAI 董事長 Greg Brockman 也被通知,將從董事會中除名,他也在不久提出辭呈。
同時,OpenAI 正式對外發布了一篇文章,寫道「因為 Sam Altman 與董事會溝通時不坦承,不再相信他繼續領導 OpenAI 的能力,將由原來 CTO Mira Murati 擔任臨時 CEO。」
值得注意的是,Microsoft 作為 OpenAI 最大股東(2023 年初投資 130 億美元,佔 OpenAI 49% 股份),沒有被事先通知,Microsoft 股價在事發後應聲大跌。
發動罷免的董事包括內部董事 Ilya Sutskever、外部董事 Adam D’Angelo、Helen Toner 和 Tasha McCauley。
其中,Adam D’Angelo 是美國最大知識問答網站 Quora 的創辦人和現任 CEO,他在這次風波期間一段被認為是罷免 Sam Altman 事件的始作俑者,因為 Quora 在今年二月也推出了與 ChatGPT 競爭的產品 Poe,不過,他是風波發生後談判雙方唯一能達成一致的董事,也是這次唯一繼續留任的 OpenAI 董事會成員。
而 Tasha McCauley 是 3D 城市建模公司 GeoSim Systems 的現任 CEO;Helen Toner 則是安全與新興科技中心 (CSET) 戰略總監。在風波發生後,有報導指出,Helen Toner 在這次風波之前曾經與 Sam Altman 發生過衝突,Sam Altman 曾批評 Helen Toner 一篇關於 AI 安全的論文,並試圖說服其他董事會成員將 Helen Toner 踢出董事會,這也被認為是發起罷免的可能原因之一。兩人在罷免風波結束後均離開了 Open AI 董事會。
在發動罷免行動的董事中,最引人注意的是 Ilya Sutskever。Ilya Sutskever 是OpenAI 的共同創辦人,也是其首席科學家。他是「AI 教父」Geoffrey Hinton 研究公司 DNNResearch 的一員,後來成為 Google Brain 的機器學習明星研究員,還在 2012 年時共同發明了卷積神經網路 AlexNet,也是 AlphaGo 論文的作者之一。報導指身為內部董事的 Ilya Sutskever 在這次的風波中,可能因為與 Sam Altman 在 AI 技術發展速度、安全問題上的想法出現分歧,導致倒戈「外部董事」的陣營,是發起罷免的關鍵人物。
不過,在罷免風波中,Ilya Sutskever 公開表示後悔這次的罷免行動,希望 Sam Altman 回到 OpenAI 擔任 CEO,他又連署了員工要求 Altman 回任 CEO 的連署書。在風波之後,他辭去了 Open AI 的董事職務,不過仍留在 Open AI。
投資人與員工壓力下峰迴路轉
在罷免消息傳出後,就有報導指出,這次罷免很可能是由首席科學家 Ilya Sutskever 策劃的,原因可能是 Ilya Sutskever 與 Sam Altman 在推動商業化和 AI 發展的速度上出現了分歧。
一天之後的11月18日,Sam Altman 發了推文,受到數百位 OpenAI 員工回覆「愛心」公開支持,包括臨時 CEO Mira Murati 。一群 OpenAI 重要員工要求 OpenAI 董事會辭職,不然就會集體離職出走。
隔天,11月19日 OpenAI 的現任董事會同意辭職,但在找到新的董事會成員之前,會繼續進行談判。Sam Altman 帶著「訪客證」回到 OpenAI 與董事會談判,由 Microsoft CEO Satya Nadella 主導談判。
結果出乎意料的是,OpenAI 董事會任命了前 Twitch 共同創辦人Emmett Shear 擔任新的臨時 CEO。過了不久,Microsoft CEO Satya Nadella 就在推特上宣布 Sam Altman 和 Greg Brockman 將加入 Microsoft,而他也歡迎其他 OpenAI 的員工加入。
11月20日,參與罷免 Sam Altman 的 OpenAI 首席科學家 Ilya Sutskever 公開表示後悔這次的行動。同時,OpenAI 內部流出了超過 95% 的 OpenAI 員工簽署(包括 Ilya Sutskever)聯合聲明,聲明指除非董事會辭職並重新任命 Sam Altman否則他們將會辭職。
Microsoft CEO Satya Nadella 當天在接受訪問提到,目前無法確定 Sam Altman 是會回到 OpenAI 還是加入 Microsoft,但如果 Sam 和他的團隊決定加盟 Microsoft,他們已具備所有必要的智慧財產和法律資源來支持。
最終,11月21日,OpenAI 臨時 CEO Emmett Shear 表示如果董事會無法拿出證據說明「為何解僱 Sam Altman」,他也會辭去臨時 CEO 的職務。經過一整天的談判後,OpenAI 宣佈 Sam Altman 「原則上」恢復 OpenAI CEO 職位,並重組 OpenAI 董事會。
11月29日,Open AI 正式公布Greg Brockman 重任 OpenAI 主席,Sam Altman 重任 OpenAI CEO,Mira Murati 重任 OpenAI CTO,而董事會則改組為 9 人,Microsoft 四位高層成為 OpenAI 董事會的無投票權觀察員。
為何罷免 Altman
對外界來說,直至風波結束之後,罷免 Altman 的原因仍然是一個謎團。為數不多的公開發言中,Open AI 董事會的官方說法指 Altman 對董事會不坦承,而前董事Helen Toner 則表示安全問題並不是董事會想要解僱 Sam Altman 的原因,缺乏信任才是原因。她認為解僱 Sam Altman 符合 OpenAI 董事會確保安全建立 AI 系統的職責。
事件的核心人物 Sam Altman 是美國矽谷新創圈的明星創業家,全世界最有名的新創加速器Y Combinator (YC)共同創辦人 Paul Graham 在對他的評價是:「你可以把他放到一個全部都是食人族的島上,五年後再回來看,你會看到他已經成為國王。」
《TIME》雜誌訪問了 Sam Altman 身邊 20 多位同事,雖然多數人形容他和藹可親、才華橫溢、充滿幹勁,善於團結投資者和研究人員圍繞他的願景,造福整個社會。但也有人表示他某些時候可能會很狡猾、不誠實,甚至欺騙他人,擅長操縱他人來同意自己的觀點,「 Sam Altman 關心使命,關心其他人,關心人性。但如果你觀察他的行為,你會發現他確實以極端的方式追求權力。」
Sam Altman 曾經說過他在 OpenAI 沒有持有任何股權,唯一原因就是「他熱愛這件事」,這個違反人性的回答讓人覺得他沒那麼坦承:「Sam Altman 會不會可能利用他在 OpenAI 的地位來推進他其他事業」。根據《WIRED 》連線雜誌的報導,OpenAI 同意從 AI 晶片新創 Rain 購買價值5100萬美元的 AI 晶片,有趣的是,這間新創剛好就是 Sam Altman 的個人投資。
而媒體的敘事則多指向另外一個方向。
從多數的報導中,Sam Altman 是一位對於通用人工智慧(AGI)極其樂觀的人,他相信 AI 消滅人類的可能性不僅很低,而且在過去一年還在不斷下降。2022 年 11 月,Sam Altman 等 OpenAI 管理層得知最大的競爭對手 Anthropic 也在開發一款聊天機器人,為了搶先發佈,OpenAI 管理層決定低調發布 ChatGPT,未料5 天後,ChatGPT 用戶突破 100 萬,OpenAI 成為了矽谷最熱門的新創公司,Sam Altman 也突然成為全球明星。
《The Atlantic》的報導指出,「OpenAI 公司內部的安全團隊認為應該放慢進度,這些安全團隊努力改進 ChatGPT,相比之下,公司的產品部門希望利用這股勢頭,繼續加倍投入商業化。」
這或許正是專注 AI 安全問題的首席科學家 Ilya Sutskever 決定「倒戈」的關鍵之一。
Ilya Sutskever 曾公開表示 AI 將能解決人類目前面臨的所有問題,包括失業、疾病和貧困,但也會同時產生新的問題,「雖然人類對動物有很多感情,但當我們需要在兩個城市之間興建高速公路時,我們並不會去徵求動物的同意。這不是因為我們討厭動物,我們很愛動物,但高速公路對我們來說更重要。我想,這就是我們人類未來與 AGI 相處的基本模式。」
而在 Sam Altman 回到 OpenAI 沒多久,新的媒體報導就指出 Sam Altman 是因為一封內部研究人員發送給董事會的信件才被開除的。這封信警告董事會,他們發現了一種可能對人類造成威脅的 AI 技術 Q ,這可能是通用人工智慧(AGI)的重大突破。Sam Altman 之後接受訪問時,也間接證實了 Q 的存在。
最值得玩味的則是,OpenAI 在宣布 Sam Altman 回歸的官方文章中,提到了未來會繼續研究 AI 的安全問題。
通用人工智能如何兼顧安全與發展
從商業角度來講,這場罷免風波無異於一場鬧劇。
對一般公司而言,CEO 在一家公司中扮演著重要的角色。作為公司的領導者,CEO 負責制定及實施公司的戰略方向。由於 CEO 對公司的經營和企業文化具有重大影響,因此他們對公司的股價和市場表現也有顯著的影響。當公司股價表現不佳時,CEO 很可能會被「代表股東」的董事會「開除」,但也表示 CEO 表現好時不會隨便被董事會開除,因為開除 CEO 會對股價造成波動。
這種結構設計使得公司中股東、董事會和管理層三方之間形成了一種相對的平衡關係。
但 與典型的營利公司董事會根據財報、股價、對股東利益做出決策相比,OpenAI 的獨立董事只按照所謂的「使命」加上自己的判斷,來確保 OpenAI 符合人類的最佳利益,正常的商業邏輯很難想像重要的公司命運只掌握在少數人、且大多沒有相關利益的成員手上。Open AI 的罷免鬧劇對一家正在進行正常經營的公司充分證明其架構有著嚴重的問題。
但正如紐約時報評論文章所指出的那樣,Open AI 的這次風波背後是「一場人工智慧兩種不同願景之間的較量」,而最終,相信「人工智慧是一種變革性的新工具,可能會開啟一個繁榮的新時代,並為利用其潛力的企業賺取大量財富」的一方勝出了。
隨著 ChatGPT 出現, AI 風險議題迅速成為國際政策界辯論的焦點,不僅有白宮的行政命令,還包括在英國舉辦的全球 AI 安全峰會,以及在聯合國、G-7 和非洲聯盟中制定的 AI 標準。從這個意義上來說,Open AI的罷免風波也可看作 AI 的經營者嘗試在發展與安全之間尋求平衡,但看起來,「烏托邦主義者佔據了主導地位,全速前進。」
美國資訊安全專家 Bruce Schneier 在他最新的文章 AI and Trust 中提到,隨著 AI 技術的進步,我們人類會錯誤地將 AI 視作「朋友」,忽略了它們實際上只是提供「服務」的工具,久而久之,掌控 AI 的科技公司,就會利用消費者對 AI 的信任來監控和操縱消費者,所以政府有責任建立「社會信任」,應該創造一個可以信賴 AI 的環境。
曾經,人工智慧的創造者對這項技術既好奇又恐懼,並試圖通過組織治理來限制它的力量。既然自我治理已被宣告失敗,加深了人們對 AI 安全、倫理和監管的思考或許就是Open AI 罷免風波所帶來的最正面的反響。
这事过去快一个多月了,当初在X关注过这件事的人,哪怕只是看了中推博主的转述,也知道这篇文章80%的内容,又何必再看这篇文章。时效性和深度两头都不沾,的确有点水
好看。
作为一篇评论文章,这篇文章似乎有点过于流水账了。
最后一张图的图题错了。