國際科技Whatsnew

解散安全團隊,疑似盜用女演員聲音,OpenAI再陷多重爭議|Whatsnew

許多分析都指出,安全部門和董事會圍繞安全問題出現了不少衝突。

2023年5月23日,著名女星Scarlett Johansson出席法國康城影展。攝:Gareth Cattermole/Getty Images

2023年5月23日,著名女星Scarlett Johansson出席法國康城影展。攝:Gareth Cattermole/Getty Images

端傳媒記者 洛松齊

刊登於 2024-05-27

#Open AI#AI監管#人工智慧#谷歌#人工智能

繼2023年的「逼宮」大戲之後,OpenAI 再度陷入多重爭議中。

5月15日,OpenAI 聯合創始人伊爾亞·蘇茨克維(Ilya Sutskever)宣布他已離開 OpenAI,並計劃從事一個「個人專案」。但蘇茨克維沒有公佈該專案的詳情。與此同時,另一位高級研究員 簡·雷克(Jan Leike)也宣佈離職。(延伸閱讀:《AI 元年,Open AI「宮鬥」講了一個什麼樣的故事?》)

蘇茨克維是 OpenAI 的前首席科學家,和雷克一起擔任 OpenAI 旗下「超級對齊」團隊(Superalignment Team)的共同負責人。依照 OpenAI 官方網站上的介紹,超級對齊團隊是為了「引導和控制比我們聰明得多的人工智慧系統」而成立的團隊。據《Wired》雜誌報導,該團隊已被解散「併入 OpenAI 的其他研究工作」,在此之前有數位相關研究人員離職。

不過,大部分離職員工都保持了低調。據 Vox 報導,OpenAI 的保密協議禁止前員工離職後批評公司並禁止他們提及保密協議。

相較與他們,雷克離職時的表態更為直接,他指「我與 OpenAI 領導層在公司核心優先事項上的分歧已經持續了很長時間……在過去的幾年裡,(OpenAI 的)安全文化和流程已經被閃亮的產品所取代。」

OpenAI 的 CEO 奧爾特曼(Sam Altman)和總裁格雷格·布羅克曼(Greg Brockman)此後發表了一篇聲明指其做了大量工作「為安全部署功能日益強大的系統奠定必要的基礎」,但沒有正面回應雷克的質疑。

無論如何,這一新聞並沒有影響 OpenAI 發佈新產品所帶來的正面討論。

5月13日,OpenAI 正式推出 GPT-4o,這是為其標誌性產品 ChatGPT 提供動力的 GPT-4 模型的迭代版本。 OpenAI 指更新後的模型「速度更快」,並提高了「跨文本、視覺和音頻的能力」,這意味著該模型可以生成內容或理解語音、文字或圖像命令。

不過很快,OpenAI 就陷入了另一場大眾更容易注意到的爭議之中。

在 GPT-4o 中,ChatGPT 首次提供類似語音助手的功能,其中提供了五種不同的聲音。5月20日,演員施嘉莉·祖安遜(Scarlett Ingrid Johansson,台譯史嘉蕾·喬韓森)指出,ChatGPT 提供的一個名為 Sky 的聲音與她的聲音極度相似,以至於「我最親密的朋友和新聞機構都無法分辨」。(延伸閱讀:《AI深偽色情急增,如何才能制止新型性暴力?》)

在聲明中,祖安遜指 OpenAI 此前曾與她接觸,希望她為 ChatGPT 4.0 系統配音。她出於「個人原因」拒絕了這一邀請。而在 ChatGPT 的新版本發佈前兩天,奧爾特曼又親自聯繫她的經紀人並請求她重新考慮,但她還未來得及回覆。

祖安遜還認為,此事絕非巧合,因為奧爾特曼有意暗示這種相似是「有意為之」。在產品發佈當天,奧爾特曼在 X 上發佈了一個單詞「her」。祖安遜認為這個單詞是暗示她此前配音的電影《Her》,在這部電影中,男主角與祖安遜配音的語音助手建立了一種親密關係。

《她》(Her)劇照。圖:網上圖片
《她》(Her)劇照。圖:網上圖片

OpenAI 隨後暫停了 Sky 的使用,據祖安遜表示,這是由於其向 OpenAI 正式發出了律師函。但是,當天晚間,奧爾特曼在一份聲明中指「Sky 的聲音不是施嘉莉·祖安遜的,也從未想過要與她相似。在與祖安遜女士接觸之前,我們就已經選定了為 Sky 配音的演員」。5月22日,OpenAI 在同一份聲明中提供有關時間表的更多信息,以期證明聲音不是祖安遜的。

由於祖安遜曾出演過大量知名電影,這一事件很快引發了大眾的討論。而就在同一天,OpenAI 又捲入了另一起類似爭議中。

5月20日,Google CEO 桑達爾-皮查伊(Sundar Pichai)在 The Verge 的一檔播客節目中表示,Google 正在了解 OpenAI 是否利用創作者的內容來訓練其 AI 模型。此前,OpenAI 首席技術官米拉-穆拉提(Mira Murati)在訪談中表示,她並不確定 OpenAI 是否使用了 Youtube 上的公開影片來訓練 AI 模型,而 Youtube 執行長則回應指使用 Youtube 影片訓練 AI 模型嚴重違反 Youtube 的平台服務條款。(延伸閱讀:《全球首個人工智能監管峰會在英國召開,達成了什麼共識?》)

資深科技記者凱西·牛頓(Casey Newton)表示,上述幾個事件實際上反映了同一個問題。此前的董事會解除奧爾特曼職務事件中,許多分析都指出事件源於奧爾特曼與公司安全部門和董事會對安全問題的嚴重衝突。而在奧爾特曼回歸後,「安全工作被放在了次要位置」。 Vox 的報導指出,公司中許多注重安全的員工已經對奧爾特曼失去了信心。(延伸閱讀:《「人工智能會讓人類滅絕」——圍繞這個問題的最新討論都說了什麼?》)

牛頓指出,「多年來,OpenAI 一直告訴大家,它更深遠的目標是更高尚、更熱心公益的事情。但自從奧爾特曼回歸後,公司就開始講述另一個故事:一個不惜一切代價贏得勝利的故事。」牛頓又指出,「它對待施嘉莉·祖安遜的態度應該讓每個人都感到擔憂」。

本刊載內容版權為端傳媒或相關單位所有,未經端傳媒編輯部授權,請勿轉載或複製,否則即為侵權。

延伸閱讀