廣場 端 x 華爾街日報

Facebook曾試圖讓平台更健康,但結果是更憤怒

內部備忘錄顯示,2018年的一項重大算法調整是如何激勵了平台上憤怒內容的傳播,而公司CEO抵制了員工提出的修正措施。


2018年的算法改變影響了Facebook的動態消息這一核心功能,這是一個不斷更新的、個性化的內容流,隨著用戶滾輪螢幕穿插顯示其朋友的家庭照片和新聞文章。 攝:Jaap Arriens/NurPhoto via Getty Images
2018年的算法改變影響了Facebook的動態消息這一核心功能,這是一個不斷更新的、個性化的內容流,隨著用戶滾輪螢幕穿插顯示其朋友的家庭照片和新聞文章。 攝:Jaap Arriens/NurPhoto via Getty Images

本文原刊於《華爾街日報》,端傳媒獲授權轉載。目前,《華爾街日報》中文版全部內容僅向付費會員開放,我們強烈推薦您購買/升級成為「端傳媒尊享會員」,以低於原價 70% 的價格,暢讀端傳媒和《華爾街日報》全部內容。

2018年秋天,在線出版商BuzzFeed的首席執行官喬納·佩雷蒂(Jonah Peretti)給Facebook公司的一位高管發了封電郵。他說,出版商生產的那些最具爭議的內容在Facebook上病毒式傳播,這刺激了更多這類內容被生產出來。

他提到,BuzzFeed上一篇題為《幾乎所有白人說了即罪過的21件事》(21 Things That Almost All White People Are Guilty Of Saying)的文章大獲成功,該文章在Facebook上獲得了1.3萬次分享和1.6萬條評論,其中許多在批評BuzzFeed寫出這樣的文章,那些用戶還就種族問題相互爭論。他說,該公司製作的其他內容,無論是新聞影片,養生文章還是關於動物的帖子,都難以獲得突破。

根據《華爾街日報》看到的引用了上述郵件的Facebook內部文件,佩雷蒂指責Facebook在當年早些時候對其動態消息(News Feed)的算法進行了重大改革。這項改革旨在促進朋友和家人間「有意義的社交互動」(meaningful social interactions,簡稱MSI)。

BuzzFeed的業務建立在製作適於社交媒體的內容,這些內容最好能在Facebook和其他社交平台上病毒式蔓延。因此任何危及其內容傳播的算法變化都會影響BuzzFedd的既得利益。不過,佩雷蒂的郵件還是觸動了人們的神經。

Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)說,改變算法的目的是為了加強用戶之間的連接,並提升他們的幸福感。Facebook將鼓勵人們與朋友和家人進行更多互動,減少被動消費專業人士製作的內容,研究表明在後者上花太多時間對人們的心理健康有害。

文件顯示,在公司內部,員工們警告說,這種變化產生了相反的效果。它正在使Facebook平台成為一個更加憤怒的空間。

公司研究人員發現,出版商和政黨正在將他們的帖子朝著更憤怒和煽情的方向調整。這種策略帶來了更高水平的評論量和互動量,在Facebook平台上這被解讀為成功。

「對於重要的公共內容,如政治和新聞,我們的做法產生了不健康的副作用。」在《華爾街日報》見到的一份備忘錄中,一個數據科學家團隊這樣寫道。他們在該備忘錄中提示了來自佩雷蒂的抱怨。其中一名數據科學家在後來的備忘錄中寫道,「這一個責任越來越沉重。」

他們得出的結論是,新算法在動態消息中給予轉發量的高權重使憤怒的聲音更加響亮。研究人員在內部備忘錄中指出,「錯誤資訊、有毒和暴力的內容在大量轉發的帖子中極為普遍。」

文件顯示,歐洲的一些政黨告訴Facebook,新算法使他們改變了政策立場,以便在該平台上更能產生共鳴。

「許多政黨,包括那些已經轉向負面內容的政黨,其實擔心這對民主的長期影響,」Facebook的一份內部報告寫道,但該報告沒有指明具體是哪個政黨。

Facebook的員工還討論了公司做出這一改變的另一個原因——一個不太公開的動機:文件顯示,用戶已經開始減少與平台的互動,這是一個令人擔憂的趨勢。

這些電子郵件和備忘錄是《華爾街日報》看到的大量公司內部通信的一部分。它們提供了一個無與倫比的視角,讓人們得以看到Facebook公司其實對自己平台的缺陷有多麼了解,而公司又如何常常缺乏意願或能力來解決這些問題。這是基於這些資訊寫成的系列文章中的第三篇。

在接受採訪時,Facebook工程部副總裁拉斯·巴克斯特倫(Lars Backstrom)說,任何算法都有潛在風險,都可能推廣一些對某些用戶來說令人反感或有害的內容。

「跟任何其他優化方式一樣,總會存在一些被利用或被鑽空子的方式,」他說。「這就是為什麼我們有一個廉正團隊,試圖跟蹤這些問題,並找出盡可能有效緩解它們辦法。」

廉正團隊的數據科學家們——他們的工作是提高平台上內容的質量和可信度——下功夫琢磨了一些可能的改變,希望以此遏制大修後的算法激勵憤怒和謊言的傾向。文件顯示,扎克伯格抵制了一些員工提出的修正措施,因為他擔心這些措施可能損害公司的其他目標——提高用戶在Facebook平台上的參與度。

據安娜·斯捷潘諾夫(Anna Stepanov)在2020年4月撰寫的一份關於一次簡報會的內部備忘錄,她帶領一個團隊處理這些問題,向扎克伯格提出了幾項修改建議,它們都旨在解決平台上虛假和分裂內容泛濫的問題。其中一項改變是取消算法對最有可能被長鏈用戶轉發的內容的加強展示。

她在會後寫給同事的信中說,「馬克認為我們不可能廣泛地採取這種改變。」她說,扎克伯格說,他對測試這種辦法持開放態度,但「如果對MSI的影響有實質性的抵消,我們就不會上線。」

上個月,在斯捷潘諾夫稱扎克伯格否決了廣泛採納類似修正方法近一年半後,Facebook宣布它正在「逐步擴大一些測試,以減少給某些信號的權重,比如某人評論或分享政治內容的可能性大小。」此舉是在用戶調查的刺激下,更廣泛地推動減少Facebook上的政治內容的舉措的一部分。此前,有大選抗議者利用該平台質疑選舉結果並組織抗議活動,後來導致了1月6日發生在華盛頓國會大廈的騷亂,該公司因此受到批評。

負責動態消息內容排名的巴克斯特倫說,Facebook最近做出的改變是基於公司認為,若在政治等敏感內容上依賴基於參與度的指標排序是弊大於利的。

2018年的算法改變影響了Facebook的動態消息這一核心功能,這是一個不斷更新的、個性化的內容流,隨著用戶滾輪螢幕穿插顯示其朋友的家庭照片和新聞文章。Facebook的30億用戶在該平台花費的大部分時間都是在瀏覽動態消息。而該公司將用戶的注意力賣給廣告商,無論是在Facebook還是其姐妹平台Instagram都是如此。公司去年860億美元的收入幾乎全部由此獲得。

一個專有的算法控制著每個用戶的動態消息欄中出現的內容。它考慮的因素包括:用戶與誰是好友,他們加入了什麼樣的群組,他們喜歡什麼樣的網頁,哪些廣告商已經為觸達該用戶群體付費,以及什麼類型的文章是當下流行的或能推動對話的。

算法的重大變化會對公司、廣告商和出版商產生很大影響。多年來,Facebook進行了很多次算法調整。強調MSI的轉變是其中最大的一次。

「排名的變化是世人分歧的根源嗎?不是的,」Facebook發言人安迪·斯通(Andy Stone)在一份書面聲明中說。「研究表明,某些黨派分歧在我們的社會中幾十年來都在增長,這甚至早於像Facebook這樣的平台存在的時間。」

《華爾街日報》的所有者新聞集團與Facebook簽有一項通過該平台提供新聞內容的商業協議。

英文原文:Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead.

WSJ 端傳媒尊享會員 Facebook 端 x 華爾街日報