評論深度

操控選舉,加劇社會分裂?——「深偽」技術如何產生,又會造成什麼危害?

就像電信詐騙一樣,學着與Deepfake共生,是未來互聯網衝浪的必修課。

一條美國前總統奧巴馬的Deepfake深偽視頻的製作過程。

一條美國前總統奧巴馬的Deepfake深偽視頻的製作過程。攝:AP/達志影像

張百武

刊登於 2021-04-14

#deepfake#評論#假新聞

當包含人臉的視頻可以輕易通過電腦生成,我們的生活會產生何種影響呢?基於Deepfake(深偽)科技的應用在近期頻頻火爆全網。從TikTok上的湯姆克魯斯向你揮手和大笑,到黑白老照片裏動起來的人像神似哈利波特中的魔法部報紙。人們着迷於「深偽」帶來的有趣應用,但其的發展帶來的潛在危險也引來了許多擔憂,FBI甚至對其發出了警告。本文將從Deepfake的技術原理和發展過程,以及社會反響等層面介紹這一技術。

2018年,一條「奧巴馬」講話的視頻在網上瘋傳。視頻中,美國國旗前的「奧巴馬」正襟危坐,用他帶有磁性的聲音警告人們不要輕易相信在互聯網上看到的東西,隨後用令人意外的輕浮詞語形容時任總統特朗普是個「百分之百的蠢蛋」。或許是因為「奧巴馬」的反差形象造成出奇的娛樂效果,這條視頻在媒體和社交平台上得到廣泛傳播:僅在YouTube平台就有八百多萬的觀看。

但事實上,整條視頻的「拍攝」並沒有真正奧巴馬的參與,而是演員Jordan Peele在藉助計算機技術,憑空製造出來的,是一條典型的Deepfake深偽視頻。在讓人一笑的同時,這條視頻也着實讓觀眾捏了一把冷汗:我們還能相信親眼所見的東西嗎?

Deepfake的技術原理?

Deepfake由deep learning(深度學習)和fake(虛假)兩詞組合而來,人們通常用Deepfake形容通過使用深度學習等計算機技術合成的照片、視頻和音頻。其中,有一種Deepfake是算法完全憑空生成的,例如thispersondoesnotexist.com上展示的的人臉圖像;而另一種則是基於某些已知信息生成,如上文中的「奧巴馬」視頻是基於奧巴馬過去演講影像和音頻,配合演員的口型與發音而偽造的。Deepfake技術的核心目的是生成虛假的,但是看上去真實的圖像或音視頻,從而達到欺騙觀眾眼睛的效果。這個目的其實並不新鮮,亦不陌生:廣為大眾所熟悉的Photoshop和各種圖片視頻編輯軟件也都是為此設計的。

閱讀全文,歡迎加入會員

華文世界不可或缺的深度報導和多元聲音,了解更多

立即訂閱

已經訂閱?登入

本刊載內容版權為端傳媒或相關單位所有,未經端傳媒編輯部授權,請勿轉載或複製,否則即為侵權。