Lifestyle

利用AI模擬死者聲音,能讓生者釋懷嗎?抑或帶來更大麻煩?

模擬聲音技術,會否像Deepfake一樣引發軒然大波?


2020年8月31日,德國,大學舉行的新聞發布會上展示一個人工智能機械人。 攝:Arne Dedert/picture alliance via Getty Images
2020年8月31日,德國,大學舉行的新聞發布會上展示一個人工智能機械人。 攝:Arne Dedert/picture alliance via Getty Images

與過世的親人對話,帶來的是釋懷,還是讓人走不出傷痛?

AI模擬聲音,會否像Deepfake一樣帶來社會問題?

社會應如何規範人工智能的模仿技術?

美國科技廠亞馬遜展示語音智慧助理Alexa一項研發中的新功能可模擬死者的聲音,讓使用者與已故親人對話互動。

亞馬遜高級副總裁暨Alexa團隊首席科學家普拉薩指只靠「不到一分鐘的錄音」,就能複製出高品質的語音,製作任何人的語音,他還特別提到可用它複製死者的聲音,讓使用者與已故親人對話互動,懷念已故親屬,尤其在疫情期間經歷喪親之痛的人,利用對話與陪伴功能讓回憶可以續存。在發布會上的示範影片中,小男孩請Alexa代替過世的祖母讀完她生前未讀完的故事。

示範影片場面窩心,背後卻浮現不少道德和安全隱憂。關注網絡安全的SocialProof Security行政總裁Rachel Tobac認為「我們的世界還沒有為便利的語音複製技術做好準備」,指網路犯罪分子可通過少量語音樣本輕鬆偽造其他人的聲音以冒充成用家信任的人,加劇網絡欺詐、私隱外洩等。

澳洲科廷大學網絡研究教授Tama Leaver指,人們與死者「交談」時可望會分不清現實和想像,令用家不知不覺地迷失在亞馬遜的科技裏。

Leaver還提到死者對聲音被模仿的意願,指死者不曾想過他們過身後會被人工智能模仿,在世的人也不能控制死後有誰會用他們的聲音,甚至代表了自己,形容這令人「毛骨悚然」,Leaver反問亞馬遜是否有死者聲音的擁有權,是否代表用家需放棄死者的發言權。

網民評價

不少網民質疑這技術帶來了安全問題,有人擔心若技術被廣泛使用,自己的聲音可能被造假,亦令騙徒更易行騙,也令聲音再無法成為呈堂證據。網民提到在謠言滿天飛的網絡世界中,Alexa可能加劇抹黑影片的出現,尤其在選舉時,民眾可隨意操控候選人的說話,「光想像就好可怕」。有網友批評讓死者講出自己這輩子都沒講過的話非常不道德,也有人帶出死者的私隱問題,問如何界定誰擁有死者聲音的使用權限。

對於模仿故人的聲音能否安撫家屬情緒,網民意見不一。有網民指Alexa適合陪伴獨居或住在安老院的長者,讓他們解憂或是治療心理疾病,也有網民希望這技術能早點推出,指不介意聲音是人工智能組合成,只希望能再次聽到已故親人的聲音。但亦有網民指技術反令在世的人走不出傷痛,指他們會一直抱持著死者還活著的假象,陷入過往的情緒之中,指「人還是要向前看」。

過往Deepfake帶來的社會問題

科技模仿真人早有先例,如網絡正流行的Deepfake,即為圖像或影片中的人像「換臉」,引來很多道德爭議和潛在危險。如於去年3月,緬甸軍政府發表影片,片中仰光省前任首席部長承認曾給昂山素姬 60 萬美元與 11 公斤黃金。緬甸軍政府憑此證據認定昂山素姬貪污並調查,但有人指部長聲音與臉部表情不自然,懷疑影片是用Deepfake偽造出來。

此外,有用戶以Deepfake模仿美國前總統奧巴馬,斥特朗普是笨蛋,也有不少人以Deepfake製作成色情影片。2020年10月開始,台灣Telegram群組「台灣網紅挖面」以Deepfake軟體,把名人的臉換到色情影片上,在網上販售牟利,引起公眾譁然。台灣法務部指此類行為危害民眾權益鉅大,包括破壞名譽、假冒身分、影響金融市場、操縱民主選舉結果等。

儘管Deepfake帶來不少社會問題,但亦有正面影響,如有醫院為聾啞患者進行聲音再製,以Deepfake技術合成他們的聲音,使他們能用「原聲」與他人溝通,也有電影製作人運用Deepfake技術,讓已故電影明星重返大螢幕。

為了防止Deepfake淪為犯罪工具,各地都有制定法律限制Deepfake的應用,如台灣定立「散布性私密影音罪」、「製作或散布他人不實性影音罪」等;日本及歐盟則建立「AI 利用倫理規範」,使用Deepfake技術做出虛偽影像者,需附加警告標語,告知觀眾這是使用 AI 技術所形成的影像。

死者的聲音使用權

美國去年上映一套紀錄片《Roadrunner: A Film About Anthony Bourdain》,紀錄已故美國知名作家兼主持人安東尼波登,導演Morgan Neville指在電影中使用Deepfake技術讓主角說出自己未曾說過的話,引起紀實電影造假之嫌,波登第二任前妻奧塔薇亞布斯亞也對此表示不滿。關注影片與技術道德應用的人權組織總監Sam Gregory認為使用死者來做合成影片應符合兩個原則:得到死者本人或死者家屬的同意,以及讓觀眾知道這是假的。

對於用家產生的疑慮,亞馬遜表示,開發模仿人聲科技的主要目標是讓民眾懷念摯愛逝去者,利用對話與陪伴功能讓回憶可以續存。在亞馬遜展示新功能後,微軟隨即發布新版的《負責任的AI標準》,規範了該公司如何建構AI系統,並對使用科技者提出嚴格要求。

假如你知道自己即將逝世,你願意讓你的聲音透過AI延續下去嗎?

文:端傳媒實習記者陳洛蕎

Lifestyle