福爾摩沙

台灣YouTuber利用Deepfake技術將名人臉孔合成色情片販賣,你如何看當中倫理問題?

你認為換臉技術造成的濫用和私隱問題可以如何防範?將AI技術犯案刑事化能杜絕相關情況嗎?


台灣Youtuber小玉涉嫌利用Deepfake技術,將多位名人的臉孔合成色情片女主角販賣牟利被逮捕。 網上圖片
台灣Youtuber小玉涉嫌利用Deepfake技術,將多位名人的臉孔合成色情片女主角販賣牟利被逮捕。 網上圖片

AI換臉技術促使網絡犯罪和假消息更容易出現,你如何看這個講法?

你認為換臉技術造成的濫用和私隱問題可以如何防範?將AI技術犯案刑事化能杜絕相關情況嗎?

在數位時代,AI技術在未來將持續發展,你認為在先進便利和道德私隱問題之間,可如何取得平衡?

據TVBS新聞網報導,台灣警方早前接獲檢舉,上門拘捕百萬YouTuber小玉(朱玉宸),指其在Telegram群組「台灣網紅挖面」中利用AI換臉技術,將許多女性名人換臉成色情片主角,並將相關的影片售賣謀利,犯案一年多至少獲利一千萬元台幣。

鏡週刊就著AI人臉技術造成的數位性暴力事件進行了調查報導,發現受害女名人包括人物脫口秀演員龍龍、網紅白癡公主、奎丁、蕾菈,亦涉及政界人士如高雄市議員黃捷、立委高嘉瑜等多達百位女名人。群組的製作團隊在短短兩、三個月便已吸納進6000人加入群組,規模驚人,其會員分類和「加值服務」等制度發展相當成熟。

主謀小玉早在2020年4月,便曾以AI軟體換臉政界人士韓國瑜並上傳至 YouTube為惡搞影片「韓X瑜毀謗我的錄影存證」。他當時稱是以1500元買下 Deepfake 軟體來製作相關影片,更在影片留言區呼籲網民要保持獨立思考、不要相信假新聞。

得悉小玉被捕的消息後,網民在該影片的留言區諷刺小玉「你在一年前宣導不要被AI換臉技術誤導,現在卻用這個技術做不正當的事?」、「原來這個(影片)就是在為今天鋪路啊」、亦有人笑指「原來韓國瑜才是首位受害者」。

網絡關注及回應

同一時間,涉案的受害者亦紛紛發文回應事件。當中,高雄市議員黃捷發帖文表示她已馬上到警局提告,並批評小玉的做法不單讓人覺得噁心反胃,對受害人來說,這是一種真實的傷害和羞辱。她亦懇請社會大眾不要下載和流傳這類影片,要正視AI犯罪和數位性暴力的問題。

政界人士高嘉瑜亦在臉書回應,在網絡上未經同意就將名人換臉成性愛片段主角的劣行,對女性的名譽造成不可磨滅的傷害;最可怕的是,總會有人相信這些影片是真的。

高嘉瑜進一步指,現時台灣對AI技術的規管嚴重不足,針對相關網絡造假的罪行仍缺乏具體的法例和罰則。因此她提出當局應專門立法,保護公眾人物的個人照片使用權,嚴防「挖臉」造假的犯罪行為。

上述帖文的留言區中,大部分網民均表示支持受害者提告,希望幕後主使可得到重罰,絕對不姑息數位犯罪和性暴力;亦有少量網民仍惡意揶揄當事人「沒片沒真相,要看一下才可判斷!」、「笑炸 會有點閱嗎 專門用來心情不好時看來娛樂的吧」。

AI技術引發的倫理問題屢見不鮮

AI Deepfake 技術是一種透過人工智慧中的深度學習所創造出來的偽造訊息。這項技術只需取得人物的影像或聲音素材,就能製作唯妙唯肖的假影片。最大的問題是,這種AI換臉的製作無需專業人士都可做到,而換臉App也可以在各大平台下載。

在西方國家,這一類的數位犯罪派對早有先例。在2017年12月,Reddit網站上便出現了不少著名女星的偽造色情片,如《神奇女俠》女主角Gal Gadot、「黑寡婦」Scarlett Johansson、Maisie Williams、Taylor Swift、Aubrey Plaza等都成為了受害者。當時這些假消息和影片引起了不少質疑的聲音,相關影片論壇最終被 Reddit 下架。

根據荷蘭網路安全新創公司 Sensity AI 在2019 年的研究報告《Deepfake現狀:前景、威脅與影響》,全世界的深度造假影片有14678部,96%皆為非法影片。報告指這些數字在七個月內急增了兩倍,亦預測相關的影片在網絡上將持續有大幅的增長。

有見及此,歐盟在今年四月份發布了《人工智能管理法草案》,針對人工智能的開發技術在應用上的倫理原則。其提出相關技術應嚴格審視其安全及可追蹤性、以及需要確保開發守則是以人權為本、重視大眾私隱。AI技術在這兩大前提和約束下,才能有效維持對人類有益的可持續發展。

草案亦指出,倫理問題乃不容忽視,人工智慧的發展需要正視這些道德爭議,才不會在未來受到民眾的抵制。

辨識偽造技術的工具有用嗎?

BBC 在去年報導,著名電腦科技公 司Microsoft 發了一個新的技術功能,專門作為區分和辨識深度偽造技術合真實影片的工具。該軟件主要分析網絡上的照片和影片,辨識資訊有否經過人工合成的處理,並就素材的真偽度評分。研發者期望透過辨識工具,能防範不法之徒利用科技的便利,操縱和侵犯大眾的私隱、並杜絕假消息。

報導中亦有從事科技研發的專業人士指,這些辨識工具的開發和改善未必能追得上換臉技術的生產速度和發展;單靠一個辨識工具沒可能偵測到網絡世界上的所有影片,故亦無法完全確保所有影片的真偽度。

身處在資訊氾濫的年代,你如何看人工智能和倫理問題之間的平衡?

文:端傳媒實習記者廖曉怡

福爾摩沙