在3月19日-20日，全球首個「深偽侵犯」（deepfake abuse）網上研討會召開，期間公佈一個震撼的數據：至今全球已知的互聯網深偽色情影片超27萬條，比起2019年的1.4萬條激增18倍，而這些影片的總觀看次數多達40億次。
深偽色情是一種新形態的影像性暴力，指未經本人同意將臉「移植」到性影像。在2017年，深偽移植技術開始進入公眾視野，主要指透過人工智慧（AI）中的深度學習（Deep Learning）技術合成的偽造圖像、影片、聲音。只需特定對象的大量影音素材，Deepfake 技術就能製作出擬真的影片。
然而，其誕生很快就伴隨針對女性的影像性暴力。根據位於荷蘭的身份驗證公司 Sensity AI 的調查，96%的深偽視頻是女性性影像，她們並未同意創建這些內容；從2018年到2020年，網絡上的深偽色情影片數量大致每六個月就翻一倍。
據研討會的多名專家指出，公開可用的人工智能圖像生成工具，以及可將女性「數碼脫衣」的「Nudify」廉價且易於使用，令深偽影片無須像以往那樣要收集大量高解像度的圖像並掌握機器學習的知識。如今，甚至只需一張真實的圖像便可生成極真實的性暴力影像。
2024年1月，音樂天后 Taylor Swift 成為深偽色情的受害者，她的深偽裸照在社交媒體 X 瘋傳，引起廣泛討論。
「人生的每個面向都受到牽連」
深偽色情產生的影像雖然是假，但對人的傷害是真實而巨大。而深偽色情正日漸普及，無論是普通女性還是名人，都有機會受到深偽色情的傷害。
華盛頓大學科技與政策實驗室的 Noelle Martin 在研討會指出，深偽色情「剝奪我們在世界中自主決定的權利和能力。其影響貫穿一生，影響就業能力、未來收入、人際關係和親密關係。人生的每個面向都受到牽連。」
對一些公眾女性來說，深偽技術也打壓她們的言論自由，令她們暴露在這種新型性暴力的風險。據《WIRED》的報導，實況主播成為深偽色情的受害者，她們感到被侵犯、騷擾，有些內容更傳到家人。在台灣，「理科太太」「白癡公主」「球球」「奎丁」、黃捷和高嘉瑜等網絡名人也成為被換臉至色情片的被害人。
另外，這種新型性暴力也損害女性的政治參與。如美國白宮性別政策委員會 Cailin Crockett 所言，「從起底（doxxing）到虛假信息宣傳，再到深偽視頻和非自願私密影像，這些都威脅女性的政治參與和領導地位，進而削弱民主。」
搜索引擎逃脫法律責任？
就這種新型性暴力，現有的法律和制度未能有效應對，尤其搜索引擎常常免於法律責任。
根據 NBC News 的報導，搜索引擎是接觸深偽色情的主要途徑。現時搜尋“deepfake”等相關字眼，Google 和 Bing 的搜索結果並未禁止相關搜尋，甚至在頂部放置深偽色情的網站。雖然 Google 有表格供受害者填寫，進而移除相關網址，但 Google 並不主動出擊和下架深偽影片。Google 曾在一份聲明中表示：「我們明白這些內容對受害者是痛苦的，正積極努力為搜索引擎提供更多保護。像其他搜索引擎，谷歌索引存在於網絡上的內容，但我們積極設計排名系統，避免出現令人震驚的有害內容。」
對此，多名專家都呼籲 Google 和其他主要技術公司阻止搜尋結果中出現用於深偽侵犯和其他非自願色情的網站和應用程式。
在美國，1996年通過的「通訊端正法」（Communications Decency Act）保護科技公司（如Meta、X）不因用戶貼文而遭到訴訟和起訴，這條法案如今受到注視和批評。柏克萊加州大學 Hany Farid 主張取消平台公司的法律豁免權，他認為現行法律不鼓勵科技公司採取有意義的行動來對抗深偽色情。
「在任何其他行業，如果你受到一家公司的損害，你都可以在法庭上維護自己的權益，希望解決問題。科技行業是唯一一個我們無法在法庭上維護自己權益的行業。」Goldberg 律師事務所的 Norma Buster 如此說道。
迎頭而上的法律監管
除了針對搜索引擎，各國正檢視法律，希望監管這種新型性暴力。
在美國，只有大約十幾個州的法律禁止製作或散播性暴力深偽影片，很多州正逐步修改他們的非自願色情法律。
在英國，自今年1月31日起，《線上安全法（Online Safety Bill）》將未經同意分享 AI 生成的私密圖像視為非法行為。
在韓國，在2019 年底「N 號房事件」爆發後，性暴力犯罪條文有所修訂。2021年1月21日，韓國修正《性暴力犯罪法》相關規定，明文禁止利用深度造假製作虛偽影像等數位性暴力行為。然而，這條法律只處罰「製作、散布虛偽影像者」一方，並未針對「購買、消費虛偽影像」的另一方。
在台灣，2021年警方拘捕百萬 YouTuber 小玉（朱玉宸），指其在 Telegram 群組「台灣網紅挖面」中利用 AI 換臉技術，將許多女性名人換臉成色情片主角，並將相關的影片售賣謀利，犯案一年多至少獲利1000萬元台幣。
現時針對深偽色情犯罪，台灣受害人可訴諸《刑法》妨害名譽罪及妨害風化罪，另受害人也可依《民法》求償，因名譽、肖像遭受侵害，提起精神上的損害賠償。在2023年1月，立法院亦通過防制性暴力的《刑法》部分條文，當中意圖散布、播送、交付、公然陳列，或以他法供人觀覽，以電腦合成或其他科技方法製作關於他人不實的性影像（即例如 Deepfake），足以生損害於他人者，處5年以下有期徒刑、拘役或科或併處50萬元以下罰金；若是意圖營利，處7年以下有期徒刑，得併處70萬元以下罰金。
另外，在台灣，Deepfake 也可構成「非公務機關非法利用個人資料罪」。可處 5 年以下有期徒刑得併科100萬元以下罰金；或可構成性騷擾。此外，2023年1月新修的《性侵防治法》還規定網路業者對於性侵害犯罪嫌疑，應先行限制瀏覽和移除有關網頁資料，並通知警察機關及保留相關資料，若無正當理由而不願配合，將可處新台幣6萬至60萬罰金。
在香港，有案件利用 deepfake 作詐騙，傳送載有事主樣貌的移花接木色情短片勒索，另有案件利用 deepfake 技術騙取貸款。至於法例方面，在2021年9月，立法會通過《2021年刑事罪行（修訂）條例草案》，當中引入四項新罪行，其中一項「未經同意下發布私密影像，或威脅如此行事」針對未經同意下發布或威脅發布私密影像的行為，不論該影像是否獲當事人同意下拍攝。而發布或威脅發布的罪行同時涵蓋移花接木以顯示某當事人私密部位的影像（如：DeepFake Porn、深偽色情影像），或顯示其進行私密行為的影像。
儘管全球正迎頭趕上法律監督深偽色情，但消滅這種新型性暴力並不容易。有律師指製作人可能使用浮動 IP，難以追查，加上影片是在國外網站流通，社群平台未必配合執法部門調查，很難制裁犯罪者。就算抓到人，影片可能還在網上流通，移除影像需要平台配合。