南韓 Deepfake 危機:禁不絕的性剝削,更年輕的性罪犯

欲望是什麼?「就是戲弄女性、降低女性的價值,再把照片發出去,在過程中得到一個滿足感。」
2019年3月6日,首爾,一名婦女看著朦朧的景色。攝:Kim Hong Ji/Reuters/達志影像
國際 韓國 性別暴力 性別

「秀彬呀,這是什麼呀?誰給你發的?」「你為什麼不說話?」盧娜夫妻二人急如熱鍋上的螞蟻。

七分鐘前,8月26日零點,15歲的女兒朴秀彬在家庭群裡傳來截圖,上面密密麻麻寫着許多字:「熟人凌辱指的是用熟人自拍照,合成19+影片……」、「Telegram 存在一個強姦房」。截圖中,還夾有數張列滿學校名字的清單。

女兒沒有解釋就消失了。字眼嚇人,盧娜心裡生出好多疑問,她緊張地給女兒打去幾通電話,但都沒有接聽——她一時忘了女兒讀寄宿學校,晚上12點要沒收手機。那個晚上,父親朴秀浩心裏發慌,他怕女兒出事,翻來覆去一直睡不好。他想起四年前的N號房事件,「那在我們韓國是特別大的一件事」,但他覺得這次「特別危險、很嚴重」,因為「連初中生都做那事了。」

8月25日,社交平台 X 上出現多個南韓大學和中學名單,指許多老師、學生的樣子被製成深偽(Deepfake)色情影像,在 Telegram 群組裡傳播。《韓民族日報》指出,受影響學校達500間,遍布全韓國,其中一個群組人數超過22萬人,受害者甚至包括女軍人,她們的照片被稱為「軍需品」。

由於受害者大多未成年,事情在社會引爆輿論。總統尹錫悅下令根除數位性犯罪,警方採取密集行動,一周間截獲超過120宗深偽犯罪。令人訝然的是,未成年嫌疑人超過七成半——三年前,N號房事件敲響韓國性剝削警鐘,主腦趙主彬被判重囚42年,政府速推《N號房防治法》。如今人們發現重罰、新法不僅沒有阻嚇犯罪者,反而當技術垂手可得,他們以一種更容易的方式繼續剝削女性,而犯罪者也越來越年輕。

製作深偽影像不用錢、也不費吹灰之力:只要有一張清𥇦面部的照片,最快5秒,就能生成一張合成照片;不到25分鐘,就有一條60秒影片。根據美國網絡安全公司 Security Hero 發表的《2023年Deepfake報告》,該年網上流傳近10萬條深偽色情影片,超過一半(53%)受害者來自韓國,其中九成都是歌手和演員。

第二天醒來,朴秀彬在家庭群裡發問,「我很害怕,我要把照片(從社交媒體上)拿下來嗎?」朴秀浩回答女兒,「你沒有做錯,你為什麼要害怕呢?」但恐懼和不安是真實的。在事件爆出來的一周間,朴秀彬說同學們都在聊這件事,有人看似毫不在意,說都是鬧着玩的吧。但大家都把社媒上的照片全刪了。

韓國女權主義者 Cat 說,過去韓國女生都認爲N號房這樣的事不會發生在自己身上,但是這一次不同,當每個學校行業都滋長出深偽色情聊天室,「任何人都可能成為受害者。」

2018年10月6日,示威者在首爾抗議性別歧視,及女性遭偷拍並將其影像上傳到網絡的行為。攝:Jean Chung/Getty Images

從 N 號房到 Deepfake 的「熟人凌辱」

欲望是什麼?「就是戲弄女性、降低女性的價值,再把照片發出去,在過程中得到一個滿足感。」

元因知對自己的個資一直很小心。她把所有社群媒體帳號私密隱藏,不上傳任何頭像,即使接受媒體採訪也不會露臉,甚至不會透露年齡。不過她還是害怕,怕出去參加活動,「有人認出我,拍下我的照片,在網路上傳播。」

她是N號房事件的吹哨人。2019年,元因知還是翰林大學學生,和朋友朴智玹發現 Telegram 上存在各種性犯罪,一同組成「火花追蹤團」 (추적단불꽃)進行調查。事件後來獲得媒體跟進,N號房才正式曝光。畢業後,元因知成為獨立記者,繼續潛伏在聊天室,支援受害者。

元因知說,早在五年前,她已經知道深偽聊天室的存在——那時深偽技術正開始被廣泛應用。

2017年,「深偽技術」出現在公眾眼前。一開始,這套應用人工智能進行深度學習、後合成各種像真影像的技術給人們帶來很多樂趣,尤其是應用在政治戲仿上的時候--例如讓奧巴馬罵特朗普是蠢蛋。但很快,這項技術就成為傳播假消息的工具,而且還被用於性犯罪。

倫敦南岸大學社會工作學系副教授 Tirion E. Havard 研究科技在虐待關係(abusive relationship)的角色。她指出,過去人們用手機不斷用短訊電話轟炸,或使用 GPS 追蹤伴侶,已經是一種科技介入關係的體現。Havard 更用哲學家傅柯的「圓形監獄」(panopticon)形容這些監察和跟蹤科技,「由於手機的存在,(被監視的人)感覺自己仍然受到施虐伴侶的監視和控制……即使施暴者不在場。」這種行為很容易造成焦慮、偏執等心理問題。

Havard 說,越發複雜的科技,就為施虐者監視、煤氣燈操縱(Gaslighting)和虐待提供新的可能。EndTAB 是美國一家主力進行網絡安全教育的組織。創始人 Adam Dodge 曾形容,深偽技術對於 「那些試圖對受害者施加權力和控制的人來說,是多麼完美的工具。」根據荷蘭身份驗證公司 Sensity AI 的調查,網上96%深偽影像受害者都是女性;而從2018年到2020年,這些影片數量約半年就增長一倍。

有人形容深偽為「復仇式色情」(revenge porn)帶來一種全新的模式。「復仇式色情」原指未經同意散布他人祼照等性私密影像,犯罪者旨在對受害女性進行羞辱、騷擾,甚至勒索。在深偽事件曝光後,Cat 迅速地在 X 等社交平台發起標籤運動。她形容在韓國,這樣的行為叫「熟人凌辱」(지인능욕)。

以前,韓國男性會把女性的照片,利用 Photoshop 等軟件修成「ahegao」(アヘ顔,日本二次元作品中,角色在性高潮時出現的翻白眼吐舌等表情),然後連同女性的個人資料一併在社媒傳播。不過當時要生成這些影像,對製作者還是有一定要求:他們要懂專業的修圖技術,還要願意花時間把照片弄得逼真。但是到了深偽技術出現,犯罪者只靠電腦手機,就可以在五秒間合成色情影像;而流通和滋長的渠道也從 Tumblr、Twitter、Discord 等社交平台,轉移到私密度高的 Telegram。

Cat 指出,深偽比N號房性剝削更可怕的地方。「N號房是加害者威脅受害者使其成爲性奴隸,但這次,只要有AI Deepfake技術,受害者和加害者不接觸也能犯罪。」 當性犯罪的物理界限消失了,受害者人數遠遠無法估計,加害者也更難以產生罪疚感。

深偽聊天室與當年N號房的運作架構一樣:有性剝削材料的製作者、積極散佈的傳播者,還有靜靜觀看的觀眾。但元因知覺得,兩件事件不同的地方是犯罪者的動機。

當年,N號房主謀趙主彬在聊天室分出三個等級,向會員收取由20萬到最高150萬元(韓元,下同)不等的入會費。被捕後,警方在其家中查獲了高達1.3億現金、32億加密貨幣流動資金——他在自辯時,說明犯罪動機就是「為了賺錢」。

然而經營深偽聊天室的人想要的,似乎不是這樣。今年5月,首爾大學、仁荷大學先後捲入深偽犯罪事件——兩名首爾大學的校友被指控合謀,在過去三年間利用多達61名女性的畢業照、社媒頭像合成色情影像,在 Telegram上超過200個直播間傳播。警方在採訪中表示,「主犯並沒有透過非法合成物賺錢,犯罪目的不是為了營利,而是為了滿足自己的欲望。」

欲望是什麼?「就是戲弄女性、降低女性的價值,再把照片發出去,在過程中得到一個滿足感,」元因知分析群裡人的心態,形容男性很易感到憤怒、有人認為「女性只是性器而不是平等的人」,像是在事件曝光後,有人把新聞分享到群裡,說「我只會看漂亮的女孩,我不看醜女人、我對你自慰你應該覺得榮幸。」元因知覺得,其實他們都在共享一種情緒:對女性的仇恨。

所以如果說,進入N號房的門檻是錢,那麼深偽聊天室要的則是一種「證明」,證明自己是「同路人」。元因知說,進群者要先回答不同問題,為彼此提供安全感,比如「你認同女權是一種病嗎?」只有答「是」的人,才會被批准加入。而在個別的聊天室中,成員還必須給大家共享女性熟人的個人信息——他們要羞辱的人不侷限於名人歌手,更主要是身邊的人。

「當他們知道這是一個真實存在的人,他們似乎更興奮了。」她說。

2016年12月1日,一個人在瀏覽色情網站。攝:Yui Mok/PA Images via Getty Images

從非法賭博到性犯罪,一條線上生態鏈

8月28日,韓國警察廳開始密集打擊性犯罪行動,為期七個月。一週間,警方已立案超過120宗,其中75%落網嫌疑人均為青少年。值得留意的是,青少年一直都是主要的深偽犯罪者。

根據警察廳的數字,2021年到2023年間,韓國每年深偽犯罪案件均破150宗,當中超過60%嫌疑人為青少年。而在今年一月到七月截獲的297宗犯罪中,這一比例更達到了73.6%。

Aha 青少年性教育諮詢中心曾在2019年3月至2020年12月31日間,對91名實施數位性犯罪的青少年進行案例分析。結果顯示,青少年犯罪的主要動機分別為「沒想過會出大事」、「好奇心」和「有趣的惡作劇」;約四成人在犯罪後,更表示對加害行為沒感覺。

就像一開始,朴秀彬也覺得傳出來的學校名單沒什麼特別,「推特上曾經有很多持刀傷人的事件,但它最後也無影無蹤。」她覺得,這次跟那些惡作劇本質一樣,就是初中生求關注的舉動。

不過,性教育諮詢中心的專家指出,學生之所以對性暴力不敏感,是因為這個社會本就自然地將女性視為性消費的對象。犯罪的學生解釋,他們不覺得分享色情信息是剝削女性,而是在為大家提供笑話和娛樂,也是催谷自己人氣的一種方式。

金正惠也得到過相似的結論。她是韓國女性政策研究院性別暴力安全研究中心研究員,在N號房事件後,她曾研究過當代的性暴力特性。她發現,在男學生的文化中,消費女性被視為「平凡同齡人」的日常行爲,而由於網路匿名性等特點,也淡化了學生對犯罪的認知、削弱罪惡感。

作為家長,朴秀浩覺得青少年犯罪的原因之一,是他們玩社交平台(SNS)的時間越來越長。盧娜說,「他們中毒很厲害。」她觀察,現在的年青人已經全都轉到 Instagram 裡溝通,在互相轉發Reels、「好玩」的東西時,就多了機會接觸不良信息。

今年二十歲出頭的 Kim是一名大學生,過去曾潛入深偽聊天室進行調查。 她還特別提到一個人們經常忽略,但青少年很易接觸色情材料的渠道——非法賭博網站。在韓國,大多數中學生都有非法賭博的經驗,而非法的漫畫和色情網站就是它的典型誘餌。

警察廳人力資源發展學院教授徐民洙指出,青少年對賭博相對不感興趣,「但他們對性非常感興趣 」。線上賭博業者就是利用這種心理,先購買大量的性剝削材料創建色情網站,吸引青少年點擊。徐民洙形容,這是青少年墮入賭博陷阱的「關鍵入口」。

端傳媒嘗試訪問這類色情網站,發現只要隨意按下影片,影片下方就會出現至少十則線上賭博的廣告,一個「孤獨的人進來吧」按鈕更會連結到另一個線下性交易網站。曾經有韓國記者在網站進行註冊,指出過程並不用身份認證。

2020年,《韓民族日報》曾揭發超過80個N號房聊天室與非法賭博網站存有共生關係:用戶靠下注賺取積分,再用積分換取色情內容。換句話說,色情影片、非法漫畫是「非法賭博」的門戶,但同時非法賭博正是其他犯罪的起點。

學校也感知到賭博對青少年的威脅。盧娜的小兒子正在讀小學,她說學校很常在校園平台發公告,告知大家小心非法賭博和網絡中毒。然而效果不彰。今年3月,國家搜查本部結束為期六個月的打擊賭博行動,一共拘捕1035名青少年,九成為中學生,其中還包括兩名小學生。

2024年8月26日,Telegram Messenger 應用程式。攝:Lam Yik/Bloomberg via Getty Images

「法外之地」 Telegram

對比丈夫,盧娜面對深偽犯罪的心態更冷靜一點。她覺得,在事件爆出來後,總統尹錫悅已經迅速發表講話,要求警方徹底調查,「這個國家的保護還是挺及時的吧,不會說出事不管啊 。」

確實,面對大型性剝削事件,韓國政府行動快速——在N號房事件後,國會迅速通過《N號房防治法》多項修法,包括提高合法性交年齡至16歲,持有、購買、觀看非法色情片的人將面臨最高3年監禁或罰款3000萬韓元。

然而,雷厲風行的措施看不見成效。根據檢察廳的數據,2020年全國共有2070宗數位性犯罪案件,但到2022年時已突破一萬宗。根據「數位性犯罪受害者支持中心」數據,該兩年間受害者數字亦由5000人上升到近9000人。

有評論認為,上升的犯罪趨勢正是因為青少年抱着「不會被抓」的信念。在深偽事件不斷被媒體報導後,元因知發現在聊天室中有兩種不同的反應:有犯罪者銷毀房間,試圖切斷受害者的聯繫,然而也有人仍在開新的聊天室。一名男性保證,「如果你只是在 Telegram 這樣做(深偽),你就不會被抓到。」

過去,非法色情影像一直在 Tumblr、Twitter 等海外網站流傳,這些公司曾以「沒有義​​務遵守韓國法律」為由,拒絕與警方合作。但這一次,作為通訊軟件的 Telegram 比起社交平台更私密隱閉,而它從來不回應各國執法單位要求,也不會主動通報可疑活動。如果沒有路徑進聊天室,警方很難收集證據、搗破犯罪。

但 Kim 說,這並非警方搜證的必然限制。許多受害者在報案無門後,會找上民間和女權團體協助,行動者會直接潛入 Telegram 聊天室,監控性犯罪者,找出個人信息,再向警方提供證據說服他們進行抓捕。

在 Cat 看來,犯罪猖獗的問題在於警方和社會一直以輕視的態度對待性犯罪,「他們認為這是女性的不幸或謊言。」2021年6月,人權觀察(Human RightsWatch)發布名為《我的生活不是你的色情片》的韓國數位性犯罪現況報告。 有受害者表示即使報案,警方也會以「可能被起訴誹謗、刑期過低、或涉及外國平台無法解決問題」等理由勸退。

除了態度以外,警力資源方面也明顯跟不上變化。2019年N號房事件發生後,政府在全國18個區域成立了一共99人的數位性暴力調查小組,但五年過去,人數僅增加了32人到131人。這或是其中一個原因,解釋為何警方紀錄的深偽犯罪數,與民間組織的統計數字存在斷層——以2023年為例,警方共統計180宗深偽犯罪,但數位性犯罪受害者支持中心的數字則翻了一倍,達423宗。

2020年2月24日,首爾,鏡子中映照著一名戴著口罩的婦女。攝 : Heo Ran/Reuters/達志影像

檢方不起訴,悔意作「技倆」

當受害者排除困難,積累足夠證據讓警方受理,她們在司法路尋求正義的每一步也障礙重重。在人權觀察的報告中,有受訪者指出,即使警方將案件交給檢後,檢方並不一定進行起訴,而不起訴率(46.8%)甚至比謀殺(27.7%)或搶劫案件(19%)還要高。

一位曾經協助倖存者的律師形容,韓國檢察官的權力異常強大,他們可以對自己認為重要的事進行起訴,但通常性犯罪案件都被漠視。最後即使案件受理,「檢察官又不信任受害者」,律師還要先讓受害者用測謊儀證明自己。而且,法官在判決時似乎無法理解受害者——他們更同情被告,而不是着重受害者所受的傷害。

在警方高度開展打擊性犯罪行動後,有韓國媒體發現很多人找上了「數位禮儀師」。他們主要在網上幫客戶清理未經同意被上傳的照片。運作過程大概是這樣的:在收到刪除申請後,執行者會先檢查確認該影片或帖文,是否存在毀損當事名譽、侵害肖像權等法律問題,然後再準備詳細資料要求網站或社群管理員刪除;所需的時間則取決於網站本身。

然而最近,找上這些公司的更多是犯罪者。一家自稱全國首間數位刪除公司表示,在8月底一週間接到30份刪除影片申請,當中66%都是來自犯罪者。另一間宣布免費協助受害者刪除影片的公司 Sarajim 同樣指出,在同一期間它們收到248宗申請,其中36宗來自犯罪者。

這看似是犯罪者銷毀證據的一種方式,但 Sarajim 公司形容,這更是他們的一種「伎倆」。「法院很可能會將其納入減刑的因素, 」 Sarajim 執行長崔泰雲說,「因為它是犯罪者有努力補救的證據。」2020年,《京鄉新聞》曾分析三宗分別涉及傳播及製作青少年性剝削影片的判決,發現「初犯」、「認罪並有悔意反思」,以及「受害者主動配合」都是法院減刑的因素,最後三名加害者均獲緩刑,無須入獄。

尹素妍是一名報導數位性犯罪的記者。她認為,法官往往否認性犯罪「是一個真正的問題」,而輕判也就向人們傳達「(性犯罪)是可以原諒」、「女性抱怨才是問題所在」的訊息。

目前,韓國對於性犯罪懲罰的程度,主要取決於犯罪者的處理方式。2021年,國會通過《性暴力犯罪處罰特別法》修正案,規定對製作或散佈深偽影片的犯罪者,處以最高5年監禁或5000萬韓元罰金;而以營利為目的的,更可判處最高7年監禁。如果受害者是19歲以下的青少年或兒童,則適用於《兒童青少年性剝削法》:製作性剝削材料的行為,會被判處無期徒刑或至少5年監禁,而擁有和觀看的犯罪者,將被判處一年以上監禁。

但這次大規模深偽犯罪的爭議在於,青少年既是最大的受害者,也是最大的加害者。根據韓國《少年法》,少年犯罪的刑事責任年齡以14歲為界,14歲以上不滿19歲的人為「犯罪少年」(범죄소년),法官會依案件情節判處刑事處罰;而10至13歲的人則為「觸法少年」(촉법소년),他們不用負刑事責任,最重處罰是送到少年看守所,接受兩年感化。

目前,韓國社會再一次掀起下調青少年刑事責任年齡的討論。京畿大學犯罪心理學教授孔公植曾認為,「未成年意味着有改造的可能性」,如果青少年因為不成熟犯罪而受到嚴懲,這會令他們受到污名化;而《少年法》的重點是「改造」而不是懲罰。一位長期在法律支援中心負責人同樣認為要解決犯罪根源,社會除了在預防及矯正犯罪下手,「別無他法」。

2024年9月6日,示威者於首爾參加反 Deepfake 集會。攝:Chung Sung Jun/Getty Images

受害者不用「減輕」傷害,社會要做的是抓住犯罪者

與其知道更多男性的齷齪事,面對無法改變的無力感,倒不如迴避現實。

盧娜和朴秀浩二人都是從事資訊科技相關行業。她還記得,在 AI 剛發展面世時,丈夫買了好多相關的書。

在一次聊天,丈夫對她說:「你看這個 AI 的技術現在越來越成熟,就是肯定以後最先出來的就是性方面的犯罪,然後就是賭博相關的。」盧娜想,那可能是模仿人的聲音進行詐騙,「就沒想到(現在)連身體都換了。」所以她認為自己面對事情不如他人驚訝,也覺得這是一種「時代的變化」,處在其中的人都要學會面對和接受。

朴秀浩則用了一天查看許多新聞,慢慢平復自己。他覺得,這不是個體能控制的事情,還需要國家的制度一起解決。於是他冷靜地告訴女兒,如果遇到這種事情,第一時間就要拿着證據去報警,「爸爸答應你,我會把他們抓起來送進監獄,別太緊張。」

「當然,這注定要發生……」這是 Kim 對深偽事件曝光後的第一個想法。在持續追蹤性剝削事件多年,她說自己從來都不認為男性看到N號房判決後會停止犯罪。如今恐懼一直在擴散。她的朋友迅速將公開的社媒帳號轉為私人,又刪除了所有露臉的照片貼文。但特別的是,人們同時又在日常生活避談這件事。Kim 解釋,「如果你對女性性剝削案件表現出興趣,你可能會被視為『女權主義者』。」

在韓國社會,有超過四成女性對女權主義感到厭惡。Cat 自己也感受到,「很多人只想在什麼都不知道的情況下,過着舒適的生活。」——與其知道更多男性的齷齪事,面對無法改變的無力感,倒不如迴避現實。

但可怕的是,這種不對等的暴力很容易會內化。香港大學歷史系及性別研究系客座助理教授郭婷曾指出, 當女性內化這種暴力的時候,對弱勢群體的傷害會更大。這讓 Cat 感到很遺憾,因為大家的忽視、對虐待女性等問題置之不理,「我們已經活在一個年輕女性,在學校或家庭都無法感到安全的社會。」

在網誌上,一名深偽犯罪受害者的朋友,曾寫下自己追捕犯罪者、後來患上創傷性恐慌症的過程——2023年4月,她親自加入了 Telegram 聊天室,在裡面感受到各種不適與調侃。群裡的犯罪者不斷分享各種深偽、生殖器照片和自慰影片,還問:「 你也喜歡看嗎?」後來,她才發現犯罪者是她認識的人。

她寫道,「我花了很長時間,把所有的對話記錄和照片都翻了一遍。無論我再次見到他多少次,我仍然不敢相信這是我認識的人。 」「我的心瘋狂地跳動,我的身體在顫抖,無法呼吸。 」

這些症狀在她每次重看證據時不斷會出現。她到精神科看醫生,診斷患上了創傷性恐慌症和壓力相關的憂鬱症。當時,她跟醫生解釋自己感到緊張的原因,卻被醫生一句否定,「嘖嘖……這就是為什麼你不應該在社交媒體上發布照片。 」

一下子,她腦子裡閃回很多日常大眾的評論,她也有懷疑過自己:「犯事者並沒有非法拍攝我, 我赤裸的身體或私處都沒有被暴露……但原來比我們想像中更多的人,都認為犯事者的行為只是越界的惡作劇,認為我們的傷害並不那麼嚴重。 」人們總說,「趕快擺脫它,過更好的生活。」

她寫道,「傷害既不是我們造成,也不是我們創造的」。外界不需要告訴受害者該做什麼來「減輕」傷害,人們要做的「是抓住犯罪者,讓他們負上應有的懲罰」。

2020年10月13日,南韓的一個公園,一位女士在草田中自拍。攝:Kim Hong Ji/Reuters/達志影像

今年3月,美國加州比比佛利維斯塔中學(Beverly Vista Middle School)被揭發有五名初中生,利用深偽技術製造並傳播16位同學的裸照。比佛利山聯合學區在投票後,決定開除所有犯罪學生。

校長 Michael Bregy 在聲明中寫道,事件觸發了人們對使用AI 等科技的道德討論,在過程中使用者須保持警惕和尊重知情權。他表示,錯誤是學生在學習和成長必經的一部分,但重要的是,他們也要為錯誤承上應有的責任。最後,沒有任何家長反對開除所有犯事學生的決定。

踏入9月,南韓的事件似乎也出現了改變的拐點。9月2日,韓國警方宣布就 Telegram 縱容性犯罪一事進行調查。而此前,8月24日,Telegram 創辦人杜洛夫(Pavel Durov)已因被指控縱容兒童性交易等犯罪,於法國被捕。

翌日,韓國廣播通信審議委員會(KCSC)指收到 Telegram 的東亞地區負責人的公函。信中,Telegram 對平台上發生深偽事件表達「不幸」,又說明目前已刪除了韓方要求的25項性剝削影像。Telegram 又對與韓國當局溝通不良致歉,並提供一個專用電郵,方便日後與委員會溝通。

KCSC 形容,Telegram 的做法相當「承認了情況的嚴重性」,亦「非常有前瞻性」 。

讀者評論 0

會員專屬評論功能升級中,稍後上線。加入會員可閱讀全站內容,享受更多會員福利。
目前沒有評論