評論|中韓女權對談:反抗 Deepfake 深偽色情,「女性是我們共同的國籍」

「為什麼我們這麼有活力?因為父權制從來沒有給女權主義者和解的機會。」
2024年9月6日,首爾,示威者參加反 Deepfake 集會。攝:Chung Sung Jun/Getty Images

「韓國女性在努力,但是國家不聽,如果你能幫我,我會很感激的。」8月底,幾位自稱來自韓國的高中女生,在中國的微博和小紅書上相繼發帖,指韓國存在大範圍的 Deepfake 深偽色情影片,而女性感到很無助。正逢8月24日 Telegram 創始人 Pavel Durov 被法國警方逮捕,幾天後韓國公眾就發現這一新型N號房的存在,中國互聯網也在韓國女生的求助帖文下迅速沸騰,8月29日,「N號房2.0」的標籤登上微博熱搜。

在加密軟件上開設不同的房間,以匿名方式傳播偷拍色情影片,並給房間設置等級,讓人付費加入觀看,即N號房的一般型態。韓國的N號房第一次被揭發時,即在 Telegram 上運作,以真人偷拍為主。與四年前相比,這一次,犯罪者通過AI技術擷取女性頭像、進行「換臉」,把不同人的身體和臉拼貼在一起,製成 Deepfake 色情影片。

面對求助,中國網絡輿論一波三折。起初不少網民向韓國女性表達聲援和支持,善意傳遞到韓國,韓國女性也對中國網民表示感謝。但這些良好的互動很快又被不理解、批評和歧視韓國的情緒言論壓制。反而,中國在海外的女性和女權活動者,看到求助後積極組織起實體聲援,在包括倫敦(9.3)、東京(9.7)等城市進行抗議遊行,並到韓國大使館前抗議。不同地區之間互相影響,台灣「基進女性之家」也計劃於9月20日到駐台北韓國代表部組織抗議。

N號房或 Deepfake 色情是科技與色情交叉產生的嚴重侵害人權的社會問題,它的出現及手法變化亦考驗人們對科技倫理、性犯罪、性別文化的思考。女性的感受和想法是怎樣的?韓國國內的反應為何令韓國女性覺得不足夠?中國女性為什麼想要支持韓國女性?女性之間的跨國連結帶來哪些經驗?我們又應該如何看待平台和技術的責任?平台是有性別的嗎?端傳媒邀請來自韓國和中國的三位女性進行對談,另有一位科技倫理研究者參與技術監管部分的筆談。

以下為對談節錄。

宋怡玟:韓國人權活動者,曾在國際特赦組織工作,是韓國女性和LGBTQ權利關注者、倡導者。

弦子:中國女權活動者,#Metoo等性暴力議題、相關法律及社會文化的關注者

沙楠梅:倫敦聲援活動的組織者,激進女權主義行動者,無政府主義踐行者

李子:佐治亞理工大學科學、技術與社會研究博士,世界史碩士

「韓國很多女生不敢相信」

韓國女生很缺乏安全感。也是因為韓國警察或者韓國司法沒有很積極的去保護女性。

宋怡玟

端:有記者整理南韓檢察廳公布的統計數據,指2018年韓國性犯罪發生數1,370件,但從2022年已突破1萬件;在總體性犯罪型態的排名與比例中,網絡性犯罪也從2018年排行第5位、僅佔4.5%,上升到2022年的第2位,佔27.2%,僅次於性騷擾。兩種案件數呈倍數增長。

N號房不斷升級、變換形式上演,這一波相較以往有什麼不同之處?現在韓國女性的集體情緒是什麼樣的?

宋怡玟:這次衝擊比較大是因為已經涉及到了青少年,全韓國差不多有500多間學校涉事,初中、高中、大學都有,甚至包括小學。犯罪的主要形態就是去截圖女性社交媒體上的頭像,比如 Whatsapp,然後拿這個照片去做 deepfake。

韓國很多女生都覺得,不敢相信吧。因為都是「我」的同學或者「我」的學長去拿「我」的照片犯罪,女生很多覺得很恐怖、絕望。也有些人說要把自己的 profile 相片拿下來,也有人覺得不用,因為不能把責任加在受害者身上,是犯人的錯。

很多人在自己的位置做一些能做的事。比如韓國現在有一個 Deepfake map,是人們自己去做、去翻譯、傳播到海外的。所以雖然感到恐怖絕望,但韓國女性也試著去突破這些困難。

四年前N號房就已經引起很大的關注了,這次引起的關注再廣泛一點,新聞也每天都在報導。韓國還有公民請願,我前兩天看了一下,已經超過了5萬人,而且人數也是一直是在增加的。普通人的參與也比以前要再多一些。

2014年5月13日,首爾,一名男子正使用手機。攝:Kim Hong Ji/Reuters/達志影像

端:韓國男性的反應如何?

宋怡玟:有幾種。一種是,也覺得比較恐怖,因為就連小學生、初中生都在把同學或者女性當作可以玩樂的對象。一種是,「為什麼把我們全部男性都當成犯罪者?」另外也有 Telegram 上的參與者,說「反正你們是不能抓到我們的」。

端:熟人犯罪的情況比較嚴重?

宋怡玟:對對對。有一個可能不是很準確的估計數字,就是施害人推算有差不多22萬多。但是韓國一個保守黨的國會議員李俊錫(音譯,이준석)說,不是22萬是726個人。這個話很好笑⋯⋯難道726個人就沒有問題了嗎?

端:韓國警方指近60%的受害者是未成年人75%的加害者是青少年。加害者和受害者擴大到青少年群體,對此韓國內部有什麼觀察和分析嗎?

宋怡玟:最大的原因就是國家和社會幾年來都沒有好好去關注這個問題。韓國網絡上有很保守化的潮流,年輕人、青少年都主要用手機或電腦,在 Internet Community 上玩——有兩個主要的 Community,一個叫 Invest,一個叫 DC Inside。這兩個影響力都比較大,但也很保守、厭女。

數量不少的韓國男性是 Incel(註:非自願單身者) ,日常生活跟女生沒有很多相處交流,但會在網絡上以匿名說女性很壞、很不好。上面那兩個團體也是這種 Incel 的情緒。

還有一個原因是,韓國的性教育和性平等教育沒有很積極,學校也不教很體系的性教育和性平等教育,然後保守團體或者父母團體一直反對《學生人權條例》,主張要從圖書館下架性平等關聯的書。

(註:《學生人權條例》的誕生是為了扭轉韓國一度盛行的威權教育、暴力教育,實施已有超過10年,條例中並包含不得歧視同性戀學生等。然而,過去多年韓國卻發生數起家長和學生霸凌老師的事件,明星學區更嚴重,《學生人權條例》成為眾矢之的。但人權團體認為,教師權威的崩潰與該條例沒有明確因果關係,是其他原因導致惡家長找到法律武器。)

事情涉及面這麼大,也跟N號房的機制有關係。男生進到房會拿到一些積分,這個積分可以做一個 deepfake 的影片,而不是很有錢的學生如果邀請到另一個朋友來,就會拿到更多積分。為了拿到積分,人們就一直邀請別的人,也起到廣告宣傳的效果。

「兒童」能讓家長感覺到被威脅,可能是自己的孩子也在風險中。我覺得這對女性非常不公平,為什麼成年的女性長期以來的處境要被漠視?

沙楠梅

端:有觀點認為「受害人年青化」的定性弱化了女性的受害,你們怎麼看?

沙楠梅:會覺得好像是更加青少年的女性、或者是被歸屬為「兒童」這個範圍的人受到侵害,才值得社會這麼大的關注。但是其實女性一直以來都備受網絡性暴力、甚至現實社會中性暴力的侵擾。「兒童」能讓家長感覺到被威脅,可能是自己的孩子也在風險中。

我覺得這對女性非常不公平,為什麼成年的女性長期以來的處境要被漠視?還有一點是,網絡性暴力不是一天形成的,它是現實生活的一個延伸,不是技術發展了才出現,而是隨著技術發展而變得更加的肆虐。

早年間我們的影視文化作品經常會出現一個男人對著他的女神打飛機、或者是幻想意淫一個女性的場景。不是還有各種AV女優倒模而成的情趣用品嗎?甚至一些女明星被做成硅膠的成人玩具⋯⋯這些都沒有經過藝人本人的同意的,但這些事一直在發生。

有一篇論文也講,男性越早接觸色情製品,越容易形成性別歧視的觀念。早年我做性教育的時候,有一個觀點可能是鼓勵大家接觸色情製品,因為中國國內有性壓抑、性禁忌,做這些事是一種反抗,是很酷的觀念。但是其實到現在為止,我打開任何一個所謂主流的色情製品網站,我都會在三分鐘之內退出,因為不適感實在是太強了,所有的視頻都是清一色的強化男女性別之間的不對等,而且女性處於一種受虐的被虐的狀態。

很多時候女性都是露臉的,影片中的男性卻要麼戴著頭套、要麼打馬(賽克),要麼是不出臉只一根 dick 動來動去,這個影片就成立了。這些很荒謬的東西給青少年、包括成年人灌輸的性別和性的觀念,都是完全錯誤的。長期以往的影響應該是非常大的。

端:女生的臉,這個提醒很重要⋯⋯deepfake 影片裏必須要用到女性的臉。

沙楠梅:我覺得自由女權依然受到上世紀七、八十年代性解放思潮的影響,很多女權主義者可能會非常關注性解放,甚至把自己放置在一個性解放的位置裏。但是女性的性解放如果依然放在男性構建出來的性幻想跟框架中,就沒有被解放,只是自願進入了一種陷阱。

現在網上還有一些女性會配合自己的男友拍一些性愛片,自願上傳到色情網站上去,顯示出自己很主動、或者是很迎合男性的這些興趣愛好,比如從黃片中學來的各種癖好。這個過程女性看似非常有能動性,但本質上是自動加入了劇本,自願成為客體。我覺得這是一個值得去警醒的點。

端:韓國女生現在會覺得缺乏安全感嗎?

宋怡玟:會,因為大部分的加害人都是男生。然後不僅是性犯罪,最近韓國也有一對戀人分手,男朋友去殺女朋友;還有在公司裏,一個同事跟著女同事去女生廁所,然後在廁所殺掉女同事⋯⋯還有很多 stalking(跟蹤)。

韓國女生很缺乏安全感。也是因為韓國警察或者韓國司法沒有很積極的去保護女性。比如告訴警察這邊有性犯罪的現場,他們就好像現在說 Telegram 的那種態度,「我們不能向他們要求資料」,所以就不積極調查。

韓國女生就是覺得自己被國家遺棄了吧。

跨國聯動

在我們不知道的時候,特別是在被牆隔絕的時候,中國、韓國,包括台灣或者日本的女生,在微博或是小紅書上,原來也有非常小範圍但並不少見的線上交流。所以跨國求助這件事,我覺得它不是一個突然發生的事情。

弦子

端:韓國女權主義者們發起了什麼抗議?你覺得影響力有比以往大嗎?我們知道「女權主義者」在韓國女性中都不是太受歡迎。

宋怡玟:有變大,就是 collective intelligence 吧,一起做翻譯,然後做 hashtag 運動。韓國的 X 和 Twitter 上也比較多女性在熱烈反應,這個週末也會有戶外示威。

端:為什麼韓國女性想要向國際社會求助?為什麼會到中國的微博上發帖?對中國輿論的期待可能是什麼樣子的呢?

宋怡玟:長久以來韓國就是厭女、歧視的氛圍,很多女性覺得被國家遺棄了,或國家不積極保護女性。所以希望國外的人能更多知道韓國的情況,增加一些壓力。韓國政府或者韓國人就是很重視國家的面子。

弦子:真是特別東亞文化的共通點。當時日本傑尼斯、喜多川的性侵案,日本本國的媒體也不願意去報道,一方面是傑尼斯的權力,一方面是日本媒體對於男性之間的性侵是一個諱莫如深的態度。第一個站出來舉報這個事情的偶像,就完全放棄了對國內記者傾訴,直接在日本的外國記者協會開記招。那時候也是日本G7,才導致官方很快提出要修法。伊藤詩織的遭遇也差不多,BBC為伊藤詩織拍的紀錄片播出來後,日本還有人說她是「境外勢力」。

端:對,日本媒體對性侵案有沉默之牆。

弦子:有時如果沒有西方對於東亞國家的這種關注,可能女性都很難想像自己的政府會怎麼回應她。

中國也很類似,中國政府特別忌憚「境外勢力」、對於女權主義者是境外勢力的污名化,其實反過來也證明了他們對於境外觀點的在意。我覺得本質上是把性別問題當作了一種家庭內部的問題,好像男性家暴女性還覺得是自己的家務事,然後還覺得家醜不可外揚。

2020年3月25日,南韓當局將「N號房」網絡性犯罪案主謀趙周彬由警局移送至檢察官辦公室。圖:AP/達志影像

端:韓國媒體應該還是願意報導的?

宋怡玟:是的。而且有一個叫 Hani 的媒體,從2020年N號房就持續報導數字性犯罪相關的內容。韓國現在多了其他媒體去報導、進行調查。之前媒體的態度是,有什麼事件就會報導,慢慢會減少,有了新事件就再報導,然後又減少。現在能持續這麼久也是因為這個事情剛發生,差不多兩個星期了,還是比較有熱度。

端:之前有想到中國女權主義者會有這麼多行動嗎?

宋怡玟:韓國也是最近才知道倫敦的女權主義者在為韓國示威,也是最近才開始知道中國也有很多女權主義者。韓國女生去小紅書發帖,我想主要是因為覺得網絡有影響力。

端:一開始在中國微博發帖的韓國女生,是高中生,她們來中國求助讓很多人感到意外。

弦子:我去年有個活動,是做《灌籃高手》的組織觀影,就發現其實中國跟韓國女生的交流是很緊密的,哪怕我搞的是《灌籃高手》這麼冷門的動畫,也有非常多的韓國女生出現。

端:《灌籃高手》很熱門!

弦子:相對來說不是那種追星、男團女團的熱門!當時有非常多的韓國女生註冊微博來跟中國的女生交流,就跟中國女生會註冊推特一樣的。

大家很多時候對於女性的這種行為都會簡單的說,這是飯圈,特別在中國的敘事裏是被打壓的。但我進入到這個圈子的時候發現,這個社群主要構成是女性,她們之間會發生很多非常自然、流暢的交流。女性之間的這種交流是帶著特別多的愛意,是會給對方安全感的。

在我們不知道的時候,特別是在被牆隔絕的時候,中國、韓國,包括台灣或者日本的女生,在微博或是小紅書上,原來也有非常小範圍但並不少見的線上交流。我去上海參加漫展,大概有五個韓國女生是從韓國趕過來,然後會有中國在韓國留學過的女生自願來幫她們翻譯,還會送她們禮物。

所以跨國求助這件事,我覺得它不是一個突然發生的事情,為什麼韓國的女性會知道中國有微博、小紅書?甚至我最新的追《灌籃高手》的群裏就有台灣女生,跟我們聊天已經超過一年時間了。我覺得還是跟性別非常有關係,很難想像這樣的交流會發生在男性群體裏面。比如說男性看足球的群⋯⋯好像不太可能發生。

一直被男權社會貶低的這種女性的飯圈或追星行為,它有一個特點是創造了一個女性的空間,很可能是一個充滿想像力的、跨越國境的空間,就跟當年的豆瓣小組一樣,而且可能在某些事件裏就會轉化成女權行動。

宋怡玟:很同意很同意,我想起來韓國有很多人就是喜歡中國和台灣的電視劇,喜歡中國和台灣的文化,所以她們會自己去學中文,然後到中國網站去收集一些中國和台灣的消息。

沙楠梅:我也特別認同,其實只要有足夠多女性的空間,不需要一個專門的女權組織,就有機率誕生一些很女權的行為或者思想。我剛想起來,我們在 Instagram 上發倫敦女權主義者行動的時候,韓國也有人以為我們是英國人女權主義者,但有一個韓國的姐妹在底下解釋我們是在英國的中國女權主義者,然後我點開她的頭像一看,是王凱。

(眾人笑)

沙楠梅:我心想,OK,是一個追中國明星的韓國女生。

身分政治更像是比如一個白人有非常強烈的對亞女的拯救慾。但是我們都一樣,甚至我們都是在比爛,中國的情況說不準更惡劣危險慘烈

沙楠梅

端:這個小細節很可愛也很重要。倫敦的中國女權是怎麼想到要響應的,為什麼有這麼強的動員?

沙楠梅:韓國女生在微博上發了帖子之後,我特別的難受,覺得我們處於一種同呼吸共命運的狀態,很心疼她們被自己的國家拋棄、需要去借助外界的力量去達成保護自己的目的。

這跟中國女權非常的像,我們就是在一直向外去獲取一些空間、一些資源來發聲。在國內這種聲音基本上存活的時間都不會太長。所以看到她們也在做這樣的事情的時候,格外的感同身受。

而且我個人作為一個激進女權主義者,特別受韓國女權主義者的影響,前幾年6B4T那些集會至少也有4次非常大規模的了,這幾年韓女的文學也在中國很流行,我在韓國女性那裏得到很多的啟發。也是時候姐妹有什麼事情要去幫忙了。我也特別感動於她們在集會現場放少女時代的歌、進行一些控訴的畫面。

也可以說是滿足我的私慾吧,我就想幹這件事。然後我就開始搖人,在朋友圈搖、在我們的大號搖。也有考慮到身份政治的問題,就是一個中國的女權主義者,為韓國女性跑到倫敦的韓國大使館去抗議,其實在外人看來有點不太像樣。

但我又仔細想了一下,這不是個問題,身分政治更像是比如一個白人有非常強烈的對亞女的拯救慾。但是我們都一樣,甚至我們都是在比爛,中國的情況說不準更惡劣危險慘烈,Telegram 上也有和中國有關的色情群組,而且很多都不是 deepfake,是直接拍了放上去的。而韓國至少媒體會報導。

所以我覺得這個本身就是一個對抗,一個共同面臨的問題。不是說是我有多強的救贖拯救慾望,我們自己也在泥坑裏,所以我們站在一起跳出泥坑的感覺。

當時有一個韓國的女權博主轉發了,突然就有非常多的韓國人來。我一開始都不認識韓國人,也不認識任何的韓國女權主義者。所以這個轉發特別幫助到我們的一點是,在倫敦的韓國姐妹就順藤摸瓜來找我們了,私信問我們怎麼參加活動呀,什麼時間,有什麼能幫忙的?還包括提供海報、做翻譯、修改文案的,也找到人做現場的韓語 host,還有喊口號的人⋯⋯

就是每一個來的人都在盡自己所能做一切事情,才讓這件事最後圓滿完成。

現場來的除了中國人韓國人,還有蘇丹的、印度的女權主義者。我們去之前想要做到的那種多元性,因為她們在場,就自動完成了。非常完美,超乎我預料。我一開始的想像就是只有四五個人願意跟我去,然後到韓國大使館門口溜一溜就可以回來了。

2024年9月6日,首爾,示威者士參加反 Deepfake 集會。攝:Chung Sung Jun/Getty Images

端:結果有多少人?

沙楠梅:應該有五十多個人吧。而且現場的效果非常好,韓國姐妹也用韓語向大使館裏的人喊話。我們一開始以為韓國大使館關門了,沒有工作人員了,但其實昨天應該還有兩個工作人員在,他們要下班但不敢出來,就跟警察、保安交涉。但其實我們的活動也有報備過,所以也是合理合法的。

不過過程中也有不爽的事情。我們快結束的時候,有一個白男過來說,我們吵到他睡覺了,非要過來教育我們吵到他的孩子。我說「你的孩子要睡覺我們的孩子都快死了」,我也說他「教育」的姿態 white privilege,他就大破防,說你在對我進行種族霸凌。

我們這個活動是有報備過的,合理合法,而且當時才剛剛晚上9點(註:英國法律規定晚上11點-早上7點是噪音控制時段)。而且我們在那個地方一共就待了1個小時。

後面還有人直接過來罵我們,懟著攝像頭拍。

其實也挺典型的,歐美的性別觀念不一定就比東亞好。我們從路上遊行到在大使館門前聚會,也有很多男性騷擾我們,吹口哨呀,喊什麼 go back to your country 呀,還有就是你來給我解釋解釋你們在幹什麼。我們就非常的不舒適。我們來自不同背景的女性,用各自的語言罵了回去。

也是一個機會去了解到,所謂的暴力不是今天發生一個特殊案件才算暴力,從一聲口哨、從一個眼神的凝視,到最後實質性的實施暴力,這是一個連續體。我們一開始助長了這種口哨、不好聽的話、歧視語言,然後累積到這種大的,每一天都在侵犯我們作為人應有的權利跟尊嚴。

如果我們只關注極端案件,而不去關注生活中的這種小事的話,其實也是有問題的。

我現在覺得這個對談也很新鮮吧,以前都是(韓國女性)自己在做,在海外拜託你們幫我們傳點消息吧這樣。這樣連動的行動方式是很特別的。

宋怡玟

端:日本的遊行正在籌備,可以介紹一下嗎?

弦子:日本9月7日有一個集會(註:對談時間在之前),也是去東京的韓國大使館,是經過報備的。不過日本的遊行可能會面對一些問題是:日本雖然會批准,但對遊行的限制更嚴格。比如會對聲音有控制,帶音響就只能擦擦邊,有可能會被警察收繳;從頭到尾可能都會有警察跟著,會一直指揮遊行的隊伍,什麼時候過馬路、什麼時候走什麼道、給車讓路什麼的。

可能會很不舒服,我明明是來抗議一個父權制的政府,為什麼政府一直在指點我該用什麼方式進行抗議。

很快日本的女權主義者、連帶日本的中國女權主義者,就跟沙楠梅取得了聯繫。越來越多的中國女權主義者現在都在海外,而海外的女權主義者並不是一個原子化的狀態,荷蘭的小組、馬來西亞的性別小組也很快跟倫敦、東京互相聯繫上了,大家很有做小組或者是做社群的意識。

做組織的方式也不一樣,大家想要承擔具體的責任,希望自己可以作為一個主體,然後去聯絡整個社群。

之前小花梅的事情,也是美國的女權主義者跟中國的女權主義者很早就聯動了。過去我們看得比較多的是本土經驗,這一次很振奮的就是,像大使館抗議這樣的經驗是我們沒有辦法在一個威權社會想到的,當時有人想給烏克蘭獻一朵花,隔天就被上門了。中國的女權主義者也一直特別不願意背上「境外勢力」,因為會是一種安全上的毀滅性的打擊。

而現在海外的中國女權主義者可以用合理合法的方式,基於一種情感上的聯繫而產生運動經驗,是獨一無二屬於女性的動力。

韓國也有建立「女黨」,但我覺得本質上來說,中韓女權一個最大的共同點是,它的主要成分是反建制的,這很重要,保持了跟父權制政府的對抗性。我覺得這會讓中國和韓國的女權主義者很快就連繫在一起。

我後來進了倫敦的遊行群,特別感動是大家會在群裏說韓語和中文,中國的女權主義者說韓語,韓國的女權主義者說中文。我在某英語國家待了三個月,沒有一個白人覺得他應該把他要說的話翻譯成中文給我。我去年到今年還跟一個日本女孩有聯繫,我們聯繫的方式就是她發中文我發日語,我覺得這就是一種東亞女性之間互相的關懷。我們會非常照顧對方的感受,而且因為大家都是社會的一個邊緣或者客體,所以絕大多數的時候都在為對方考慮。

沙楠梅:在英國舉行的活動一般會默認是英語進行,因為所有人聽得懂。但我覺得這對於一個想要訴求本土議題的人來說是一種隔靴搔癢,因為用第二語言表達觀點的時候總是差點意思、不過癮。韓國的 host 原本報名時給我的第一條私信是,她可不可以不說話,因為她英語說得不好。我說當然可以理解,但我們想讓所有人用母語表達,哪怕不想說英語我們也可以用翻譯器進行,也可以安排會說韓語跟英語或中文的人來進行翻譯。但是請你一定要用母語表達。

我覺得一個人對國家或者是對這件事情的憤恨,是要用母語輸出才能緩解一些傷痛或者情緒的,所以這次從群裏交流到海報到現場,我們都是韓中英三語進行。

端:在韓國有中國女權在行動嗎?

宋怡玟:在韓國反而很少。韓國內部現在就是有組織示威和很多請願,另外就是很多研究討論,大家研究原因是什麼,哪些事件引發了這件事,比較多是這些。

我現在覺得這個對談也很新鮮吧,以前都是(韓國女性)自己在做,在海外拜託你們幫我們傳點消息吧這樣。這樣連動的行動方式是很特別的。

韓娛、政府與法律

儘管韓國有比如 BLACKPINK 這樣宣揚 Girl Power 的團,TWICE 還是一直在走性感、主打親和力的甜美風格。經紀公司規定了女愛豆的外形、風格⋯⋯他們其實應該為女愛豆被性化承擔責任,而不是扮演受害者。

弦子

端:根據網路安全公司「Security Hero」年初發表的《2023年深偽技術現狀》報告指出,南韓是2023年利用 Deepfake 剝削最嚴重的國家,2023年的影片總數高達9萬5820個,其中女歌手及演員的比重超過一半(53%)。偶像團體 TWICE 所屬經紀公司 JYP 娛樂也聲稱要採取最強力的法律行動。

往年 KPOP 粉絲和韓娛公司對於這些網絡色情剝削的態度是怎樣的?為何這次有這麼大的動作?

宋怡玟:我覺得最大的原因是有了全社會的共識,JYP 以前也有過兩次 Hashtag,要求娛樂公司去做一些東西保護他們的藝人,因為一兩年前已經有了明星的 deepfake, 很多粉絲或者女權主義者要求娛樂公司去做事。所以也做過 Hashtag,但那個時候沒有什麼反應。這次 JYP 是第一次發出聲明。

弦子:我覺得最主要的原因是他們的藝人是直接受害者,可能在這些公司看來,除了網絡性剝削之外,主要也是一種侵權。因為針對明星的換臉性愛視頻往往是用來謀利的。這種事情很早就發生了,AI這麼普及之前,就有換臉視頻,只是技術難度稍微大一點。而不管是中國的明星,比如說像楊冪或是迪麗熱巴,或是韓國的張員瑛、TWICE,本身就是換臉色情的重災區了。比如張員瑛換臉是很好在社交網路上面搜索到的,謀利方式就是比如免費看幾分鐘,想看完20分鐘的話就要花錢。

但很虛偽的事是,TWICE 本身就是一個非常男凝的女團,我覺得這種男凝導致女藝人成為被粉絲性化的重災區。TWICE 一直是走性感路線、女朋友路線,出道的時候就是女朋友風格,男粉特別的多。儘管韓國有比如 BLACKPINK 這樣宣揚 Girl Power 的團,TWICE 還是一直在走性感、主打親和力的甜美風格。經紀公司規定了女愛豆的外形、風格⋯⋯他們其實應該為女愛豆被性化承擔責任,而不是扮演受害者。

沙楠梅:我上一個關注的韓娛新聞還是 HYBE 新女團ILLIT的一首歌,未成年女生的一個團體,但這首歌被認為含有非常強的戀童癖情節、搖床的聲音。其實在歐美的小黃歌裏放搖床聲音是很普遍的,但在一個主打少女情懷、有很多蘿莉塔橋段的MV裏,很難不聯想到戀童癖。

所以韓娛現在進行提告,我也有很諷刺的感覺,大概是覺得自己的商品受到了侵權,女團成員像一種所有物、被盜用了挪用了,而不一定是保護她們的人身安全。

有一段時間大家在說強姦的法案要怎樣去加強懲罰,有人舉例說明朝的法例強姦別人會有非常重的刑罰、可能到弄死的程度。但古代傳統社會之所以有那麼重的刑罰,就是因為把女人當成了男人的所有品,你去侵害了另一個男人的所有品才會被這樣對待,而不是因為你傷害了一個女性而有這樣的下場。我覺得現在也是差不多的事情。

弦子:SM男團組合NCT有一個成員叫文泰一,他涉及性侵犯,最近被SM公告、且踢出了這個公司,但實際上對他的性侵指控、甚至被警方調查,是很長一段時間的事情了,在這期間SM依然讓他演出,在他的粉絲平台上也一直跟粉絲互動,隊友也保持互動。在他被踢出去之前,就像這些指控根本不會影響他的活動一樣。而且就有SM的粉絲做統計,主持、演戲這些資源,男愛豆可以得到的要遠遠大於女愛豆。

2023年8月22日,首爾,士兵在地鐵站參加反恐演習。攝:Chung Sung Jun/Getty Images

端:另外,這次除了年輕女孩、女教師外,女軍人也是色情剝削的主要對象之一。

宋怡玟:韓國男生只要過了19、20歲就都要去當兵,軍隊也主要是男生的空間,所以一般來講是很自然發生的事。當兵的人也都是大學生的年齡,所以可能大學生也把 deepfake 的房間、這些文化,帶到了軍隊裏。

以前韓國軍隊是不允許用手機的,但是從一兩年前開始,下午6點以後就可以用手機。所以他們,我不確定中文叫什麼,需要「軍需品」。有一個 Telegram 房間就說,侮辱女軍就是提供軍需品。

端:聽起來簡直像「慰安婦」了⋯⋯現在韓國總統尹錫悅指示要根除深偽色情。但是自2022年參選以來,尹錫悅其實就表現出一種在結構上否認性別不平等的取態。他上台兩年來在女性權利/政策上採取的方針路線,對韓國國內的性別矛盾有什麼影響?如何看待他在deepfake犯罪問題上的表態?

宋怡玟:就是完全不相信吧,大家覺得這是為了服務 populism。他是個蠻反對女權主義的人,前面我提過一個政治人物李俊錫,李是尹大選時助選的人,李俊錫在二十多歲、三十多歲的男生裏有很多的支持。朴槿惠的事情後,(保守黨)「國民力量」失去了很多選票,他們是趁著李俊錫受歡迎,而拿到了包括很多 Incel 的票。

在助選的時候,李俊錫就支持廢掉「婦女家庭部」,選上了以後也一直想要做,只是因為有很多法律所以還沒做到。總統去任命各部門的長官,被任命的人也不是很有女性意識的。

現在的總統以前是檢察官,法務部的長官也是檢察官。其實韓國在N號房事件後有了一個關注數字性犯罪的 Task Force,以前當過檢察官的女性,徐志賢(音譯,Seo Ji-hyun),是這個 Task Force 的 leader。徐檢察官現在不是檢察官了,她是2018年從檢察廳做出 #Metoo 指控的人。現在的總統選上了以後,2022年時,卻把 Task Force 突然廢掉了,而她是在出差途中收到的消息。

韓國現在的政治情況是,很多人都很不喜歡現在的總統,所以反對黨主要在做的事就是反對執政黨,不再做出什麼很有效的立法,議會上每天都是吵架。

宋怡玟

端:很多媒體提到一個名字,朴志玹(音譯,Park Ji-hyun),她提出韓國應該就深偽色情問題進入「緊急狀態」,這是一個很大膽的主張。這在韓國政府和國會中得到的回應是怎樣的?韓國政治現在是有利於立法的嗎?

宋怡玟:朴志玹以前是民主黨的最高委員。如果說李俊錫是現總統的助選人,朴志玹就算是反對黨代表李載明的助選人。大選完了以後,朴志玹成為了民主黨最高委員,但是她在黨內沒有很受歡迎,很多人說她是太年輕的一個女孩子(註:1996年生),所以在很保守的韓國政治圈裏,朴志玹沒能有很大的影響力,在她的黨裏也沒有,就慢慢被很多人忘掉了。但是很多女權主義者還是很關注她的。

韓國現在的政治情況是,很多人都很不喜歡現在的總統,所以反對黨主要在做的事就是反對執政黨,不再做出什麼很有效的立法,議會上每天都是吵架。

今年上半期韓國有國會議員的總選,很多人不喜歡現在的總統和執政黨,很多人為了反對總統而入選。原來韓國的第三黨,正義黨,是比較關注於女權、同志權這些的,但是這次沒能進入國會。

弦子:我的理解是,為了反對現在的然後只能支持第二個,但是第二個也是相對保守的。

宋怡玟:對,第二個也是相對保守的。所以現在就是沒有很積極去立法或者去關注這個事情的政治人物,關注的人也選不上。韓國政治現在就是很二元化。

端:明白了。而在2019年的N號房事件後,韓國修正了《性暴力犯罪法》的相關規定,但也主要是針對組織者的,傳播者、購買者的責任比較小。

宋怡玟:完全對的,現在韓國法律是,如果一個人有商業性的目的去傳播色情片,他會被判刑七年;單純去製造傳播的,會被處罰五年。但這個也很難分啦。而購買影片的人是完全沒有什麼處罰的。

端:可能就算抓到了組織者,這種組織也不一定會消失,因為模式是可複製的。

宋怡玟:對,所以韓國很多女性都希望能給進房間的人很強烈的懲罰,但這個修法能不能修到,現在是不確定的。

端:現在修法的方向有29項,包括考慮把刑責年齡下調,因為這次有很多青少年,第二就是考慮把刑罰年份再提高。韓國國內的討論,覺得這些方向是足夠或準確的嗎?

宋怡玟:不足夠也不準確,好像是走錯方向吧。其實所謂「降低處罰年齡」,不是在這次事件裏才提出的,以前法務部長官就一直說、一直想做,他好像是趁這個機會來做到這件事,其實有點忽悠大眾吧。

有一杯水的話,要預防不讓它灑出來,但韓國現在的法律就是要怎麼擦灑出來的水。而很多保守的政治人物就趁機想通過他們以前要通過的法律。

沙楠梅:其實我對立法是不太相信且抱悲觀態度的。因為像中國就是一個任何色情製品都不合法的地方,那這個產業就移到了海外、在更地下的環境裏生長著。它也像擦灑出來的水的過程。中國是,我規定你們不許灑,不許讓我看到,那他們現在就把水灑到外面去。但是這個水的源頭沒有解決。

弦子:我覺得中國最弔詭的是,中國的網軍用的方式就是在「李老師是你老師」這樣的推特上刷色情信息,你搜新疆,全部都是誰誰要不要來新疆嫖娼⋯⋯中國網絡的色情有一半是政府為了沖掉所有跟中國有關的正常的討論,就主動製造中文搜索,簡體中文的搜索全部是色情相關的。

有些男性會主動發自己的屌照給女性,甚至都不覺得裸露身體是被侵犯的,還覺得在佔便宜。你說男女之間對於裸照的觀念相差如此之大,這本身是技術或者照片的問題嗎?是性別觀念上的問題。

沙楠梅

沙楠梅:不是有一個笑話嗎,中國人上推特要麼搞紅色要麼搞黃色。

所以我其實是對國家、尤其是一個男權主導的政府立法,不抱有任何期待,反而是我覺得像韓國女性不生育啊這種非暴力不合作的手段,是很有用的,讓人感到女性覺醒後對這個社會的影響有多大。

我覺得韓國現在就害怕呀,生育率放在那裏,女性不生要怎麼辦。女性越來越不想參與進父權制的家庭,歐美 TikTok 上最近特別火的一個 hashtag 就是#boysober,給自己設定一個一年以上的期限,不要跟男的約會,不要跟男的發生性行為,讓你處於一個脫離男性性緣關係之後的一個世界。

我覺得這一點對女性來說非常重要,因為女性的一生她所有的價值觀念,包括我們害怕裸露自己身體、覺得名聲受到侮辱,其實也是這樣一套規訓帶來的嘛,就是你的身體它不只是你的身體,它代表著一些道德、一些更加重要的人品,是所有的東西,但就不是你的身體。

讓女性認識到怎麼去奪回她身體的所有權,比去嚴查這些東西可能更加重要。之前有一個美國女演員被黑客威脅說要曝光她的裸照,結果她自己在推特上把那張照片發出來了,她說不覺得自己的身體有任何的錯誤。我覺得這種態度是會嚇到人的,就是你拿這個東西來威脅我,但我並不覺得有什麼可恥。

有些男性會主動發自己的屌照給女性,甚至都不覺得裸露身體是被侵犯的,還覺得在佔便宜。你說男女之間對於裸照的觀念相差如此之大,這本身是技術或者照片的問題嗎?是性別觀念上的問題。女性、女性的身體跟貞潔,綁得太死了,讓女性一看到裸照就覺得「完蛋了要死了我的生活已經完全破壞了」。

端:對男性來說身體的禁忌也可能是性快感來源。

沙楠梅:對,我特別想說禁忌感,因為這兩天一直在爆出更多的新案例是,比如一個女童的爸爸在廁所裏放攝像頭拍他女兒;還有一個是哥哥拍了妹妹,妹妹發現後不聯繫哥哥,媽媽還給妹妹發消息說,你不打算原諒你的哥哥嗎?去刷 Pornhub 的話,上面最多的內容就是 stepmother stepfather,stepsister stepfather。禁忌感拉滿。投射到現實生活中就變成今天這麼可怕的樣子。

宋怡玟:對,韓國 Telegram 也有什麼軍人房、熟人房,大多數是熟人房,然後也有家人房。家人房就是去偷拍妹妹睡覺,哥哥去翻裙子、脫褲子之類的。

端:不同的層面要做不同的工作,法律和文化,都是要改變的。

沙楠梅:我自己是一個無政府主義的女權主義者,所以我其實並不相信一個自上而下進行階級式統治的方式能夠真正保證女性安全。

技術、平台與監管

我們要怎麼去思考這個法律?很重要的是,這不該是一個技術上的法律,該是一個性犯罪上的法律。

弦子

端:台灣的法律是相對進步的,有什麼可參考之處?

弦子:台灣在2021年的時候對 deepfake 進行討論,2023年納入到了立法院。我們要怎麼去思考這個法律?很重要的是,這不該是一個技術上的法律,該是一個性犯罪上的法律。

台灣沒有把深偽造色情簡單納入對企業的約束,也不是放在《人工智能發展法》中,而是放進了一個性暴力的法律框架(註:台灣deepfake性犯罪相關的法律可以用到《刑法》、《民法》以及《性騷擾防治法》),就是它不僅是電子技術的犯罪,也是一種性犯罪,法律認可它是加在女性身上的一種性暴力。

有一組跟 deepfake 相關的法律是「偷拍」以及「違背他人意願傳播」,這組法律規定的特別細,包括被脅迫拍攝的視頻,要判多少年,以此為盈利要判多少年;如果雙方是合意性行為、拍攝得到對方的許可、但違背意願傳播影片,又要判多少年。

相對來說它做了一個區別就是,你有沒有真實的發生性行為,好像如果你真實的發生了性行為、受害者跟施害者之間就有一個更近的關係,所以需要區別對待。但是我覺得不應該有這個區別,因為對於女性來說關鍵就是隱私被侵犯了,而隱私被侵犯本身就是一個暴力。

還有個點是,它要判定是不是會引起人的羞恥,這是挺主觀的一個判斷。

剛才沙楠梅說,如果我們大家都沒有羞恥感的話,對我們的傷害會少一些。但我自己作為一個當事人,性騷擾帶給我的恥辱其實不是性上的羞恥,而是這個行為本身特別暴力,它這樣對你做的時候,你會感覺到遭遇了一個很強大的暴力、整個人被客體化。

關鍵不在於這個影片是怎麼得到,是通過技術手段得到的還是親密關係中得到的,關鍵是傳播是違法的,是違背他人意願的,所以在我看來這兩種法律應該合併在一起。分開來看的話,它本質上還是在意性關係有沒有真正的發生,而不是在意受害者。而且對於執法來說,把法律分得越細,執法就越難。

而且 deepfake 跟真實的拍攝做區分,好像前者暴露的是真實的身體,後者暴露的是不真實的身體。父權制的法律會特別在意這到底是你自己的身體還是不是你的身體、是技術合成的身體,我覺得這樣的立法還是沒有站在受害者的本身去考慮,也沒有思考這一類的性犯罪的核心是什麼。

2023年1月26日,首爾,一名身穿韓國傳統服裝的女子用手摀住臉。攝:Kim Hong Ji/Reuters/達志影像

端:你的意思是立法思路可能是有 gender bias 的。

弦子:對。日本則是一直有關於「偷拍」的法律,而且很嚴格,但是日本沒有關於AI的法律,而且日本是允許二次元兒童色情製品的,只是說不允許真兒童的色情製品(註:關於動漫中的兒童色情是否可以存在,有兩種不同的觀點,請參照此文)。但當技術發展,越來越會涉及到一個問題,就是可以變成擬真的。最早二次元的色情漫畫進化成特別寫實的3D風格,現在也完全可以通過AI技術去合成像真人的兒童色情製品。我覺得這都是盲區。

科技的進步一點一點觸犯到人的界限——這個製品越來越接近真實的時候,會涉及到更多的問題。但就算在現實生活中,什麼是真實、什麼是虛假,什麼是自願、什麼是脅迫?簽了合約就叫「自願」了嗎?比如AV女優,如果是因為欠債而被迫去簽的呢?簽約了就不存在偷拍了嗎?

日本雖然不斷在修改關於性侵、強暴、偷拍的法律,但保護的還是符合傳統觀念的所謂的「好女性」,對於從事色情行業的女性,是否存在強迫,立法是不怎麼考慮的。如果發現自己被偷拍,要求下架影片,但如果簽過合約,那麼下架的時候是沒有任何法律保證的,這就是行業裏一個很大的問題。

中國的最大的問題是,沒有把偷拍納入到性犯罪裏,有的是「傳播淫穢色情」,有的甚至可能是「尋釁滋事」,行政處罰15天。中國也沒有性騷擾的專法。根本沒有意識到這是針對女性的暴力,是無視女性的痛苦。

端:香港也是在2021年才把「偷拍」放進了性犯罪中,「窺淫罪」,是香港的女性組織、司法改革關注團體推動了近十年才有的成果。也確實一種常見的批評說,現有的法律系統對性行為或者性騷擾的定義非常狹隘,一定要是插入行為才叫性交,一定是 physical attack 才叫暴力。所以各國在修改關於性的法律時,也都一直在爭議什麼應該被認定為性騷擾、性暴力。而女性團體常常強調的就是,非接觸的、讓女性感受不適的,都應該被納入。

沙楠梅:我看到澳洲的法律相對來說舒服一些,只要傳播了,不管是公開還是私下,傳給一個人看還是一堆人看,用郵件還是用信息傳,都是一條罪。這條法律就是為了趕上技術,因為製作 deepfake 現在不是非法的,而澳洲也在討論把深偽色情納入犯罪。

Deepfake 也會同時觸犯到個人隱私跟網絡安全,挪用一個人的臉不管是做什麼,都是觸犯了這樣一條法律。「臉」是個人隱私,歐洲的管理法案就很嚴格,任何個人數據都是不能被挪用的

宋怡玟:韓國女性希望韓國的法律能處罰購買者或者傳播者,因為一旦進到那個房間,上傳照片之後,都不知道有多少人去下載。就算政府或者警察刪掉了這個照片,也不知道誰的手機裏還有受害者的照片,隨時可以重新被拿出來。所以韓國比較需要參考的可能就是澳洲和歐洲的法律。

FB上的假消息泛濫,恰好是因為聳人聽聞的假消息確實能夠帶動人們的參與。與其說是技術的能力,不如說是技術的驅動力,決定了技術運營者的策略和傾向。

李子

端:法國目前逮捕了 Telegram 的創始人Pavel Durov,就指 Telegram 為各類型犯罪提供了空間,之前法國有兒童色情案也是在 Telegram 上發生的。而韓國警方目前也已對 Durov 進行立案前調查。執法的矛頭指向了 Telegram 這個平台和創始人,科技平台的高層應該為在平台上犯的罪負多少責任?

宋怡玟:韓國的「廣播通信委員會」一直堅持的立場就是,Telegram 不提供任何資料、不希望做任何交流或協助,所以韓國沒有什麼方法去跟他們合作或進行更深的調查。也很矛盾的是,Telegram 是為了躲避國家的監視或者是所謂發言的自由來設計的一個社交媒體,但我覺得它還是應該有責任佢防止這些犯罪。

端:平台設立審查方法,其實 Facebook 跟 X 上也有過一些實踐,之前假新聞泛濫,還有美國選舉被干預,之後 Facebook 跟 X 都加強了內容監管,比如 Facebook 上越來越拒絕政治內容的出現,X有一段時間嚴控 Trump 的言論,也很大爭議。加拿大現在為了要杜絕假新聞,所有的社交平台上都是看不到新聞的。平台監管內容的方法,好像要麼都不管,要麼就一刀切。但阻力好像不應該這樣發生?

沙楠梅:我覺得這就是長久以來父權制做審查的一個原則,一刀切。所以我覺得所有的平台都是有性別的,包括中國的小紅書這些相對女性用戶比較多的平台,「女權」這種詞都會給你限流,女性的內容要進行非常嚴格的審查跟篩選。它希望女性只關注買買買,而不關注她們的權益。

還有 Chatgpt,我們好像以為它深層學習、調用的資料,是從所謂的數據庫裏調出來的,沒有性別、很客觀。但是這個世界已經是有性別的,我們所有的知識已經是有性別。我前兩天在意大利廁所門口,看到一個廁所標誌上畫了一個男的翻過牆偷看一個女的,就很生氣,因為好像在倡導可以偷窺。我把圖發給 Chatgpt 說,你怎麼看這個 sign?它說:這個店的老闆很有幽默感。

我說,不,這是性別歧視,Chatgpt 說,可能不同人有不同的想法吧,我理解你覺得是性別歧視,但是其他人會覺得這是一個很幽默的表達。

我們今天覺得 Chatgpt 、AI學習的東西多麼「高大上」,但是那個知識庫是幾百年幾千年的厭女知識的合集。

弦子:父權的國家通常就是用問責的方式,假裝自己是性別議題的保護者或者執法者,但就會通過這樣的方式比如說去逮捕 Telegram 的創始人、或者是像韓國那樣假裝自己要逮捕 Telegram 的創始人,以此來逃避自己真正應負的責任。尹錫悅關於這件事的發言,就還在強調「所有人都可以成為受害者」,「男性也可能是受害者」,完全模糊了性別的因素,這就像黑人遇到種族歧視,有人站出來說白人也可能會遇到種族歧視。

這是一種逃避以及轉移矛盾的說法。

我覺得他沒有資格去做這個執法者,女性在尋求這樣的父權制政府的保護的時候,是不是同時也在放棄對他們本身的問責?我覺得這是一個很重要的思路。波蘭斯基還可以一直在拿法國的凱薩獎,凱薩獎作為法國的一個國家級文化獎項,有沒有做出任何的反思呢?如果他以兒童色情為理由去逮捕 Telegram 的創始人的話,為什麼對於本國的戀童癖的罪犯這麼的視而不見呢?

我覺得這些都是父權制政府的一種表演。

波蘭斯基還可以一直在拿法國的凱薩獎,凱薩獎作為法國的一個國家級文化獎項,有沒有做出任何的反思呢?如果法國以兒童色情為理由去逮捕 Telegram 的創始人的話,為什麼對於本國的戀童癖的罪犯這麼的視而不見呢?

弦子

端:那麼技術平台就沒有任何責任嗎?

李子:目前的法律法規下看是很難的,這一條可以追溯到《美國數字千年版權法》裏面所謂的避風港原則,這一原則的出現也為各類內容平台的擴張提供了基礎。涉及到版權或者暴力、色情等內容的過濾,各個平台都有自己的規則以及責權劃分。Telegram 作為一個加密通訊工具,與公開的內容平台更不一樣。誰去負責管轄,管轄的對象是誰(是使用工具的人,還是工具本身,還是工具所製造出來的網絡空間),很難釐清。

但這種犯罪活動的組織,和所謂的「暗網」一樣,對當下的法律法規的適用原則進行了挑戰,另一方面也顯示出,互聯網工具越來越具有基礎設施或者公共用品的屬性,但這種設施和用品卻不是公共的,而是由私人或者主體擁有,並且相當不透明的。和所謂的「暗網」相似,加密的網絡通訊工具屬於管轄盲區,因此性犯罪和異議組織藉由其秘密的技術特徵而存在,是一個道理,或者說是一個客觀的事實。

真正的挑戰,和「暗網」不同,在於這種秘密性同時也是具有廣泛擴散性的,且能在短時間規模化,對於受害者造成具有毀滅性的影響。這種規模化、廣泛擴散性,和平台所追求的經濟效應是同步的,也催生了技術平台和犯罪現象的共生——FB上的假消息泛濫,恰好是因為聳人聽聞的假消息確實能夠帶動人們的參與。與其說是技術的能力,不如說是技術的驅動力,決定了技術運營者的策略和傾向。

監管的難度,在於說沒有一個跨越虛擬空間、跨越政治管轄的裁決,也沒有應對這些技術的有效的過濾手段。

2017年6月8日,婦女在觀景台觀看籠罩在煙霧中的首爾。攝:Kim Hong Ji/Reuters/達志影像

弦子:很多人在討論 Telegram 或者是像 Telegram 這樣的標榜無政府主義的軟件不應該洩漏客戶資料的時候,我覺得就很像是男人在討論人權,但忽略了女人的人權。技術當然可以說立志於做一個無政府、自由民主的東西,但是民主討論不包括對於女性和兒童的壓迫嗎?

我覺得這個完全是 Telegram 在技術上可以做到的一件事,比如對一些關鍵詞去進行識別,如果出現了大量的關於性暴力的詞的話,他應該對這些詞或者用戶有一些處罰。技術上首先不難做到,其次也並沒有違背任何的民主或者是自由或者是無政府主義的理念,因為就算一個社會沒有辦法民主、不能暴力反抗政府,但整個人類社會至少有共識是你不要去性侵女性、不要去性侵兒童吧?

討論倫理的時候不應該一直表彰自由主義的倫理或者是民主的倫理、卻忽視了對於女性和兒童的倫理,Telegram 也不應以自由為名去逃避該承擔的責任。

沙楠梅:我也非常認同,我就幻想一下,如果今天是一個女性組織在上面討論怎麼殺男人、怎麼把男人的照片這樣那樣,平台也會拖那麼久嗎?這其實是不平等的,技術人員、審查人員、創始人在這個事情上的不作為,可能是覺得所謂的無政府、所謂的民主自由是高於女性的人權時,才會做一個不介入的決定。

而且這些東西管理起來真的沒有那麼難,我記得前兩年 pornhub 上有特別多中文上傳的撿屍呀亂倫呀各種AI合成的明星,好像是2020年吧,有一群女權主義者一起給 pornhub 聯名發信,說上面有大量的中文信息是非法,要求管理且下架。前兩年你搜楊冪、迪麗熱巴,你絕對能搜出來 Deepfake 的視頻,現在去搜的話基本上就搜不到。

Chatgpt,我們好像以為它深層學習、調用的資料,是從所謂的數據庫裏調出來的,沒有性別、很客觀。但是這個世界已經是有性別的,我們所有的知識已經是有性別。

沙楠梅

端:針對女性的數字犯罪不僅僅在韓國。韓國的N號房從2018年開始運營,2020年被公眾所知;2020-2021年間,台灣媒體揭發台灣的網紅 Youtuber 「小玉」利用 Deepfake 製作女星的色情影片散播和售賣;2022年中國網民爆料一個以未成年女性色情為主的中國版N號房,但隨後被控評;今年5月,韓國網民揭發以名校大學生為主的首爾大學N號房、仁荷大學N號房;今年1月,Taylor Swift 的照片被惡意製成 Deepfake 色情照在 X、Facebook等平台上流傳。

我覺得今天討論下來有個感觸是,深偽色情的產生和傳播,可以說是因為文化、政治、商業、法律、技術、平台上的全面不作為,而且就算在其中一個層面小修小補也是不足夠的。

李子:Deepfake 這種技術的能力去驅動的所謂的「邪惡」的應用,是其誕生開始就存在的倫理問題。這種技術誕生的時候就應該要考慮到被濫用的可能,而從技術源頭去研究如何防止濫用,比如強制加水印或者其它的一些技術措施,並且形成某種形式的行業自律。

而更要看到的是這些技術所誕生的社會土壤,為什麼在韓國這麼猖獗,這個也是技術監管所無法去根治的。

宋怡玟:韓國不常討論技術的問題,因為韓國女性都知道韓國是性別歧視很嚴重的國家,有男性的問題,也有國家,一直把父權和經濟的發展當作一個國家的認同。所以韓國主要討論的是怎麼實現性平等,怎麼教育青少年或者兒童。我覺得今天的討論韓國這邊可以有的一個啟發是,我們都知道法律不能解決所有的問題,但法律是不是越細分越有好處呢?這是一個新的點。

沙楠梅:我覺得未嘗不是一件好事,對於覺醒來說。因為歐美的世界裏可能會有很多糖衣炮彈,很多縫縫補補的東西,讓這個父權苟活下去,其實這幾年歐洲的女權遊行、婦女節遊行基本上就是稀稀拉拉幾個人,大家也沒有什麼想要上街的願望。但我發現這兩年接觸到的、比較有勇氣去反抗父權制國家的女性,都是來自於深受父權壓迫的國家,她們反而越有力量、越意識到男性主導的政府是不可能為女性給予平等地位跟所謂的人權的,慢慢的也是這兩年一個共識吧。

弦子:一位台灣律師曾表達,大意是,台灣修越多的法、修得越快、越證明政府的無能,就是證明政府一直沒辦法解決這個事,然後再打補丁。

我覺得中國跟韓國的女權主義者有一個很大的共同點,為什麼我們這麼有活力、為什麼這個運動是一個街頭的運動,因為父權制從來沒有給女權主義者和解的機會,一點甜頭不給,這就導致女性思考的反抗的途徑更多是從對話溝通到生活上的父權制中撤出。

女權主義者有一種更有活力的生態。來中國微博的那個女生,她還是一個高中生,我真的非常感動,在我們沒有辦法對話的情況下,也激起了我們這樣的跨國的姐妹情誼,共同意識到對父權制政府的不可信任。

沙楠梅:要再講一下倫敦示威的slogan——「女性就是我們的國籍」。