國際前線

因受隱私爭議,蘋果延後推出iCloud兒童色情影像偵測功能,你如何看?

檢測用戶儲存在 iCloud 的照片,再與兒童性虐待素材配對後警告用戶或報警,能達到兒童保護的目的嗎?


2020年10月30日本東京,戴著口罩的市民走過iPhone的廣告。 攝:Stanislav Kogiku/LightRocket via Getty Images
2020年10月30日本東京,戴著口罩的市民走過iPhone的廣告。 攝:Stanislav Kogiku/LightRocket via Getty Images

檢測用戶儲存在 iCloud 的照片,再與兒童性虐待素材配對後警告用戶或報警,能達到兒童保護的目的嗎?

蘋果公司強調他們是由用戶的隱私出發而開發有關技術,但有關檢測技術是否同時間侵犯了個人隱私?

我們應如何有效保護兒童免受性虐待?

日前,蘋果公司宣布他們將會把一項新的監測技術應用在其下IOS(智能手機)以及iPadOS(平板電腦)的系統當中,以實施兒童保護政策(Child safety)。蘋果稱技術能夠識別已知的兒童性虐待素材(Child Sexual Abuse Material , 簡稱為CSAM)。透過檢測用戶儲存在 iCloud 的照片,與 CSAM 素材的數據配對,防止 CSAM 的傳播以及對相關用戶作出行動像是隱藏、警告、通知家長甚至報警。

該項技術發布以後引來很大的爭議,不少民眾對技術帶來的隱私問題感到擔憂。巨大的迴響引致蘋果公司公開回應將會延遲推出技術:「根據客戶、倡導團體、研究人員和其他人的反饋,我們決定在未來幾個月內花更多時間收集意見並進行改進,然後再發布這些至關重要的兒童安全功能。」

蘋果公司強調他們是基於考慮用戶的隱私去開發 CSAM 技術。該技術不會掃描用戶 iCloud 裏的照片,而是透過把照片特徵化為數字字符串,並透過與已知 CSAM 的數字字符串進行配對比較。蘋果公司也指出使用的技術提供極高的準確性,能夠確保每年錯誤標記的機率低於一萬億分之一。

基於系統的設計,蘋果公司內部無法查看用戶的照片。除非用戶照片的匹配超過一定數量才會被解密,經蘋果內部手動審查後禁用相關帳戶,再向受虐兒童中心(NCMEC)發送報告。用戶認為錯判的時候,能透過上訴取回帳號。

CSAM 技術存疑

一名 Twitter 上擁有12萬追蹤者、在約翰霍普金斯大學研究加密技術的教授 Matthew Green 曝光蘋果公司所使用的的技術是 NeuralHash。透過能夠學習機器的程式 Asuhariet Ygvar 進行測試,發現以毫無關連的圖像比對,演算的結果可以是一樣的。

比如以一張狗的圖像和一張亂碼的圖像比對,演算出來的結果是一樣的。不少網民測試更多可能性,發現更多不同圖像的配對成功,像是貓的和狗的圖像比對或者釘子和滑雪板的圖像比對。網民因而指出蘋果公司的技術或會造成大量誤報,技術效果成疑。

接近百間公司反對 CSAM 政策

蘋果公司的主張並未得到大眾認可,反而換來公眾更多的質疑。蘋果公司發布該技術的八天以後,四度召開簡報會,後來也發出六頁說明書回應大眾疑問。然而公眾對其政策還是抱有質疑。

90多間不同國家的公司聯合向蘋果首席執行長 Tim Cook 發了一封公開信,促請蘋果公司放棄這個計畫。他們對於該項技術的擔憂包括被用以審查言論、隱私的問題以及會對小孩子造成災難性的影響。

信中特別指出蘋果公司假設的使用者是擁有良好關係的父母與孩子,然而現實中一些虐待孩子的成人也可以使用該功能,系統的通知或會威脅到孩子的安全和福祉。對於一些父母缺乏同情心的 LGBTQ+ 青年家庭而言,系統也會把孩子置身於危險當中。

此外,他們也認為該項技術一旦成功研發,所有相關行業都會面臨各國政府巨大壓力。因為這項技術將不僅用於 CSAM,還會用以檢測政府認為反感的內容像是侵犯人權、政治抗議、恐怖分子和暴力極端主義等。信中直接說明蘋果公司將奠定全球審查、監視和迫害的基礎。

CSAM 技術的爭議

美國民主與科技中心(CDT)的安全與監控項目聯合總監 Sharon Bradford Franklin 就技術表示,「我們可以預期,政府將利用蘋果在 iPhone、iPad 和電腦中構建的監視功能 。」 她認為政界會要求蘋果公司檢測並封鎖人權以及政治訴求相關的圖像。研究加密技術的教授 Matthew Green 也指出,「即使你相信蘋果不會允許這些工具被濫用,但仍有很多值得關注的地方。」

除了公民自由團體和安全專家對技術感到擔憂以外,德國國會一位資深議員亦致信 Tim Cook ,稱該公司走在一條「危險的道路」,敦促蘋果公司不實施該系統。

根據路透社,蘋果公司旗下的員工得知技術後,公司內部的 Slack(通訊軟件)頻道上發布了800多條信息,不少員工感到憂慮。有員工甚至認為蘋果公司正在毀掉自家在隱私方面的聲譽。

蘋果支持者則指出,「美國政府不能合法地掃描大範圍的家用設備以尋找違禁品,也不能讓別人這樣做,但蘋果是自願這樣做的,可能會帶來可怕的後果。」

保護還是侵犯?你認為蘋果公司應否繼續推出該技術?

文:端傳媒實習記者盧彥妤

國際前線