端 × 華爾街日報廣場

華爾街日報導讀:人工智能時代的中國式監控

互聯網審查借力技術升級,讓中國網民們傳遞「敏感信息」越來越難。從這個層面上來看,人工智能和人類正在進行着一場正面對決。

在人工智能和大數據時代,中國當局在網絡空間和實體空間的監控手段日益更新:互聯網上的敏感詞庫隨着社會熱點事件不斷擴充。圖為北京天安門廣場,市民正在使用智能手機。

在人工智能和大數據時代,中國當局在網絡空間和實體空間的監控手段日益更新:互聯網上的敏感詞庫隨着社會熱點事件不斷擴充。圖為北京天安門廣場,市民正在使用智能手機。攝:Qilai Shen/Bloomberg via Getty Images

刊登於 2017-12-18

#端 x 華爾街日報

代稱、隱喻、將文字轉成圖片、倒轉圖片、模糊圖片……面對借力技術而日漸「高明」的互聯網審查,中國網民們在傳遞「敏感信息」時的智慧似乎越來越不夠用了。從這個層面上來看,人工智能與人類正在進行一場正面對決。

在人工智能和大數據時代,中國當局在網絡空間和實體空間的監控手段日益更新:互聯網上的敏感詞庫隨着社會熱點事件不斷擴充,新近入選的包括「低端人口」甚至「硬盤」(北京「紅黃藍」幼兒園虐童事件中,警方稱存儲監控視頻的硬盤損壞),即使轉換為圖片發送也無所遁逃;服務於人群大數據的近兩億台監控攝像頭布滿街頭,警方可以在幾分鐘內輕鬆鎖定數據庫裏目標人物的位置。

為此提供技術支持的中國互聯網巨頭們,一方面受益於國家產業保護政策得以迅速擴張,另一方面在面對政府侵犯用戶隱私的要求時幾乎沒有選擇餘地。國外科技企業在面對這一龐大市場時,似乎也在逐漸妥協,試圖在利潤與原則之間維持危險的平衡。

這一週,端傳媒為你精心挑選了四篇《華爾街日報》的報導:在微信中因開政府高官玩笑而被拘留的小人物、甘願充當政府耳目的中國科技巨頭、因渴望中國市場而向審查低頭的業界大亨,還有中國互聯網最高監管機構——中央網信辦的人事震蕩。

人工智能時代的審查博弈中,掌權者、技術提供者,和試圖躲過審查的互聯網使用者,誰才是贏家?又或者,這根本是一場沒有贏家的博弈?

了解這場審查博弈的全貌,我們強烈推薦您購買/升級成為「端傳媒尊享會員」,以低於原價 70% 的價格,暢讀端傳媒和《華爾街日報》全部內容。

一、「老大哥」盯着你的微信

多倫多大學公民實驗室(Citizen Lab)多次發表研究報告指,中國最流行的即時通訊工具微信可以自動審查包含「敏感詞」的內容。這項技術目前已經可以識別圖片中的文字甚至「敏感照片」,這些信息在發送時就會被清除或屏蔽,而發送者和接收者不會收到任何通知。敏感信息庫還會隨着突發社會事件而不斷更新。

在法律層面,中國當局發布相關規定和司法解釋,令散布官方認定的「謠言」最高可獲刑三年;網絡聊天群的群主對群內成員發表的言論也應承擔法律責任。

過去時有這種案件發生,但不像現在這樣明目張膽、心安理得地抓人。

人權律師莫少平接受《華爾街日報》訪問時稱

《華爾街日報》最近就以長篇特稿,報導了中國當局對普通民眾手機聊天內容監控持續升級:河南濮陽一個建筑工地的小工頭陳守理,因為在微信聊天群里發了隱射中國政府高層官員的玩笑,被警方拘留5天。

濮陽一個建筑工地的小工頭陳守理因為在微信聊天群里發了個隱射中國政府高層官員的玩笑被警方拘留了五天。
濮陽一個建筑工地的小工頭陳守理因為在微信聊天群里發了個隱射中國政府高層官員的玩笑被警方拘留了五天。

端 x WSJ / 原文重點

  • 警方的報告里指出陳守理在微信上的言論涉嫌尋釁滋事,這是一項比較寬泛的罪名,包括結伙斗毆和破壞公共財產,可在不經庭審的情況下對涉事者處以拘留處罰。

  • 警察明確告訴他,他們已經看到了他在微信中的發言。警察要求他確認,其微信名是「一念間」,然後要求他在手機上打開這個聊天群給他們看。陳守理說,警察盤問了他幾個小時,包括他是否有宗教信仰,他對中國領導人以及被列入黑名單的異見人士的看法。

節選自《華爾街日報》12月8日報導 Jailed for a Text: China’s Censors Are Spying on Mobile Chat Groups

二、充當政府耳目的科技企業

與網絡空間監控互為補充的是,中國政府還在構建一個覆蓋實體空間的龐大監控網絡,將能識別暴露在密集監控攝像頭底下的行人身份甚至其人際關係。按照「十三五規劃」,中國明年將推出100個智慧城市試點;到2020年,智慧城市將形成一個「無處不在的體系」。

1.76
行業調查公司 IHS Markit 最新數據顯示,中國目前在公共和私人領域(包括機場、火車站和街道)共裝有1.76億個監控攝像頭,而美國只安裝了大約5000萬個;預計3年內,中國安裝攝像頭的數量會增加到6.26億個。

除了微信的運營商騰訊外,阿里巴巴、百度等多家互聯網企業均被要求幫助中國政府追查犯罪嫌疑人和封鎖政治異見人士言論,相關技術也被用於打造城市監控系統。阿里巴巴集團董事局主席馬雲去年在中央政法委舉辦的講座上表示,政法系統將離不開互聯網和大數據,未來「壞人根本走不進廣場」。

這類詭異的城市計劃帶來的所謂益處實際上掩蓋了真實目的,整個安全城市構想無非是一個龐大的監視項目。

人權觀察駐香港研究員王松蓮接受《華爾街日報》訪問時稱

《華爾街日報》日前報導,「中國政府正在建立全球最先進的高科技系統之一,其中包括監控攝像頭、人臉識別技術以及對海量數據進行梳理的大型計算機系統,以此來監視國民動向。中國最大幾家科技公司是主要協助者,他們在網絡空間里公開擔任政府的耳目。」

一名員工在一個騰訊標誌前使用她的手機。
騰訊、阿里巴巴、百度等多家互聯網企業均被要求幫助中國政府追查犯罪嫌疑人和封鎖政治異見人士言論。

端 x WSJ / 原文重點

  • 對中國有關做法的研究顯示,中國科技巨頭的協助範圍遠超西方公司對本國政府的協助,而且幾乎不可能質疑中國政府提出的要求。

  • 實際上,一直受益於國家產業保護政策的中國互聯網巨頭幾乎沒有選擇餘地,只能合作。在中國,中共既控制司法系統,也控制企業的經營許可權。

節選自《華爾街日報》11月30日報導 China’s Tech Giants Have a Second Job: Helping Beijing Spy on Its People

三、互聯網大會上的科技巨頭

儘管在中國處處掣肘,國外的互聯網巨頭們仍在努力擁抱這一龐大市場。蘋果、Google 和思科系統(Cisco Systems)等科技企業的 CEO 在12月初齊聚浙江烏鎮,參加中國連續第四年舉辦的世界互聯網大會。

剛剛躋身中共中央政治局常委的王滬寧在開幕式再次強調「網絡主權」的必要性,並提出中國的五大訴求,包括:「中國願同各國一道,建立健全適應數字經濟發展的監管模式、法律制度,共同防範數字經濟快速發展所帶來的網絡安全挑戰,建設安全、穩定、繁榮的網絡空間。」

2017年12月3日,浙江烏鎮,第四屆「世界互聯網大會·烏鎮峰會」開幕。蘋果公司CEO庫克致辭。
2017年12月3日,浙江烏鎮,第四屆「世界互聯網大會·烏鎮峰會」開幕。蘋果公司 CEO 庫克致辭。

在會上發表演講的蘋果 CEO 庫克(Tim Cook)稱,蘋果的應用商店幫助中國180萬開發者獲得總價值169億美元的收入,在各國同行中居首;但他未提及今年600多個VPN應用在中國下架事件。Google CEO 皮蔡(Sundar Pichai)則表示,Google 在中國的大量工作是幫助企業,有許多中小型企業通過 Google 將他們的產品推向國外。

自2009年到2010年,Facebook、Twitter 和 Google的主要服務相繼被中國當局封鎖。Facebook 近年努力尋求進入中國市場的可能,Google 也一直在尋找更多的重返機會。

互聯網安全管理很重要,蘋果公司讚賞中國的開放政策,願在華做守法盡責的企業,促進兩國互聯網企業合作。

王滬寧會見庫克時後者表示,新華社12月3日報導

《華爾街日報》最近報導,Google 已在北京開設人工智能實驗室「AI 中國中心」(AI China Center),旨在吸引中國的頂級科技人才,並增強其在受到限制的中國市場上的地位。

端 x WSJ / 原文重點

  • Google 雲計算主管兼該新實驗室聯席負責人的李飛飛稱,Google 需要認識到中國在科技和 AI 領域提供的機會以及所展現的領導力。她表示,通過開設實驗室,Google 表明該公司希望聽到中國的聲音,並與中國合作。

  • 一些人士認為,Google 採取了一系列舉措,力求重新進入中國這個龐大但難以捉摸的消費市場,而創建AI實驗室則是其中的最新動作。Google 於9月份在該公司北京的招聘網站上發布了至少4個與 AI 相關的職位需求,此舉透露了該公司發展中國業務計劃的線索。

節選自《華爾街日報》12月13日報導 Google Searches for Path Back to China With Artificial-Intelligence Lab

四、中央網信辦人馬大換血

本屆世界互聯網大會也標誌着其組織者、中國互聯網最高監管機構——中共中央網絡安全和信息化領導小組辦公室(網信辦)的全新開始。

大會前夕,去年卸任的原網信辦主任魯煒落馬;12月15日,中共福建省委常委、宣傳部部長高翔接替任賢良,出任網信辦副主任。魯煒上月「涉嫌嚴重違紀」遭審查後,網信辦表示「與魯煒劃清界限,堅決全面徹底肅清魯煒對網信辦和網信系統的惡劣影響。」

《華爾街日報》報導指,魯煒成為習近平第二任期開始後首個接受腐敗審查的政治人物,儘管他近年來一直積極執行中共重塑全球互聯網秩序的戰略。

2015年9月23日,美國華盛頓,中國國家主席習近平、國家互聯網信息辦公室主任魯煒與臉書創辦人朱克伯格交談。
2015年9月23日,美國華盛頓,中國國家主席習近平、國家互聯網信息辦公室主任魯煒與臉書創辦人朱克伯格交談。

端 x WSJ / 原文重點

  • 魯煒的落馬不太可能意味着中國互聯網政策會發生什麼變化,因為由他協助制定的中國互聯網戰略的執行力度在他被摘掉「網絡沙皇」帽子之後有增無減。這些戰略包括嚴格執行對互聯網和媒體的控制以及做強中國科技產業,這一切都是在中共維護「網絡主權」名義下進行的。

  • 許多源自魯煒辦公室的互聯網政策仍在產生國際影響。在被免去網信辦主任一職以前,魯煒曾對來訪者說,他在習近平那裏說得上話。他還表示,中國擁有龐大的互聯網用戶基礎和像阿里巴巴集團這樣的互聯網巨頭,理應在全球網絡治理方面扮演重要角色。

節選自《華爾街日報》11月22日報導 The Architect of China’s Great Firewall Caught in Anti-Corruption Net

本刊載內容版權為端傳媒或相關單位所有,未經端傳媒編輯部授權,請勿轉載或複製,否則即為侵權。

延伸閱讀