廣場 華爾街日報導讀

人臉識別 + 社會信用系統,一場重塑人類行為的社會實驗?

無處不在的監控攝像頭、強大的人臉識別系統和先進的人工智能技術,正在將「權力是可見但又無法確知的」這種統治術發揮到極致。


商湯科技開發的軟件掃描城市人行橫道,行人和車輛信息會以表格形式顯示。 攝:The Wall Street Journal
商湯科技開發的軟件掃描城市人行橫道,行人和車輛信息會以表格形式顯示。 攝:The Wall Street Journal

幾天前,一則關於三名逃犯在張學友演唱會上先後落網的新聞,在中文社交媒體上引發熱議。網友們一邊調侃張學友是「警察安插在娛樂圈的卧底」,一邊感歎人臉識別技術的威力。負責這次抓捕的嘉興警方透露了行動過程:當嫌疑人經過裝有人臉識別攝像的安檢門幾分鐘後,警方系統就收到提示,疑似出現在逃人員,之後警方在看台的出入口蹲守,演唱會結束時成功將該名逃犯抓獲,「當我們找到他的時候,他一臉茫然,沒想到我們能在數萬人中找到他。」

中國正在大規模普及人臉識別系統,演唱會上抓捕逃犯只是其應用的冰山一角。走在中國城市的大街上,你會發現攝像頭無處不在——地鐵口、火車站、馬路口、商場、超市、體育館、圖書館……你在公共場所的每一項行動,幾乎都會被記錄下來。龐大的信息數據不僅可以給人工智能提供豐富的學習素材,進而準確預測人類行動,同時,一些攝影頭也關聯着數據庫,一旦你出現違規行為,很可能遭遇意想不到的後果。

今年3月,深圳交警就利用人臉識別系統,抓拍闖紅燈的行人,並將其姓名、照片等個人信息公布在路口大屏幕和「行人過馬路闖紅燈曝光台」網站上。但公開曝光只是一小步,據深圳新聞網透露,這套系統抓拍的人臉信息將來會與社會信用系統等對接,「實現對闖紅燈人員的教育懲戒,逐步培養公民綜合素質,進而提升城市的形象。」

2014年,中國國務院就印發了一份《社會信用體系建設規劃綱要》(2014—2020年),計劃在2020年基本建立社會信用體系,屆時每個公民、企業甚至政府機構都會獲得信用評分,再配之以守信激勵和失信懲戒機制,以達致「一處失信、處處受限」的效果。今年5月1日,這套醖釀多時的系統終於開始大規模應用,一旦被列入「失信人」名單,乘坐飛機和火車都會受到限制,據環球時報英文網近期披露,截至4月底,這套系統已經限制購買飛機票1114.1萬人次,限制購買高鐵車票425萬人次。

無處不在的人臉識別系統和即將建成的社會信用系統,正在重塑中國人的行為模式。闖紅燈、車廂內吸煙、欠債不還等行為可能會得到有效遏制,但與此同時,當局對於社會的管治也將空前強化——上訪、維權、發表批評當權者的言論等行為,很可能將面對信用積分被扣的風險,而短時間被羈押,「處處受限」的處境可能更讓人難以承受。

這一週,端傳媒為你精心挑選了五篇《華爾街日報》的報導,探討這場利用高科技手段重塑人類行為的社會實驗。我們強烈推薦您 購買/升級成為「端傳媒尊享會員」,以低於原價 70% 的價格,暢讀端傳媒和《華爾街日報》全部內容。

無處不在的人臉識別系統和即將建成的社會信用系統,正在重塑中國人的行為模式。
無處不在的人臉識別系統和即將建成的社會信用系統,正在重塑中國人的行為模式。攝:GREG BAKER/AFP/Getty Images

人臉識別打造的全景式監控

英國哲學家邊沁(Jeremy Bentham)曾設想過一種「圓形監獄」的建築風格,在這種設計中,獄警可以看到任何一間囚室的犯人,而犯人卻因為逆光,無法看到監視人員。它充分體現了威權主義的統治技術:權力是可見的但又是無法確知的。

在現今中國,無處不在的監控攝像頭、強大的人臉識別系統和先進的人工智能技術,正在將這種統治技術發揮到極致。

前不久,浙江杭州第十一中學就引入了一套「智慧課堂行為管理系統」,據報導,這套系統可實現無感「刷臉」考勤,同時還可以對課堂上學生的面部表情進行分析,並對異常行為實時反饋。校方介紹,這套系統每隔30秒掃描一次,針對學生們閲讀、舉手、書寫、起立、聽講、趴桌子等6種行為,再結合面部表情是高興、傷心,還是憤怒、反感,分析出學生們在課堂上的狀態。目前,這套系統僅對學校和老師開放,未來還計劃向家長開放。老師監控學生、學校和家長監控老師,「智慧課堂行為管理系統」利用人臉識別技術和人工智能,完美實現了監控閉環,讓學校變成了一所「圓形監獄」。

除了學校之外,人臉識別系統也在酒店、地鐵等公共場所大規模普及。但與此同時,中國並沒有就個人信息保護有任何專項立法,個人信息和隱私數據形同「裸奔」,在公權力面前更幾乎「透明」,一個全景式的監控網絡正在中國快速建成。

69
商湯科技集團有限公司聯合創始人徐立接受華爾街日報採訪時稱,在重慶,商湯科技供應的兩個系統去年投入使用後才40天,就識別了69名犯罪嫌疑人。

華爾街日報報導稱,中國正在非常快速地運用新技術對公民進行監視,並且不會受到隱私問題擔憂和輿論制約,有關部門在問題多發地區的檢查站安裝了虹膜掃描儀,並使用複雜的軟件監督社交媒體上的言論。

端 x WSJ / 原文重點

  • 中國政府希望到2020年建立起一個全國性的「社會信用」體系,按照每位公民在工作單位、公共場所和個人財務方面的表現進行打分。中國科技公司在這一過程中起到帶頭作用,他們通過手機大量收集人們日常生活相關數據,規模之大前所未見,同時還爭相開發並推銷供政府使用的監控系統。

  • 其他國家也已經開始了這方面的試驗……然而,在利用人臉識別影響人們行為方面,中國的目的有所不同。2015年,中國公安部和其他政府機構呼籲設立一個「全域覆蓋、全網共享、全時可用、全程可控」的全國性視頻監控網絡,作為保證公共安全的必要手段。在這些機構發表的政策聲明中,「人臉識別」被納入用於完善監控網絡的技術名單。

  • 在中國,人臉識別攝像頭正用於各種常規活動中,比如進入工作場所、使用ATM機提現、智能手機解鎖等。北京一家肯德基餐廳可掃描顧客面孔判斷性別和年齡,然後以此提供點餐建議。北京一個很受歡迎的公園則利用這種技術防止有人在公廁偷廁紙。這些公廁使用的是人臉掃描廁紙機,限制每人每9分鐘只能抽取長度不超過60釐米的廁紙。

  • 隨着深度學習(使用軟件模仿大腦神經元處理信息的方式)等人工智能技術的發展,人臉識別技術迎來了革命性進步。算法現在可以自行挑選並處理分辨模式,能更容易地探測並識別人臉的各種變化,比如轉向一邊、微笑、皺眉、或者因年齡發生改變等。中國政府已有大量數據,其中包括超過7億互聯網用戶上傳的照片以及一個集中管理的公民影像數據庫──所有年滿16歲的公民都必須持有政府發放的帶照片的身份證。

  • 中國還在研究更多使用人臉識別技術的地方,比如在警車車頂安裝攝像頭,在同一時間進行全方向掃描,識別警方追查的違法人員……建立全國性的人臉識別系統還需要很多年時間,但官方媒體報導稱,中國的公安部門已經將這一技術用於拘捕。目前至少有五個城市在使用這一技術識別違反交通規則的行人。

節選自華爾街日報2017年7月5日報導《中國藉助人臉識別技術建立全方位監控網絡》

中國科技巨頭的副業:充當政府耳目

根據「十三五規劃」,中國在2020年之前,將推出100個新型智慧城市試點,形成一個「無處不在的體系」。

一名員工在一個騰訊標誌前使用她的手機。
在建設智慧城市的進程中,科技巨頭是政府不可或缺的合作者。攝 : DYCJ/Imagine China

在官方表述中,「智慧城市」是指通過互聯網、物聯網、雲計算、大數據和網格化管理等技術的創新應用,實現深層次信息共享和業務協同,提升城市規劃和管理水平。一方面,這當然會使政府的服務更加高效、民眾的生活更加便捷;但另一方面,也意味着個人的信息資料將無處不在地暴露在管理者的面前,就有專家質疑,智慧城市的真實目的,無非是一個龐大的監控項目。

這類詭異的城市計劃帶來的所謂益處實際上掩蓋了真實目的,整個安全城市構想無非是一個龐大的監視項目。

人權觀察駐香港研究員王鬆蓮接受《華爾街日報》訪問時稱

在建設智慧城市的進程中,科技巨頭是政府不可或缺的合作者。據華爾街日報報導,中國最大的幾家科技公司在網絡空間裏公開擔任政府的耳目,阿里巴巴、騰訊和百度等多家公司被要求幫助中國政府追查犯罪嫌疑人和封鎖政治異見人士言論。這些公司的技術還用於打造城市監控系統。

端 x WSJ / 原文重點

  • 中國政府正在建立全球最先進的高科技系統之一,其中包括監控攝像頭、人臉識別技術以及對海量數據進行梳理的大型計算機系統,以此來監視國民動向。中國最大幾家科技公司是主要協助者,他們在網絡空間裏公開擔任政府的耳目。

  • 華爾街日報對中國有關做法的研究顯示,中國科技巨頭的協助範圍遠超西方公司對本國政府的協助,而且幾乎不可能質疑中國政府提出的要求。

  • 實際上,一直受益於國家產業保護政策的中國互聯網巨頭幾乎沒有選擇餘地,只能合作。在中國,中共既控制司法系統,也控制企業的經營許可權。

節選自華爾街日報2017年12月4日報導《中國科技巨頭的副業:做政府監視的「眼睛」》

數字列寧主義會到來嗎?

端傳媒曾經專訪過政治學家韓博天(Sebastian Heilmann),他談到了自己對中國未來最大的擔憂——「數字列寧主義」(Digital Leninism)。由於擁抱互聯網技術和大數據,中國政府和大科技公司達成了廣泛共識和利益聯盟,而中國的普通百姓,甚至警惕政府的知識分子,也因為享受唾手可得的便利而失去警惕。就此發展下去,會形成一個人類歷史上前所未有的強大的數字極權,遠遠超出《一九八四》的寓言。

反烏托邦小說《大典》的作者王力雄近期攝於北京。
反烏托邦小說《大典》的作者王力雄近期攝於北京。攝:TSERING WOESER/Wall Street Journal

作家王力雄也在最近出版的一本小說《大典》中,想像了數字列寧主義到來後的中國,以及這樣的中國是否還有出路。書中的中國領導人希望在任期屆滿後繼續執政,利用反腐行動清除對手,而且國家的監控手段無處不在。但最後,這位領導人被精通技術的情報主管用形似蜜蜂的迷你無人機暗殺。

人們通常會認為當下由科技支撐的極權統治,達到了人類歷史上前所未有的嚴密,任何異己都沒有生長空間。是不是在這樣的狀況下,極權統治便沒有了變化的可能,從此只能按照極權的邏輯發展?我認為不會的,有時極權體制內的一個很個別的環節,都有可能導致整體的崩坍。

王力雄

華爾街日報的一篇專欄文章中,作者袁莉就透過王力雄的小說,探討了這種比「科幻更魔幻」的中國現實。文章結尾,袁莉寫道:

筆者對王力雄表示,這些技術的複雜程度似乎還不如新疆已經在使用的技術。在新疆,政府已經部署了面部識別相機、智能手機讀取器、DNA 收集和數據處理警務系統,以平息一些穆斯林武裝分子不時發起的反政府暴力行動。

王力雄回應說,現實總是完勝小說,在中國尤其如此。

端 x WSJ / 原文重點

  • 數字專政真的權力無邊嗎?這是作者王力雄在他的反烏托邦小說《大典》中試圖回答的問題。這本書去年12月由台灣大塊文化出版,書中描寫了2021年的中國,所呈現的似乎正是目前的景象。書中的中國領導人希望在任期到期後繼續掌權,利用反腐行動清除對手,而且監控無處不在。最後,這位領導人被精通技術的情報主管用形似蜜蜂的迷你無人機暗殺。

  • 這本書聚焦一些中國人,尤其是像王力雄這樣的自由派知識分子,試圖捕捉他們在看待技術和中國專制政治體制時情緒上的轉變。不到10年前,互聯網和社交媒體彷彿是促進言論自由並形成更開放包容政治秩序的強大工具。但時至今日,技術悲觀主義盛行。

節選自華爾街日報2018年3月5日報導《比科幻更魔幻:中國展現數字獨裁未來世界》

新疆:未來中國的預演?

如果說王力雄的小說只是想像,那麼新疆的情況則是每天在發生的現實。據華爾街日報報導,在新疆的城市和鄉村,隨處可見高清攝像頭、配備了人臉識別系統的安全檢查站,以及攜帶着手持智能手機掃描設備的巡邏警察,中國已經將新疆變成一個測試尖端監視和社會控制方法的試驗場。

除此以外,人權組織「人權觀察」(Human Rights Watch)還稱,當地政府正在部署一個新的警務平台,對收集到的數據進行處理,以便對潛在滋事者進行識別和預防性拘留。

靠近中國與吉爾吉斯斯坦邊境的喀什噶爾,警察和當地人站在老城正門前。
靠近中國與吉爾吉斯斯坦邊境的喀什噶爾,警察和當地人站在老城正門前。攝:GIULIA MARCHI FOR THE WALL STREET JOURNAL

端 x WSJ / 原文重點

  • 政府採購文件和官方媒體將該警務平台稱為「一體化聯合作戰平台」,該平台對上述各種信息的整合至關重要。人權觀察稱,這項技術由國有軍工企業中國電子科技集團旗下的一家子公司供應。人權觀察與一些在新疆的人士進行了交流,這些人曾看到當地官員使用該平台生成用於警方調查的人員名單。

  • 一些現在或以前的新疆居民表示,過去一年,數千名維吾爾族人在未經審判的情況下被拘或送至新建的政治再教育中心。新疆有關部門尚未回覆關於此類拘留的多個問題。

  • 人權觀察中國研究員王鬆蓮稱,數據收集範圍之廣顯示出這場行動不只是為了根除恐怖分子。她說,確實存在恐怖主義擔憂,但這只是範圍更大的行動的一部分,目的是根除不符合政府想法的行為,政府認為維族人應該愛黨愛國。

節選自華爾街日報2018年3月1日報導《人權組織稱中國在新疆部署大數據警務預測平台》

華爾街日報記者也親赴新疆,用12天的時間親身體驗監控如何滲透到日常生活的角落。記者寫道:「幾乎不可能不感受到政府毫不鬆懈的監控。市民和遊客每天都必須通過警察的檢查點,監控攝像頭和機器掃描其身份證、面部、眼球,有時候是全身掃描。」

一位中國人權律師祝聖武表示,新疆的事態發展關係到全體中國人的命運,因為當局在不斷吸取新疆實行高壓統治的經驗,並在中國東部地區實施。

警察在喀什老城的一座門前執勤。
警察在喀什老城的一座門前執勤。攝:GIULIA MARCHI FOR THE WALL STREET JOURNAL

端 x WSJ / 原文重點

  • 星星峽是幾個世紀前絲綢之路商人要經過的一道隘口。在那裏,警察對進入車輛進行檢查,並對旅客身份進行核實。警察攔下記者,要求下車並解釋入疆目的。非漢族司機則大多被引導至電子安檢門來掃描身份證和麪部信息。前面更遠處,在哈密這個擁有50萬人口的城市入口,警察讓記者等在一堆顯示了附近實時監控畫面的電視屏幕前,記下了記者的護照號碼。在通往小鎮的道路上,每隔幾百英尺就裝有監控攝像頭,這些攝像頭覆蓋了街道的各個角落,大清真寺附近一家小麪館的顧客也在監控範圍內。麪館的老闆是回族穆斯林,她說,政府今年早些時候命令該地區所有的餐廳都裝上攝像頭,以防止恐怖襲擊。

  • 二道橋是烏魯木齊的維族文化和商業中心,也是2009年種族暴亂的始發地,那場暴亂造成多人死亡。二道橋清真寺的正面入口目前處於關閉狀態,國際大巴扎的大部分入口也被關閉。要去裏面的遊客必須經過一扇有很多警察看守的大門。新疆居民要接受面部掃描和身份證掃描。還有一排攝像頭實時監控。

  • 在陳全國治下,新疆警察數量大增,有數據顯示,警察招聘廣告出現指數式增長。據人權觀察(Human Rights Watch)的發現和華爾街日報看到的政府採購文件,去年當地警察局開始訂購具有3D面部成像功能的攝像頭,以及DNA測序儀和語音模式分析系統。中國興業證券今年4月份的研究顯示,2017年第一季度,中國政府宣布在新疆進行的安全相關投資項目超過10億美元,相比之下,2015年安全方面的全年總投資為2,700萬美元。政府採購訂單顯示,數百萬資金用在了所謂的統一戰鬥平台上,這是多個計算機系統,用於分析從警方和其他政府機構收集來的監控數據。

節選自華爾街日報2018年3月1日報導《新疆12天見聞:政府監控如何滲透日常角落》

以低於原價 70% 的價格,同時暢讀端傳媒和《華爾街日報》全部內容,立即升級成為「端傳媒尊享會員」

Big Data Big Brother 端 x 華爾街日報
如果你喜歡,就分享給更多人吧