黨盯著你？這個實驗室，探索著「中國模式」網路的虛與實

「本場活動請勿照相錄音錄影」，演講開始前，開放文化基金會的工作人員特別提醒。其實演講內容無涉機密，相關資料也早已放上網路，但因來自加拿大公民實驗室（Citizenlab）的兩位講者，副主任Masashi Crete-Nishihata和研究員Lotus Ruan所要應對的是中國這具龐大的國家審查／監控機器，容或身在台北，主辦方多少仍是不敢太過輕忽。不過對公民實驗室來說，他們的目標即是以具體的經驗研究直面中國網路審查機制，並揭露應用程式背後的管控技術。

防火長城（Great Firewall）、敏感字審查、網路實名制、人臉辨識系統、社會信用體系⋯⋯隨著中國政府加速擁抱科技發展，管控的力道不斷地加深、加大、加快。生活在2018年的中國，在微信轉發官方認定的「不實爆料」，你可能得付上幾天拘留的代價；若在微信任意詆毀國家領導人，恐怕更會引來一場無妄的牢獄之災。而中國警方利用人臉辨識系統逮捕疑犯的新聞，如今似乎也變得一點都不稀奇。宛若電影全面啟動一般的場景，彷彿在中國真實上演。

自由像空氣，缺乏時，才會感知到它的重要性。前幾年曾在中國網路空間大口呼吸到的一絲言論自由氣息，如今煙消雲散。一個懂得高度應用科技與數據的威權政體，儼然就是歐威爾筆下老大哥（Big Brother）的現代升級版，沒有什麼是它看不見的、沒有什麼是它不知道的、沒有什麼是它不能管控的。中國政府以維持社會穩定和諧知名，施行彷彿無所不在的管治，牢牢地嵌入每一個中國人民的生活言行之中。

但中國政府的審查機制真是如此「無孔不入」嗎？本於實事求是的研究精神，公民實驗室既非全然無視中國政府侵犯人權的管控作為，但也不願毫無事實根據地拼湊各種天馬行空的監控想像。Lotus便提醒，很多有關中國監控發展的說法往往都只是根據媒體報導與警方聲明，從技術的角度來說，其實無法用經驗確證什麼條件確實會觸發監控機制，又或是平台本身是否真的存在監控，「擔憂中國日益加增的審查與監控很合理，但現實生活中，有多少真的經得起檢驗？」

兩種審查模式：微信/伺服器 遊戲/客戶端

成立於2001年的公民實驗室隸屬多倫多大學蒙克國際研究中心（Munk School of Global Affairs and Public Policy），是一個獨立於政府和企業之外的研究機構，嘗試以跨政治科學、法律、電腦等學科的方法，研究與紀錄資訊管控對於人權、網路開放性與安全性的可能危害。具體而言，研究領域包括標示數位間諜對於公民社會的威脅，了解控制網路言論自由的技術，檢驗政府與企業的透明度與當責性，以及分析手機應用程式對於隱私的管控。

談及加入公民實驗室的契機，Masashi受訪時表示，還在大學修讀政治科學時，就曾上過公民實驗室主任Ronald Deibert的課程，便對相關研究非常感興趣，此後才一頭栽進了研究網路屏蔽、審查與監控的世界。

Lotus則提到，原先還在中國時，自己也是一名記者，從而發現政府審查媒體平台的事實，便對此議題十分關注。隨後到加拿大攻讀碩士準備畢業之際，發現公民實驗室提供了一個能夠本於事實，並運用資訊技術來分析中國社群媒體審查機制的機會，便希望能夠應用自己的傳播背景，從更切實的技術研究來理解審查背後的運作機制。

Masashi指出，早期外界很少察覺到世界各國如何限制網路言論自由，所以起先實驗室主要的計畫便是展開嚴謹的網路屏蔽與審查研究，研究範圍涵蓋全球74個國家。其中中國因著資訊管控體制的複雜特性，一直都是公民實驗室高度關注的國家。

他認為，即便中國資訊管控政權有許多獨特之處可能都難以被其他國家複製，不過因著中國長時間投入大量資源與心力，提供了其他國家一種科技未來可能的觀點。因此專注研究「中國模式」就變得非常重要。在技術與政治上理解管控體制如何運作，而在社會與心理上又會如何影響人民，取得一個更全面而精確的觀點，從而能夠提出更切實的顧慮，也才知道如何防範那些威權領導或是人權紀錄不佳的政府試圖複製「中國模式」。

由於多數國際主流平台服務都遭中國政府封殺，為了深入了解中國網民「與眾不同」的使用情境，以及審查／監控機制運作的實際情況，自2013年以來，公民實驗室的研究對象包含通訊軟體（TOM-Skype、新浪UC、LINE、微信）、網路瀏覽器（百度、QQ、UC）、直播軟體（YY、9158、呱呱、新浪秀），以及超過200款登上排行榜的手機遊戲。最新研究則是挖掘開源社群Github中含有特定關鍵字清單的專案，試圖進一步了解鑲嵌在政府、公司與審查機制之間的個別開發者。



Masashi指出，實驗室致力於分析不同類型的應用程式，並盡可能地探索更多不同的產業類別，以了解審查管控如何在個別的應用程式上運作，而它們之間可能又有什麼異同？

根據研究發現，審查機制可分為在客戶端或伺服器端運作。以微信為例，就是在伺服器端執行審查。「那就像是個黑盒子，我們可以丟東西進去，然後看看什麼東西會跑出來，但中間發生了什麼事，我們一無所知」，Masashi解釋。研究者只能倚賴樣本測試，設定一組可能被平台屏蔽的內容，傳送特定文字或圖片到遠端伺服器，再一一記錄實驗結果；或者選定會被屏蔽的公開貼文，觀察紀錄被平台刪除的過程。

不同於微信的審查機制，包括TOM-Skype、新浪UC、YY、9158、呱呱、新浪秀和所有公民實驗室所研究的手機遊戲在內，則都是在客戶端審查。簡單來說，當你準備發送一則訊息，在訊息離開裝置上傳到網路或伺服器以前，它就會先行掃描訊息是否含有特定關鍵字。

相較於伺服器端審查的研究限制，針對客戶端審查，公民實驗室得以借助逆向工程拆解整個應用程式，清楚呈現出審查的規則，取得程式內建的關鍵字清單，並且進一步運用最鄰近點演算法比對不同應用程式關鍵字清單的相似程度。而在破解成功後，隨著不同政治或社會事件發生（如劉曉波逝世、十九大等），實驗室也能同步收到關鍵字清單更新。從而確認審查密度的確會隨著事件動態發展，現在被屏蔽的關鍵字，過一段時間之後也可能解禁。

此外，因著實驗室針對客戶端審查的研究可以取得完整的關鍵字審查清單，也挑戰了哈佛大學教授Gary King的研究團隊在2013年提出的審查理論。King當時以抽樣的方式從1,382個中國社群網站下載貼文加以分析，提出了一個明確的審查區分假設：中國政府不會特別壓制批評黨或政府的言論；而是嚴加控管可能引發集體行動的內容，無論是反對政府或是支持政府皆然。據此，King認為中國政府以容忍批評的方式，維繫政權穩定與彈性。

但有別於King從他們研究的社群網站所得到的普遍性推斷，在研究、比較過數個客戶端審查的應用程式後，實驗室發現關鍵字審查的完整清單中既包括對於黨跟政府的批評，也有鎖定集體行動的部分。而近來實驗室針對微信的研究也發現，包括各種諷刺習近平的詞語都都被列入審查屏蔽之列。因此所謂願意採納諍言的威權彈性治理模式，若非值得商榷，至少也已是不復存在。

不存在一份由政府主動提供的共同清單

而研究過這麼多不同產業類別的應用程式之後，Masashi指出，有一個相當一致的發現是，不同審查清單之間關鍵字重疊的比例微乎其微。據此，他們認定並不存在一份由政府主動提供的共同清單。又即使遇上特定重大事件，管控壓力加大時，不同應用程式之間的審查清單仍有差異，顯然公司並不會收到一份出自政府的明確清單，而多半只有概括式的指令。

不同於那種「上面交辦、下面照辦」的猜想，事實上中國政府將資訊管控的責任下放給個別公司，讓它們保有相對的彈性去決定如何執行審查。除了關鍵字審查清單高度分歧之外，在直播軟體和手機遊戲的研究中，也都有發現公司可能是基於商業利益考量，在關鍵字清單中特別加入競爭對手的軟體名稱或是網域。這也更加凸顯個別公司在執行審查上的操作空間。

「缺少政府與公司的共同參與，沒有管控體制能夠正常運作」，Masashi認為，雖然中國存在非常嚴厲的管控，公司也得承受複雜而嚴峻的壓力遵循管控，但政府實際上終究得要仰賴公司執行審查。而在這樣的系統之中，不可能存在完全由上而下的管控形式。

撇開明確的政治紅線，在其他相對模糊的議題上，公司可能會因著不同的經營考量，試著與政府磋商管控界線，甚至從中謀取尋租空間。同樣地，充滿創意的中國網民也會利用科技或語言，找出在網上討論與表達的方法。總結來說，政府不可能完全控制一切，而只是想要管控大多數的輿論，好讓社會維持穩定。

而演講當天開放提問時，也有聽眾好奇，隨著實驗室持續發布各種應用程式審查機制的報告，相關企業會不會因而陸續修補能夠迴避審查的漏洞？Masashi回應說，實驗室到目前為止還沒有發現類似情況，以Tom-Skype的研究為例，後續都還是有收到關鍵字更新，不受研究報告任何影響，但最新針對微信圖片審查的研究則還需持續觀察。

監控的可見與不可見

不過回到前述提及的新聞案例，除了網路言論審查之外，外界現在更擔心的是，借助人臉辨識技術，中國現在是不是正在創造一個真正的全景敞視監獄（Panopticon），對人民展開全天候不間斷的監控？

首先，審查（censorship）與監控（surveillance）是兩件不太一樣的事情。Masashi解釋，審查可以看得到短回饋迴路（short feedback loop）。當你傳一個訊息給某人，對方沒有收到，或是收到了一個訊息已被屏蔽的警告，因此我們便得以知道發生了什麼事，而這也是可以被確證的。

然而監控本質上就是要被設計成看不見，也很難被紀錄與確證。過去在公民實驗室的研究中，只有少數研究（如Tom-Skype）確實有發現到監控機制存在。當特定關鍵字觸發監控機制啟動後，應用程式會完整紀錄發送者的用戶名稱、訊息關鍵字與發送時間，以及接收者的用戶名稱，再打包送回到伺服器端。

而這個「意外發現」自然帶出了大家更擔心的問題，「如果有應用程式確實會監控用戶，那是否其他中國的應用程式亦然？」但Masashi重申，要在技術上確證監控從來都不是一件簡單的事情。

你或許可以知道自己被審查；但如果你正在被監控，而且監控是有效的，那你永遠都不會知道發生了什麼事。於是即便如報導所言，微信真的有在監控用戶，我們也無從確證黑盒子裡的情況，遑論企業從來不會承認他們正在監控人民。

同樣地，我們雖然看見了許多各種有關應用人工智慧監控的發展，但我們似乎仍舊「看不見」它的真實樣貌。Masashi坦言，可以理解一般人對於這些科技的擔憂，但公民實驗室目前對於這種監控系統實際上如何運作同樣所知有限。不過他也提醒，外界目前對於系統如何運作也存在很多誤解。

像是雖然騰訊宣稱已經掌握人工智慧的最新技術，但根據研究發現，微信使用的圖片審查演算法既不新穎、也不完美，仍舊存在很多可以規避審查的漏洞。一種是常見的光學字元辨識技術（optical character recognition），用以過濾包含特定關鍵字的圖片；另一種則是運用圖片相似度對比，排除那些與資料庫圖片黑名單相似或吻合者，但也並沒有應用機器學習來判別圖片。

因此，Masashi認為，在做出太多有關人工智慧可能造成危害的假定以前，應該還是要多去了解系統本身在技術、社會與政治上的基礎以及系統如何被開發。「人們對此保持警覺，並積極討論是一件好事，但如果討論只是根據系統運作的假設而非事實，恐怕也是無助於事。」

以事實築起抵禦管控的防火牆

面對中國科技威權的快速進展，相較於外界諸多言之鑿鑿的指控，公民實驗室的立場顯得相對保留。但Lotus認為，整個關注中國科技威權的社群像是一個生態系統，需要有人站出來大聲疾呼反對，也需要有倡議組織或是新聞報導，「但同樣需要像公民實驗室所做的紮實研究一樣，從虛構與炒作之中提煉出事實。」

重視事實並不代表其他人的努力不重要，而是就公民實驗室看來，驟下結論以前，還是希望能夠提供更多事實全貌，才能為相關的辯論與未來的倡議做出貢獻。而藉由經驗研究與本於資料的方法，也才能揭露審查機器的能耐，完整呈現系統的運作模式，提供有關中國資訊管控體制更細緻的解釋。

但另一方面，Lotus也不忘提醒，中國的審查體制並沒有那麼精密（sophiscated），它真正精密的地方在於不清楚表明紅線何在，從而在社會中製造出自我審查和過度審查的文化。如同漢學家林培瑞（Perry Link）「盤繞在吊燈上的巨蟒」的著名比喻，牠無需動作，也不必釐清界線，每個置身在其陰影下的人，就會清楚地收到「你自己決定」的訊息，自然地做出相應的調整。

如果無法完整了解中國資訊管控政權的虛實，恐怕就很難跳脫出主流敘事推定的框架，反而過度放大管控的可能性。我們當然需要高度關注中國審查／監控的發展，但更需要踏實而嚴謹的研究所築起的防火牆，才能抵禦一個無比巨大而無所不能的管控中國之印象，同時避免持續落入自我審查的邏輯之中。有效理解審查／監控機器的能與不能，也才有機會突破管控真正幽微的凝視。