端 × 华尔街日报广场

华尔街日报导读:人工智能时代的中国式监控

互联网审查借力技术升级,让中国网民们传递“敏感信息”越来越难。从这个层面上来看,人工智能和人类正在进行着一场正面对决。

在人工智能和大数据时代,中国当局在网络空间和实体空间的监控手段日益更新:互联网上的敏感词库随着社会热点事件不断扩充。图为北京天安门广场,市民正在使用智能手机。

在人工智能和大数据时代,中国当局在网络空间和实体空间的监控手段日益更新:互联网上的敏感词库随着社会热点事件不断扩充。图为北京天安门广场,市民正在使用智能手机。摄:Qilai Shen/Bloomberg via Getty Images

刊登于 2017-12-18

#端 x 华尔街日报

代称、隐喻、将文字转成图片、倒转图片、模糊图片……面对借力技术而日渐“高明”的互联网审查,中国网民们在传递“敏感信息”时的智慧似乎越来越不够用了。从这个层面上来看,人工智能与人类正在进行一场正面对决。

在人工智能和大数据时代,中国当局在网络空间和实体空间的监控手段日益更新:互联网上的敏感词库随着社会热点事件不断扩充,新近入选的包括“低端人口”甚至“硬盘”(北京“红黄蓝”幼儿园虐童事件中,警方称存储监控视频的硬盘损坏),即使转换为图片发送也无所遁逃;服务于人群大数据的近两亿台监控摄像头布满街头,警方可以在几分钟内轻松锁定数据库里目标人物的位置。

为此提供技术支持的中国互联网巨头们,一方面受益于国家产业保护政策得以迅速扩张,另一方面在面对政府侵犯用户隐私的要求时几乎没有选择余地。国外科技企业在面对这一庞大市场时,似乎也在逐渐妥协,试图在利润与原则之间维持危险的平衡。

这一周,端传媒为你精心挑选了四篇《华尔街日报》的报导:在微信中因开政府高官玩笑而被拘留的小人物、甘愿充当政府耳目的中国科技巨头、因渴望中国市场而向审查低头的业界大亨,还有中国互联网最高监管机构——中央网信办的人事震荡。

人工智能时代的审查博弈中,掌权者、技术提供者,和试图躲过审查的互联网使用者,谁才是赢家?又或者,这根本是一场没有赢家的博弈?

了解这场审查博弈的全貌,我们强烈推荐您购买/升级成为“端传媒尊享会员”,以低于原价 70% 的价格,畅读端传媒和《华尔街日报》全部内容。

一、“老大哥”盯着你的微信

多伦多大学公民实验室(Citizen Lab)多次发表研究报告指,中国最流行的即时通讯工具微信可以自动审查包含“敏感词”的内容。这项技术目前已经可以识别图片中的文字甚至“敏感照片”,这些信息在发送时就会被清除或屏蔽,而发送者和接收者不会收到任何通知。敏感信息库还会随着突发社会事件而不断更新。

在法律层面,中国当局发布相关规定和司法解释,令散布官方认定的“谣言”最高可获刑三年;网络聊天群的群主对群内成员发表的言论也应承担法律责任。

过去时有这种案件发生,但不像现在这样明目张胆、心安理得地抓人。

人权律师莫少平接受《华尔街日报》访问时称

《华尔街日报》最近就以长篇特稿,报导了中国当局对普通民众手机聊天内容监控持续升级:河南濮阳一个建筑工地的小工头陈守理,因为在微信聊天群里发了隐射中国政府高层官员的玩笑,被警方拘留5天。

濮阳一个建筑工地的小工头陈守理因为在微信聊天群里发了个隐射中国政府高层官员的玩笑被警方拘留了五天。
濮阳一个建筑工地的小工头陈守理因为在微信聊天群里发了个隐射中国政府高层官员的玩笑被警方拘留了五天。

端 x WSJ / 原文重点

  • 警方的报告里指出陈守理在微信上的言论涉嫌寻衅滋事,这是一项比较宽泛的罪名,包括结伙斗殴和破坏公共财产,可在不经庭审的情况下对涉事者处以拘留处罚。

  • 警察明确告诉他,他们已经看到了他在微信中的发言。警察要求他确认,其微信名是“一念间”,然后要求他在手机上打开这个聊天群给他们看。陈守理说,警察盘问了他几个小时,包括他是否有宗教信仰,他对中国领导人以及被列入黑名单的异见人士的看法。

节选自《华尔街日报》12月8日报导 Jailed for a Text: China’s Censors Are Spying on Mobile Chat Groups

二、充当政府耳目的科技企业

与网络空间监控互为补充的是,中国政府还在构建一个覆盖实体空间的庞大监控网络,将能识别暴露在密集监控摄像头底下的行人身份甚至其人际关系。按照“十三五规划”,中国明年将推出100个智慧城市试点;到2020年,智慧城市将形成一个“无处不在的体系”。

1.76 亿
行业调查公司 IHS Markit 最新数据显示,中国目前在公共和私人领域(包括机场、火车站和街道)共装有1.76亿个监控摄像头,而美国只安装了大约5000万个;预计3年内,中国安装摄像头的数量会增加到6.26亿个。

除了微信的运营商腾讯外,阿里巴巴、百度等多家互联网企业均被要求帮助中国政府追查犯罪嫌疑人和封锁政治异见人士言论,相关技术也被用于打造城市监控系统。阿里巴巴集团董事局主席马云去年在中央政法委举办的讲座上表示,政法系统将离不开互联网和大数据,未来“坏人根本走不进广场”。

这类诡异的城市计划带来的所谓益处实际上掩盖了真实目的,整个安全城市构想无非是一个庞大的监视项目。

人权观察驻香港研究员王松莲接受《华尔街日报》访问时称

《华尔街日报》日前报导,“中国政府正在建立全球最先进的高科技系统之一,其中包括监控摄像头、人脸识别技术以及对海量数据进行梳理的大型计算机系统,以此来监视国民动向。中国最大几家科技公司是主要协助者,他们在网络空间里公开担任政府的耳目。”

一名员工在一个腾讯标志前使用她的手机。
腾讯、阿里巴巴、百度等多家互联网企业均被要求帮助中国政府追查犯罪嫌疑人和封锁政治异见人士言论。

端 x WSJ / 原文重点

  • 对中国有关做法的研究显示,中国科技巨头的协助范围远超西方公司对本国政府的协助,而且几乎不可能质疑中国政府提出的要求。

  • 实际上,一直受益于国家产业保护政策的中国互联网巨头几乎没有选择余地,只能合作。在中国,中共既控制司法系统,也控制企业的经营许可权。

节选自《华尔街日报》11月30日报导 China’s Tech Giants Have a Second Job: Helping Beijing Spy on Its People

三、互联网大会上的科技巨头

尽管在中国处处掣肘,国外的互联网巨头们仍在努力拥抱这一庞大市场。苹果、Google 和思科系统(Cisco Systems)等科技企业的 CEO 在12月初齐聚浙江乌镇,参加中国连续第四年举办的世界互联网大会。

刚刚跻身中共中央政治局常委的王沪宁在开幕式再次强调“网络主权”的必要性,并提出中国的五大诉求,包括:“中国愿同各国一道,建立健全适应数字经济发展的监管模式、法律制度,共同防范数字经济快速发展所带来的网络安全挑战,建设安全、稳定、繁荣的网络空间。”

2017年12月3日,浙江乌镇,第四届“世界互联网大会·乌镇峰会”开幕。苹果公司CEO库克致辞。
2017年12月3日,浙江乌镇,第四届“世界互联网大会·乌镇峰会”开幕。苹果公司 CEO 库克致辞。

在会上发表演讲的苹果 CEO 库克(Tim Cook)称,苹果的应用商店帮助中国180万开发者获得总价值169亿美元的收入,在各国同行中居首;但他未提及今年600多个VPN应用在中国下架事件。Google CEO 皮蔡(Sundar Pichai)则表示,Google 在中国的大量工作是帮助企业,有许多中小型企业通过 Google 将他们的产品推向国外。

自2009年到2010年,Facebook、Twitter 和 Google的主要服务相继被中国当局封锁。Facebook 近年努力寻求进入中国市场的可能,Google 也一直在寻找更多的重返机会。

互联网安全管理很重要,苹果公司赞赏中国的开放政策,愿在华做守法尽责的企业,促进两国互联网企业合作。

王沪宁会见库克时后者表示,新华社12月3日报导

《华尔街日报》最近报导,Google 已在北京开设人工智能实验室“AI 中国中心”(AI China Center),旨在吸引中国的顶级科技人才,并增强其在受到限制的中国市场上的地位。

端 x WSJ / 原文重点

  • Google 云计算主管兼该新实验室联席负责人的李飞飞称,Google 需要认识到中国在科技和 AI 领域提供的机会以及所展现的领导力。她表示,通过开设实验室,Google 表明该公司希望听到中国的声音,并与中国合作。

  • 一些人士认为,Google 采取了一系列举措,力求重新进入中国这个庞大但难以捉摸的消费市场,而创建AI实验室则是其中的最新动作。Google 于9月份在该公司北京的招聘网站上发布了至少4个与 AI 相关的职位需求,此举透露了该公司发展中国业务计划的线索。

节选自《华尔街日报》12月13日报导 Google Searches for Path Back to China With Artificial-Intelligence Lab

四、中央网信办人马大换血

本届世界互联网大会也标志着其组织者、中国互联网最高监管机构——中共中央网络安全和信息化领导小组办公室(网信办)的全新开始。

大会前夕,去年卸任的原网信办主任鲁炜落马;12月15日,中共福建省委常委、宣传部部长高翔接替任贤良,出任网信办副主任。鲁炜上月“涉嫌严重违纪”遭审查后,网信办表示“与鲁炜划清界限,坚决全面彻底肃清鲁炜对网信办和网信系统的恶劣影响。”

《华尔街日报》报导指,鲁炜成为习近平第二任期开始后首个接受腐败审查的政治人物,尽管他近年来一直积极执行中共重塑全球互联网秩序的战略。

2015年9月23日,美国华盛顿,中国国家主席习近平、国家互联网信息办公室主任鲁炜与脸书创办人扎克伯格交谈。
2015年9月23日,美国华盛顿,中国国家主席习近平、国家互联网信息办公室主任鲁炜与脸书创办人扎克伯格交谈。

端 x WSJ / 原文重点

  • 鲁炜的落马不太可能意味着中国互联网政策会发生什么变化,因为由他协助制定的中国互联网战略的执行力度在他被摘掉“网络沙皇”帽子之后有增无减。这些战略包括严格执行对互联网和媒体的控制以及做强中国科技产业,这一切都是在中共维护“网络主权”名义下进行的。

  • 许多源自鲁炜办公室的互联网政策仍在产生国际影响。在被免去网信办主任一职以前,鲁炜曾对来访者说,他在习近平那里说得上话。他还表示,中国拥有庞大的互联网用户基础和像阿里巴巴集团这样的互联网巨头,理应在全球网络治理方面扮演重要角色。

节选自《华尔街日报》11月22日报导 The Architect of China’s Great Firewall Caught in Anti-Corruption Net

本刊载内容版权为端传媒或相关单位所有,未经端传媒编辑部授权,请勿转载或复制,否则即为侵权。

延伸阅读