日报

机器学习新应用:Google兄弟公司Jigsaw将帮你摆脱网络语言暴力

刊登于 2016-09-21

Google将使用人工智能清理网络侮辱性言论。
Google 母公司 Alphbet 旗下的 Jigsaw 将通过人工智能软件清理网络侮辱性言论。

网络带给人们便利与自由沟通的同时,也伴生了不加节制的语言暴力。不过 Google 母公司 Alphbet 旗下的 Jigsaw ,或许能透过新开发的人工智能软件 Conversation AI 对这一现象有所改观:Conversation AI 不仅能自动识别语言暴力,还可以对抗骚扰者、在语言暴力受害者看到冒犯性评论前自动删除信息。

为了让 Conversation AI 学习分辨无害的调侃与骚扰语言,Jigsaw 与纽约时报和维基媒体基金会建立了合作,使得 Conversation AI 既可以从纽约时报的1700万条评论和被人工标记为不当措辞的评论中学习分辨语言暴力,又可以从13万个维基百科页面的讨论片段中学习进行语法分析。与人类的判断能力相比,目前 Conversation AI 的精确度超过92%,出错率为10%,高于任何一款现有关键词过滤器的准确程度。随着 Conversation AI 接触的语言信息不断增加,相关数据还会进一步改善。

维基百科和纽约时报将成为第一批使用这款语言骚扰识别工具的机构。纽约时报计划把 Conversation AI 作为筛选评论的第一道关卡,维基百科则仍在考虑如何使用这款工具。未来,Jigsaw 还计划将这个人工智能软件开源,让更多网络论坛和社交媒体用它应对网络语言暴力。

我想用我们拥有的最好的科技去承担网络暴力和其他放大敌意声音的恶毒手段。

Jigsaw 主席 Jared Cohen 表示希望尽一切可能营造公平的竞争环境

事实上,Conversation AI 只是 Jigsaw 众多计划中的一个。相比拓展互联网的疆域,这间科技孵化公司似乎更在乎修复互联网制造的问题。尽管 Conversation AI 似乎也是一套自成系统的审查机制,但 Jigsaw 宣称自己的目标之一是,在10年内结束审查制度──包括反对派网站基于政治目的的网络攻击和政府对网络服务供应商的限制。

Jigsaw 制作的第一款产品是翻墙工具 uProxy,目前已在超过100个国家发行。通过连接防火墙外的朋友的电脑,uProxy 可以帮助面临互联网审查的用户翻出防火墙。

Jigsaw 制作的另一款产品是 Chrome 插件“密码警示”(Password Alert),该插件不仅能侦测假冒的 Google 登入页面并弹出提醒,也会在异地登录时向用户传送通知,以防账户被盗。

Jigsaw 的前身是2011年由 Cohen 与时任 Google CEO 的 Eric Schmidt 共同发起的智库 Google Ideas。随着工程师的逐渐加盟,Google Ideas 也由组织会议、制作可视化数据的智库,转型为一间科技孵化公司。今年2月,这个拥有50人的团队改名为 Jigsaw。

Jigsaw 成立之初,Google 董事长 Schmidt 就曾表示,Jigsaw 的目标是“解决世界上最棘手的地缘政治问题”,并将洗钱、组织化犯罪、警方暴行、人口拐卖和恐怖主义列为 Jigsaw 亟待改善的挑战。

今年4月,Jigsaw 曾推出一款叫做 Montage 的软件,能够通过分析 YouTube 视频,帮助战地记者和非营利机构追踪发生冲突的地区和搜集侵犯人权的证据。另一款名叫 Project Shield 的免费软件则能帮助防范针对媒体、选举监督网站和人权组织的网络攻击。

2015年10月,Google 曾将标志性的标语“不作恶”(Don't be evil)改为“做正确的事”(Do the right thing),Jigsaw 似乎正在实践 Google 这一愿景。

人工智能

人工智能(Artificial Intelligence, AI)是指由人工制造出来的系统所表现出来的智能。智能主体是一个可以观察周遭环境并作出行动以达致目标的系统。目前应用到人工智能的领域包括搜索、数学优化、逻辑推演,基于仿生学、认知心理学、概率论和经济学的算法也在逐步探索中。(资料来自维基百科)

来源:WiredBusinessInsiderEngadget

本刊载内容版权为端传媒或相关单位所有,未经端传媒编辑部授权,请勿转载或复制,否则即为侵权。

延伸阅读