在网络留言板就公共事务进行讨论正变得日益困难，层出不穷的粗言秽语及水军恶意骚扰让许多人或一时激愤而“以暴制暴”，或担心招致粗暴攻击而放弃在网络空间表达不同意见。对于鼓励用户更多参与讨论的网站管理者而言，虽极力想避免“提供”这样糟糕的用户体验，多数也只是收效甚微地增加人手予以引导。但真的别无良策吗？
2月23日，Google 母公司 Alphabet 旗下的技术孵化公司 Jigsaw 宣布，他们与 Google 的反滥用技术团队合作开发了名为“Perspective”的人工智能工具，将可以帮助新闻机构和在线内容发布平台识别出网站上那些“不堪入目”的留言，自动删除或者实时反馈给管理者处理，为用户创造更好的在线交流氛围。
新闻机构通常鼓励用户参与与内容相关的讨论，但往往发现通过排查数百万条评论以找到那些恶意挑衅或辱骂言论，需要投入大量的人力、资金和时间，有的网站甚至因此关闭了评论功能。但这显然不是理想的解决方案，我们认为机器学习技术可以帮助他们解决这一难题。
据 Google 官方博客介绍，Perspective 是一种应用程序接口（API），使用机器学习模型来分析用户留言对讨论可能产生的影响，并按照“有毒”程度给出评分。Jigsaw 公司总裁 Jared Cohen 透露，Perspective 之前已经在纽约时报与维基百科进行过数月的测试，收集了数十万条评论作为机器学习的培训材料。而就在最近，英国媒体《经济学人》和卫报也签署了试用自动化审核工具的协议，以期更好地管理他们的评论区。
Jigsaw 产品经理 CJ Adams 则表示，该公司计划将这项技术推广到所有平台，但他没有确认是否包括 Facebook 和 Twitter 等大型社交媒体。
去年美国总统大选之后，围绕线上不当资讯的争论久久不息，多国政府要求网络公司对其平台上的言论承担更多责任。在此之前，业绩每况愈下的 Twitter 就已经决定进一步打击网络暴力，他们同样宣称将结合人工审查与机器学习技术遏制其平台上的仇恨言论与滥用行为。
而早在去年5月，包括 Google、Facebook、Twitter 和微软在内的美国科技公司，就已经与欧盟达成了“反恐行为守则”协议，承诺在24小时内“审查大多数”被标记的仇恨言论，如有必要将立即删除。
声音
在接下来的一年，我们将积极展开合作和提供新的机器学习模型，并增加对非英语平台的支持。
应用程序接口
来源：财富、路透社、金融时报、TechCrunch