日报

Facebook炒掉人工编辑后,热门话题开始推送假新闻和不雅视频

刊登于 2016-08-31

2016年2月21日,西班牙巴塞隆拿,facebook创办人扎克伯格在一个发布会上致辞。
Facebook 创始人兼 CEO 扎克伯格。

Facebook 近日宣布,为更好提供新闻服务,他们裁撤了热门话题(Trending Topics)项目的人工编辑团队,由工程师通过算法(Algorithm)来核查和推送有价值的新闻及话题。但目前来看,这一决策引发了“一场灾难”。

8月27日晚,算法推送了一则福克斯新闻(FOX News)女主播 Megyn Kelly 的消息,称其因表态支持美国总统候选人希拉里(Hillary Clinton)而被公司解雇,然而事实上,Megyn Kelly 从未表态支持希拉里,也未被解雇。这条彻头彻尾的假新闻由名不见经传的网站 Ending the Fed 发布,此网站并不在原热门话题人工编辑团队列出的可靠新闻信源名单上,却被算法冠以“爆炸性新闻”之名,在 Facebook 的推送上停留约8小时,获得约20万个“讃”。

此外,算法还为用户推荐了 #McChicken 这个在 Twitter 上走红的标签,而它走红的原因是有人发布了一名男子用“麦香鸡”自慰的视频;还有一条美国保守派畅销书作家 Ann Coulter 在“周六夜现场”(Saturday Night Live)节目被反对者攻击的新闻,标题用了耸人听闻的“周六夜现场,Ann Coulter 被称为种族主义贱货”(SNL Star Calls Ann Coulter a Racist C*nt),而按照热门话题旧时的编辑原则,类似这些带有侮辱性或不雅的信息会被过滤。

Facebook 是一家科技公司,我们提供工具,但并不生产任何内容。

Facebook 创始人扎克伯格(Mark Zuckerberg)8月29日出席罗马 Luiss 大学活动时表示

2014年,Facebook 在信息流(News Feed)上加入热门话题功能,为用户挑选热点新闻。此后,关于 Facebook 公司立场与员工个人偏见是否会影响新闻筛选,引发不少争议。今年5月,一名热门话题项目前员工向媒体透露,该团队工作人员会刻意压制与保守派相关的新闻,以及内部存在管理与性别歧视等问题,引发舆论风波。Facebook 创始人兼 CEO 扎克伯格连带被指责影响美国大选,美国参议院也第一时间要求 Facebook 给出解释。

此事随着扎克伯格约见保守派巨头释疑而不了了之。但据《卫报》消息,Facebook 内部在“很长一段时间里”都在考虑解散这个团队,并在8月26付诸实践。整个场面不太友善,包括19名“消息策展人”(Curator)和7名文字编辑(Copyeditor)在内的团队成员,在当天下午4点被通知遭解雇的消息,限时下午5点前离开公司大楼,还有一名保安在场监督整个过程。这些离职员工据称获发了相当于6周工资的遣散费。

Facebook 官方发言声称,解散编辑团队的目的在于,比起人力来说“算法能覆盖更多话题,并为全球更多用户提供服务”,但官方也保证在这一过程中,仍然有人力参与,使得推送的消息“维持高质量”。

《大西洋月刊》(The Atlantic Monthly)已经去信询问 Facebook,这些算法推送的新闻是否经过人工筛选,以及公司会如何避免同样问题再次出现,但尚未得到回复。

这类问题在科技公司并不罕见。今年3月,微软(Microsoft)曾在 Twitter 上线一个聊天机器人 Tay,将其设定为18至24岁的美国年轻女性,能从大量与真实人类的对话中学习语言不断完善自己。而上线仅仅16小时后,微软就不得不将“她”紧急下线,因为Tay已开始频繁爆出粗口,其间充斥着种族歧视及侮辱女性的污言秽语。微软随后向公众就此事表达歉意,同时声称这是一次“针对这一技术探索项目”的“薄弱点”开展的“有组织的攻击”。

而波士顿大学与微软研究院(Microsoft Research)合作的一项研究指出:当用算法进行性别和职业配对时,某些词会被视为更男性化或更女性化,比如战斗机飞行员、计算机程序员、哲学家和上司等这些工作通常与“他”有关;而与“她”相关的职业包括社交名媛、家庭主夫/妇(homemaker)、理发师和接待员等。人类语言本身残留的各种偏见同样也被各种算法继承。

1 /3
Facebook 在全球拥有大约10亿活跃用户,其中包括7200万美国成年人,是美国2.18亿合格选民的三分之一。

声音

Twitter 从来没有保证过自己推荐的热门话题存在任何真实性,而只是说“大家热议的话题是……”,也许 Facebook 应该向它学习!当然这种巧妙的做法,只是更深刻地反映了我们当今的新闻环境。假新闻网站不断出现,而其中1位创办人(Stephen Bannon)还成了2016美国总统候选人特朗普(Donald Trump)的竞选团队首席执行官呢!

《大西洋月刊》编辑 Robinson Meyer

Facebook 的影响力太重要、太大了,任何内容编辑手法都难以尽善尽美。也许它可以让用户自行添加算法,这样“热门话题”就因应个人喜好而展现不同生态,而不是某种全球统一的发声机构。

哈佛大学(Harvard University)法律及电脑科学教授 Jonathan Zittrain

你不可能交了5亿个朋友(Facebook 用户),还没几个敌人。

2010 年电影《社交网络》(The Social Network)上映时的宣传语。

算法

在数学和计算机科学之中,算法(Algorithm)指一个计算的具体步骤,常用于计算、数据处理和自动推理。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。经典的算法有欧几里德算法、割圆术、秦九韶算法等。随着计算机科学的发展,算法在这方面有广泛的发展及应用,比如信息加密算法在网络传输中的应用、并行算法在数据挖掘中的应用等。(资料来自维基百科)

来源:卫报大西洋月刊路透社TechCrunch

本刊载内容版权为端传媒或相关单位所有,未经端传媒编辑部授权,请勿转载或复制,否则即为侵权。

延伸阅读