日报

为消除人类对 AI 的恐慌,Google、Facebook等五大科技巨头共组联盟

刊登于 2016-09-29

微软、Google、Facebook等五大巨头共组AI联盟。图为美国加州,科技公司职员将机械人运往机械人比赛场地。
少数的大型公司,已经成为人工智能领域发展的主要推动力。

科技在发展,但对科技的恐慌也在升级。自动驾驶汽车如果遇到意外,必须要在撞向一群人和撞向一个人之间选择,那谁是凶手?类似的道德两难,近年来在民间的讨论愈来愈炽热。

有鉴于此,微软、Google、Facebook、亚马逊、IBM五大科技巨头于28日联合宣布,将组成一个“造福人类及社会的人工智能(Artificial Intelligence,AI)合作关系”联盟。旨在针对AI领域的伦理争议、公平性、透明度、可靠性、如何与人类合作等,进行公开研究,同时也发展让AI更容易被大众理解的方法。

联盟奠基于八项原则:包括AI必须尽其所能造就公众福利、公众必须参与这项发展、研究必须以开放的方式进行、必须解释AI系统的论证过程等。其组成囊括企业及非企业成员,彼此拥有平等代表权。此外,联盟也希望能邀请更多政策与伦理学领域的代表加入;甚至AI使用者也可能被邀请,借由他们宝贵的使用者经验,给研究者更多启发。

人工智能正在这个变动的社会的浪头上,它的影响必须要公开检视、研究。它将会改变我们彼此联系的方式、我们如何取得资讯、接受治疗与移动,以及整个城市如何被规划。

机器学习先驱、Facebook AI部门领袖 Yann LeCun

现今AI的发展一日千里,关于其潜在负面影响的讨论也愈来愈多。例如:机器人可能取代部分廉价人力,而使收入分配更加不平等;机器学习一旦使用蕴含人类偏见的数据,便会被教育为性别歧视及种族歧视者;自动驾驶系统面对安全威胁时的伦理抉择争议等。

许多没有立论基础的臆测及警告也相应而生,这让部分科学家们愈来愈担心,它会对大众造成莫须有的恐慌,并促使政府订定不必要的规范。分析便指出,此次“联合”显示这些科技巨擘认为消除大众对于AI的的顾虑是非常重要的。毕竟他们在该领域获利许多,并不希望 AI 产业成为政府规范的目标,而影响该领域的发展进度。

此外,由于这五间创始企业都有十分强大的AI研究团队(包括IBM的Watson与Amazon的Alexa,更遑论打败世界棋王的 DeepMind),建立合作关系意味着这些科技巨擘们可以经常交流人工智能的发展进程,也为公司间彼此沟通建立一个更正式的管道。

人工智能的力量在于企业部门,整个社会若想从中获益,我们必须要先相信它。

IBM 人工智能伦理研究部门研究员 Francesca Rossi

然而,在这份闪亮的合作名单上也可发现,同样致力于AI领域的几间公司并不在其中。例如在个人助理、图像辨识及声控领域有所建树的苹果公司、多次称自己为AI企业的中国百度、由电动汽车公司Tesla 创办人Elon Musk支持、获得企业赞助高达10亿美金的独立AI研究团队 OpenAI 等。

对于苹果的缺席,科技媒体 TechCrunch 记者 John Mannes 表示,原因可能在于苹果的 AI 研发工作已经落后于联盟中的竞争对手。对此联盟临时主席 Eric Horvitz 则回应,联盟正与苹果讨论中,“我们知道他们对于AI领域的热情,我个人也很希望看到他们加入。”

Deep Mind 的 Suleyman 则表示,联盟鼓励各种不同范围的努力,会尽其所能开放不同可能性,邀请更多不同研究团队加入。

1/3
2016年英国科学协会委托民调机构YouGov对2000人调查,显示1/3的人认为在未来100年内,人工智慧崛起将会成为人类生存的重大威胁。超过60%的人担心机器人会在10年内导致更多人失业。

声音

我们乐于看到此联盟的启动,企业间的合作对大家都有好处。我们也希望看到非营利组织在未来可以被纳入第一级成员。

Open AI 对于联盟成立的回应

少数的大型公司确实是今日复杂精密的 AI 发展的主要推动力,AI 联盟的成立是令人期待的一步,它能确保这项科技可以被有智慧地使用。

伦敦帝国学院认知机器人学系教授Murray Shanahan

来源:卫报TechCrunchFinancial TimesMIT 技术评论

本刊载内容版权为端传媒或相关单位所有,未经端传媒编辑部授权,请勿转载或复制,否则即为侵权。

延伸阅读