与过世的亲人对话，带来的是释怀，还是让人走不出伤痛？
AI模拟声音，会否像Deepfake一样带来社会问题？
社会应如何规范人工智能的模仿技术？
美国科技厂亚马逊展示语音智慧助理Alexa一项研发中的新功能可模拟死者的声音，让使用者与已故亲人对话互动。
亚马逊高级副总裁暨Alexa团队首席科学家普拉萨指只靠“不到一分钟的录音”，就能复制出高品质的语音，制作任何人的语音，他还特别提到可用它复制死者的声音，让使用者与已故亲人对话互动，怀念已故亲属，尤其在疫情期间经历丧亲之痛的人，利用对话与陪伴功能让回忆可以续存。在发布会上的示范影片中，小男孩请Alexa代替过世的祖母读完她生前未读完的故事。
示范影片场面窝心，背后却浮现不少道德和安全隐忧。关注网络安全的SocialProof Security行政总裁Rachel Tobac认为“我们的世界还没有为便利的语音复制技术做好准备”，指网路犯罪分子可通过少量语音样本轻松伪造其他人的声音以冒充成用家信任的人，加剧网络欺诈、私隐外泄等。
澳大利亚科廷大学网络研究教授Tama Leaver指，人们与死者“交谈”时可望会分不清现实和想像，令用家不知不觉地迷失在亚马逊的科技里。
Leaver还提到死者对声音被模仿的意愿，指死者不曾想过他们过身后会被人工智能模仿，在世的人也不能控制死后有谁会用他们的声音，甚至代表了自己，形容这令人“毛骨悚然”，Leaver反问亚马逊是否有死者声音的拥有权，是否代表用家需放弃死者的发言权。
网民评价
不少网民质疑这技术带来了安全问题，有人担心若技术被广泛使用，自己的声音可能被造假，亦令骗徒更易行骗，也令声音再无法成为呈堂证据。网民提到在谣言满天飞的网络世界中，Alexa可能加剧抹黑影片的出现，尤其在选举时，民众可随意操控候选人的说话，“光想像就好可怕”。有网友批评让死者讲出自己这辈子都没讲过的话非常不道德，也有人带出死者的私隐问题，问如何界定谁拥有死者声音的使用权限。
对于模仿故人的声音能否安抚家属情绪，网民意见不一。有网民指Alexa适合陪伴独居或住在安老院的长者，让他们解忧或是治疗心理疾病，也有网民希望这技术能早点推出，指不介意声音是人工智能组合成，只希望能再次听到已故亲人的声音。但亦有网民指技术反令在世的人走不出伤痛，指他们会一直抱持著死者还活著的假象，陷入过往的情绪之中，指“人还是要向前看”。
过往Deepfake带来的社会问题
科技模仿真人早有先例，如网络正流行的Deepfake，即为图像或影片中的人像“换脸”，引来很多道德争议和潜在危险。如于去年3月，缅甸军政府发表影片，片中仰光省前任首席部长承认曾给昂山素季 60 万美元与 11 公斤黄金。缅甸军政府凭此证据认定昂山素季贪污并调查，但有人指部长声音与脸部表情不自然，怀疑影片是用Deepfake伪造出来。
此外，有用户以Deepfake模仿美国前总统奥巴马，斥特朗普是笨蛋，也有不少人以Deepfake制作成色情影片。2020年10月开始，台湾Telegram群组“台湾网红挖面”以Deepfake软体，把名人的脸换到色情影片上，在网上贩售牟利，引起公众哗然。台湾法务部指此类行为危害民众权益巨大，包括破坏名誉、假冒身分、影响金融市场、操纵民主选举结果等。
尽管Deepfake带来不少社会问题，但亦有正面影响，如有医院为聋哑患者进行声音再制，以Deepfake技术合成他们的声音，使他们能用“原声”与他人沟通，也有电影制作人运用Deepfake技术，让已故电影明星重返大萤幕。
为了防止Deepfake沦为犯罪工具，各地都有制定法律限制Deepfake的应用，如台湾定立“散布性私密影音罪”、“制作或散布他人不实性影音罪”等；日本及欧盟则建立“AI 利用伦理规范”，使用Deepfake技术做出虚伪影像者，需附加警告标语，告知观众这是使用 AI 技术所形成的影像。
死者的声音使用权
美国去年上映一套纪录片《Roadrunner: A Film About Anthony Bourdain》，纪录已故美国知名作家兼主持人安东尼波登，导演Morgan Neville指在电影中使用Deepfake技术让主角说出自己未曾说过的话，引起纪实电影造假之嫌，波登第二任前妻奥塔薇亚布斯亚也对此表示不满。关注影片与技术道德应用的人权组织总监Sam Gregory认为使用死者来做合成影片应符合两个原则：得到死者本人或死者家属的同意，以及让观众知道这是假的。
对于用家产生的疑虑，亚马逊表示，开发模仿人声科技的主要目标是让民众怀念挚爱逝去者，利用对话与陪伴功能让回忆可以续存。在亚马逊展示新功能后，微软随即发布新版的《负责任的AI标准》，规范了该公司如何建构AI系统，并对使用科技者提出严格要求。
假如你知道自己即将逝世，你愿意让你的声音透过AI延续下去吗？
文：端传媒实习记者陈洛荞