克隆意大利防长声音成功诈骗企业家：AI深伪犯罪出现哪些新趋势？｜Whatsnew

国家领导人致电大企业家，请求他们提供数百万美元，以解救被拘留在中东的公民。只不过，电话的另一头不是真的政治家，而是诈骗犯——这个电影般的情节如今真的发生了。

2025年2月初，有诈骗分子用人工智能（AI）模拟意大利国防部长Guido Crosetto的声音，诈骗了至少九位意大利最富有的企业家。接到诈骗电话的企业家包括时尚设计师Giorgio Armani、军工集团Beretta家族，以及鞋业品牌Tod’s的董事长Diego Della Valle。其中，国际米兰前主席Massimo Moratti向一个香港账户支付了约95万欧元。这笔钱后来被意大利警方追回。

这类事件反映出“深伪”（deep fake）诈骗方式愈发流行，且变得更加“高端”。

在AI助力下，“深伪”技术让诈骗犯罪变得触手可及，成本更低，而且犯罪分子无需掌握计算机技术或编程知识，只需购买现成的成套软件，就可以迅速发起大规模诈骗，并在瞬间抹去痕迹、消失无踪。

诈骗分子会寻找已上传至网络的视频，复制目标人物的说话方式。如今，只需十几秒的档案，人工智能便可以进行语音克隆。随后，诈骗分子会给亲朋好友打电话或发送语音邮件，要求他们紧急汇款。

这类骗局存在已久，如以前的“总裁骗局”——骗子假冒公司董事的身份，说服公司员工向一个假冒的账户转账。但随着AI技术的进步，欺诈和伪造的规模达到了前所未有的程度，可能引发的后果也越来越令人担忧。

德勤（Deloitte）金融服务中心预测，到2027年，生成式人工智能可能导致美国每年的欺诈损失达到400亿美元，而2023年这一数字为123亿美元。如真如此，这一“产业”的年均复合增长率将达到32%。

“新的生成式人工智能工具的广泛可用性，使得深度伪造视频、虚假声音和虚假文件对不法分子而言变得更加廉价且易于获取。目前，暗网上已经形成了一个完整的诈骗软件行业，这些软件的售价从20美元到数千美元不等。这种恶意软件的‘民主化’正在削弱许多现有的反欺诈工具的有效性”，报告写道。

根据《卫报》2024年9月的报道，数字贷款机构Starling Bank发布的研究发现，“28%的人在过去一年中至少遭遇过一次AI语音克隆诈骗。然而，46%的人甚至不知道有这种类型的骗局，另有8%的人表示，即使他们认为亲人打来的电话似乎很奇怪，他们也可能会按照对方的要求汇款”。

除普通人外，跨国大企业也成了受害者。2024年1月，香港一家大型跨国公司的员工将公司的2600万美元转账给了诈骗分子。根据警方的说法，该员工参加了一次视频会议，而实际上，所有其他与会者都是由深伪技术伪造的。诈骗分子通过YouTube找到了公众可以访问的视频和音频，用人工智能模仿声音，并篡改了谈话内容和嘴唇动作。所有内容都是事先录制好的。

法国政府反网络诈骗平台Cybermalveillance.gouv.fr在2024年的一份报告里指出，网络钓鱼（Phishing）仍然是个人、企业和政府机构的最大威胁。在2024年多伦多的一次会议上，Booking信息安全主管Marnie Wilking报告道：“在过去的一年半里，全球各行各业受到的攻击，尤其是网络钓鱼攻击，增加了500%到900%”。她同时指出，在ChatGPT推出后不久，即2022年底，网络钓鱼的情况就开始增多。通过使用AI工具，诈骗分子现在可以用多种语言工作，语法也比以前更好。

另一种在近年大幅增加的诈骗手法是“情感诈骗”（Romance Scam），又称浪漫骗局或“杀猪盘”：骗子通过网络接触受害者，与其建立情感联系，最终骗取钱财。此外，犯罪团伙也开始伪造视频，声称掌握了受害者的不利信息，并以此对其进行勒索。

除财产诈骗外，AI深伪技术也开始被广泛用于虚假的政治宣传、间谍活动等政治目的。

例如，2023年9月，意大利总理梅洛尼接到了自称非洲联盟委员会成员的来电。在对话中，她透露西方盟友已对乌克兰问题感到“疲倦”，还谈及自己与欧盟领导人在移民问题上的分歧。两个月后，她的通话内容的完整录音被俄新社（Ria Novosti）公布。

事实上，梅洛尼通话的对象是通过“深伪”技术伪造声音的两名俄罗斯喜剧演员——Vovan和Lexus。这对搭档此前已经成功戏弄过多位国际政要，包括德国前总理默克尔（Angela Merkel）、英国前首相鲍里斯·约翰逊（Boris Johnson）、法国前总统奥朗德（François Hollande）、土耳其总统埃尔多安（Recep Tayyip Erdogan）等。

2023年，俄罗斯发起“Doppelgänger”行动，利用伪造网站和链接冒充政府机构及多家欧洲媒体的官方网站。点击这些链接后，用户会被引导至模仿原网站风格和视觉设计的虚假文章页面，这些文章旨在宣传俄罗斯，同时抹黑乌克兰及其支持者。

2024年春季，Meta和OpenAI发现了一场由以色列政府策划的宣传行动：在X、Instagram和Facebook 上，数百个虚假账户发布的内容都是通过ChatGPT生成的。而在美国总统竞选期间，一家由俄罗斯情报机构资助和操控的机构制作多个经过AI伪造的视频，并在网络传播。

法国《世界报》报道，在1月29日发布的一份报告中，Google指出，其生成式AI模型Gemini被多个外国机构使用，主要来自伊朗，但也包括中国和俄罗斯：“德黑兰利用AI进行内容创作和操控，包括撰写文本、以特定语调改写文本以及优化文本以提高传播效果，而北京和莫斯科则将其用于研究工作”。

报道同时指出，中国开源AI模型DeepSeek的出现引起了前Facebook安全负责人、现任网络安全公司SentinelOne专家的Alex Stamos的警觉。这位专家推测，不法分子将优先使用开源或非西方的AI工具，以规避政府和主要科技公司的检测。