丹·梅里卡

　　华盛顿(美联社)——据参议院安全办公室称，本月针对参议院外交关系委员会民主党主席本·卡丹参议员的一次高级深度伪造行动，这是不法分子转向人工智能来欺骗美国高层政治人物的最新迹象。

　　专家们认为，随着曾经围绕生成式人工智能存在的技术障碍减少，这样的计划将变得更加普遍。参议院安全局周一发给参议院办公室的通知称，这一企图“因其技术的复杂性和可信度而引人注目”。

　　该计划以乌克兰前外交部长德米特罗·库列巴为中心。根据通知，卡丹的办公室收到了一封他们认为是库勒巴的人发来的电子邮件，这是卡丹在过去的一次会议上认识的一位官员。

　　当两人进行视频通话时，这种联系“在外观和声音上与过去的相遇一致”。直到那个冒充库列巴的打电话者开始问诸如“你支持远程导弹进入俄罗斯领土吗?”我需要知道你的答案，”卡丹和他的工作人员怀疑“有些事情不对劲”，参议院的通知说。

　　根据参议院安全主管尼科莱特·卢埃林(Nicolette Llewellyn)的通知，发言人继续向参议员提出了与即将到来的选举有关的充满政治意味的问题，“可能是试图诱使他评论一位政治候选人。”“参议员和他们的工作人员挂断了电话，并迅速联系了国务院，后者证实电话不是库勒巴打来的。”

　　卡丹周三将这次会面描述为“一个恶意的演员假扮成一个已知的人，试图与我进行欺骗性的对话。”

　　卡丹说:“在立即得知与我接触的人不是他们所说的那个人之后，我结束了通话，我的办公室迅速采取行动，通知了有关当局。”“此事目前已交由执法部门处理，全面调查正在进行中。”

　　卡丹的办公室没有回应要求提供更多信息的请求。

　　生成式人工智能可以利用巨大的计算能力以数字方式改变视频上出现的内容，有时可以实时改变视频的背景或主题。同样的技术也可以用于数字改变音频或图像。

　　像这样的技术以前曾被用于邪恶的计划。

　　香港的一名财务人员向一名骗子支付了2500万美元，后者利用人工智能冒充该公司的首席财务官。一名政治顾问利用人工智能模仿乔·拜登总统的声音，敦促选民不要在新罕布什尔州的总统初选中投票，导致这名顾问面临20多项刑事指控和数百万美元的罚款。长期以来，照顾美国老年人的专家一直担心，人工智能驱动的深度造假将加剧针对老年人的金融诈骗。

　　参议院的安全官员和人工智能专家都认为，这可能只是一个开始，因为最近技术的飞跃使针对卡丹的计划不仅更加可信，而且更容易实施。

　　网络安全专家、SocialProof security公司的首席执行官雷切尔·托巴克(Rachel Tobac)说:“在过去的几个月里，能够实时深度伪造视频和实时深度伪造音频的技术越来越容易整合在一起。”她补充说，这项技术的早期迭代可以明显看出它们是假的，从尴尬的嘴唇动作到人们眨眼的反向动作。

　　“我预计未来会发生更多这类事件，”布法罗大学(University at Buffalo)的人工智能专家、教授吕思维(音)说。“任何心怀恶意的人现在都有能力进行这种攻击。这些可能来自政治角度，但也可能来自金融角度，如欺诈或身份盗窃。”

　　发给参议院工作人员的备忘录回应了这种情绪，告诉工作人员确保会议请求是真实的，并警告说“未来几周将做出其他尝试”。

　　人工智能和国家安全专家r·大卫·埃德尔曼(R. David Edelman)曾在白宫领导网络安全政策多年，他将该计划描述为一项“复杂的情报行动”，在将人工智能技术的使用与更传统的情报行动结合起来的方式上，“感觉相当接近前沿”，后者发现了卡丹和乌克兰官员之间的联系。

　　“他们认识到两党之间存在的关系。他们知道他们可能如何互动——时间、模式，以及他们如何沟通。”“情报工作很复杂。”