纽约(美联社)——一段伪造的视频模仿了副总统卡玛拉·哈里斯的声音，说了一些她没有说过的话，这引起了人们对人工智能的力量的担忧，因为它会在三个月后的选举日误导人们。

　　周五晚上，科技亿万富翁埃隆·马斯克在他的社交媒体平台X上分享了这段视频，但没有明确指出它最初是作为恶搞发布的，这段视频引起了人们的关注。

　　该视频使用了许多与哈里斯上周发布的真实广告相同的视觉效果，哈里斯很可能是民主党总统候选人，她上周发布了她的竞选活动。但视频将画外音换成了另一个令人信服地模仿哈里斯的声音。

　　“我，卡玛拉·哈里斯，成为你们的民主党总统候选人，因为乔·拜登终于在辩论中暴露了他的衰老，”视频中的声音说。它声称哈里斯是“多元化招聘”，因为她是一名女性，也是一名有色人种，而且它说她不知道“管理国家的第一件事”。该视频保留了“哈里斯竞选总统”的品牌。它还添加了一些真实的哈里斯过去的片段。

　　哈里斯竞选团队发言人米娅·埃伦伯格(Mia Ehrenberg)在给美联社的一封电子邮件中说:“我们相信，美国人民想要副总统哈里斯提供的真正的自由、机会和安全;而不是埃隆·马斯克和唐纳德·特朗普虚假的、被操纵的谎言。”

　　随着美国总统大选的临近，人工智能生成的栩栩如生的图像、视频或音频片段被用来取笑和误导政治，这段视频被广泛分享。它暴露出，尽管高质量的人工智能工具变得更容易获得，但到目前为止，联邦政府仍缺乏重大行动来规范它们的使用，导致在政治上指导人工智能的规则主要由各州和社交媒体平台制定。

　　这段视频还提出了一个问题，即如何最好地处理模糊了人工智能合理使用界限的内容，特别是如果它属于讽刺的范畴。

　　发布该视频的原始用户是YouTube用户里根先生(Mr Reagan)，他在YouTube和X上都披露了这段被篡改的视频是恶搞。但据该平台称，马斯克的帖子已经被浏览了超过1.23亿次，其中只有“这太棒了”的标题和一个笑的表情符号。

　　熟悉该平台的X用户可能知道点击马斯克的帖子到原始用户的帖子，在那里可以看到披露。马斯克的说明并没有指示他们这样做。

　　关于2024年大选，你应该知道些什么

　　民主:自2020年以来，美国民主已经克服了巨大的压力测试。2024年将面临更多挑战。

　　美联社的作用:美联社是选举之夜最值得信赖的信息来源，其准确性的历史可以追溯到1848年。学习更多的知识。

　　待通知。通过突发新闻邮件a了解最新消息

　　lerts。在这里注册。

　　虽然X的“社区笔记”功能的一些参与者建议给马斯克的帖子贴上标签，但截至周日下午，并没有给马斯克的帖子贴上这样的标签。一些用户在网上质疑他的帖子是否违反了X的政策，该政策规定用户“不得分享合成的、被操纵的或脱离背景的媒体，这些媒体可能会欺骗或混淆人们并导致伤害。”

　　该政策对表情包和讽刺作品有一个例外，只要它们不会“对媒体的真实性造成严重混淆”。

　　本月早些时候，马斯克支持共和党候选人、前总统唐纳德·特朗普。周日，里根和马斯克都没有立即回复记者的置评请求。

　　两名专门研究人工智能生成媒体的专家审查了这则假广告的音频，并证实其中大部分是使用人工智能技术生成的。

　　其中之一，加州大学伯克利分校的数字取证专家哈尼·法里德(Hany Farid)表示，该视频显示了生成式人工智能和深度造假的力量。

　　“人工智能生成的声音非常好，”他在一封电子邮件中说。“尽管大多数人不会相信这是哈里斯副总裁的声音，但当她说出这些话时，这段视频会更加强大。”

　　他说，向公众提供语音克隆工具和其他人工智能工具的生成型人工智能公司应该做得更好，以确保他们的服务不会被用于伤害人民或民主的方式。

　　倡导组织“公众公民”(Public Citizen)的联合主席罗布·韦斯曼(Rob Weissman)不同意法里德的观点，他认为很多人会被这段视频愚弄。

　　“我不认为这明显是个玩笑，”韦斯曼在接受采访时说。“我敢肯定，大多数看到它的人不会认为这是一个笑话。质量不是很好，但也够好了。正是因为它迎合了围绕着她的既存主题，大多数人会相信这是真的。”

　　Weissman的组织一直倡导国会、联邦机构和各州对生成式人工智能进行监管，他说这段视频是“我们一直在警告的那种事情”。

　　在美国和其他地方，其他生成式人工智能深度造假会试图通过错误信息、幽默或两者兼而有之来影响选民。在2023年的斯洛伐克，伪造的音频片段冒充了一名候选人，在投票前几天讨论了操纵选举和提高啤酒价格的计划。2022年，在路易斯安那州，一个政治行动委员会的讽刺广告将路易斯安那州市长候选人的脸叠加在一个演员身上，把他描绘成一个成绩不佳的高中生。

　　国会尚未通过有关人工智能在政治中的立法，联邦机构也只采取了有限的措施，将美国现有的大部分监管留给了各州。根据全国州立法机构会议的数据，超过三分之一的州已经制定了自己的法律，规范在竞选和选举中使用人工智能。

　　除了X之外，其他社交媒体公司也制定了有关在其平台上共享的合成和操纵媒体的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了生成式人工智能来制作视频或被罚脸。

　　美联社?得到几个私人基金会的支持，以加强其对选举和民主的解释性报道。点击这里了解更多有关美联社民主倡议的信息。美联社对所有内容全权负责。