纽约(美联社)——一段使用人工智能语音克隆工具模仿副总统卡玛拉·哈里斯(Kamala Harris)说出她没有说过的话的视频引起了人们的担忧，人们担心人工智能的力量会误导三个月后的选举日。
周五，科技亿万富翁埃隆·马斯克在他的社交媒体平台X上分享了这段视频，但没有明确指出它最初是作为恶搞发布的，这段视频引起了关注。
周日晚些时候，马斯克澄清了这段视频的目的是讽刺，他把原作者的帖子贴在了自己的个人资料上，并用双关语表明模仿不是犯罪。
该视频使用了许多与哈里斯真实广告相同的视觉效果，哈里斯可能是民主党总统候选人，发布了她的竞选活动。但这则假广告将哈里斯的画外音换成了一个人工智能生成的声音，这个声音令人信服地模仿了哈里斯。
我，卡玛拉·哈里斯，是你们的民主党总统候选人，因为乔·拜登终于在辩论中暴露了他的衰老，人工智能的声音在视频中说。它声称哈里斯是“多元化招聘”，因为她是一名女性，也是一名有色人种，而且它说她不知道“管理国家的第一件事”。该视频保留了“哈里斯竞选总统”的品牌。它还添加了一些真实的哈里斯过去的片段。
哈里斯竞选团队发言人米娅·埃伦伯格(Mia Ehrenberg)在给美联社的一封电子邮件中说:“我们相信，美国人民想要副总统哈里斯提供的真正的自由、机会和安全;而不是埃隆·马斯克和唐纳德·特朗普虚假的、被操纵的谎言。”
随着美国总统大选的临近，人工智能生成的栩栩如生的图像、视频或音频片段被用来取笑和误导政治，这段视频被广泛分享。它暴露出，尽管高质量的人工智能工具变得越来越容易获得，但联邦政府仍然缺乏重大行动来规范它们的使用，导致在政治上指导人工智能的规则主要由各州和社交媒体平台制定。
这段视频还提出了一个问题，即如何最好地处理模糊了人工智能合理使用界限的内容，特别是如果它属于讽刺的范畴。
最初发布视频的用户是YouTube用户里根先生(Mr Reagan)，他从一开始就在YouTube和X上披露，这段被篡改的视频是恶搞。然而，据该平台称，马斯克最初发布的视频在X上的点击量要大得多，达到1.3亿次，但它只配了一个笑的表情符号“这太棒了”。
周末，在马斯克在他的个人资料中澄清视频是一个笑话之前，X的“社区笔记”功能的一些参与者建议将他的帖子标记为被操纵的。尽管马斯克已经单独发布了这段恶搞视频，但它并没有被贴上这样的标签。
一些在线用户质疑他最初的帖子是否违反了X的政策，该政策规定用户“不得分享可能欺骗或混淆人们并导致伤害的合成、操纵或脱离背景的媒体”。
该政策对表情包和讽刺作品有一个例外，只要它们不会“对媒体的真实性造成严重混淆”。
在网络上塑造里根形象的克里斯·科尔斯(Chris Kohls)向美联社记者指出，他在周一早些时候发布了一段YouTube视频，回应了这场磨难。在YouTube视频中，他证实自己使用人工智能制作了这则假广告，并辩称这显然是恶搞，不管有没有标签。
本月早些时候，马斯克支持共和党前总统、现任总统候选人特朗普。他没有回复记者的置评请求。
两名专门研究人工智能生成媒体的专家审查了这则假广告的音频，并证实其中大部分是使用人工智能技术生成的。
其中之一，加州大学伯克利分校的数字取证专家哈尼·法里德(Hany Farid)表示，该视频显示了生成式人工智能和深度造假的力量。
他在一封电子邮件中说，人工智能生成的声音非常好。“尽管大多数人不会相信这是哈里斯副总裁的声音，但当她说出这些话时，这段视频会更加强大。”
他说，向公众提供语音克隆工具和其他人工智能工具的生成型人工智能公司应该做得更好，以确保他们的服务不会被用于伤害人民或民主的方式。
倡导组织“公众公民”(Public Citizen)的联合主席罗布·韦斯曼(Rob Weissman)不同意法里德的观点，他认为很多人会被这段视频愚弄。
韦斯曼在接受采访时说:“我敢肯定，大多数看到它的人不会认为这是一个笑话。”“质量不是很好，但已经足够好了。正是因为它迎合了围绕着她的既存主题，大多数人会相信这是真的。”
Weissman的组织一直倡导国会、联邦机构和各州对生成式人工智能进行监管，他说这段视频是“我们一直在警告的那种事情”。
美国和其他地方的其他生成式人工智能深度造假也试图通过错误信息、幽默或两者兼而有之来影响选民。在2023年的斯洛伐克，伪造的音频片段冒充了一名候选人，在投票前几天讨论了操纵选举和提高啤酒价格的计划。2022年，在路易斯安那州，一个政治行动委员会的讽刺广告将路易斯安那州市长候选人的脸叠加在一个演员身上，把他描绘成一个成绩不佳的高中生。
国会尚未通过有关人工智能在政治中的立法，联邦机构也只采取了有限的措施，将美国现有的大部分监管留给了各州。根据全国州立法机构会议的数据，超过三分之一的州已经制定了自己的法律，规范在竞选和选举中使用人工智能。
除了X之外，其他社交媒体公司也制定了有关在其平台上共享的合成和操纵媒体的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了生成式人工智能来制作视频或被罚脸。
本文来自作者[访客]投稿，不代表enkno号立场，如若转载，请注明出处：https://m.enkno.cn/keji/202508-7125.html
评论列表（4条）
我是enkno号的签约作者“访客”！
希望本篇文章《伊隆·马斯克发布恶搞广告模仿卡玛拉·哈里斯声音，引发公众对人工智能在政治应用的担忧》能对你有所帮助！
本站[enkno号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：纽约(美联社)——一段使用人工智能语音克隆工具模仿副总统卡玛拉·哈里斯(Kamala Harris)说出她没有说过的话的视频引起了人们的担忧，人们担心人工智能...