美国媒体透露，上个星期，许多人被美国总统拜登用一种新的人工智能技术对其进行“深度伪造”，这个“拜登通话”很快在美国各大新闻机构中引起热议，并再次引起美国民众对 AI “深度伪造”是否会对选举产生重大影响的议论。

模仿拜登的声音记录：为十一月投票保留投票是非常有必要的。星期二（23）的选举结果只能便宜了民主党，把特朗普推上了民主党的宝座。

以下是上星期在新罕布什尔州进行的美国总统选举中，一些人收到的电话是这么说的。白宫发言人卡里娜·让•皮埃尔22日确认，此次通话纯属虚构，并非奥巴马本人录音。

据美国媒体报导，美国一家名叫11- Labs的 AI创业公司临时封停了一位使用者的账号。美国声音诈骗侦测公司“静默”表示，该公司通过其研究结果显示，该公司的技术曾被用来伪造拜登的声音通话记录。11 1 0 1实验室发表的一项声明说，它会认真处理 AI科技的问题，但是对于最近引起人们注意的“虚假的 Biden通话”一事，没有发表评论。

新罕布什尔州首席检察官称，他们将对此事进行调查，并号召投票人不要理会此类虚假新闻。

OPEN AI冻结了竞选模拟程序的总统候选人帐户

实际上，美国的总统大选中， AI一直在渗透。

前不久，硅谷技术开发商制造出一种模拟“聊天”的机器人，供民主党竞选人迪恩·菲利普斯使用，该机器人可以让使用者和那些模拟菲利普斯的智能设备进行交谈。美国 AI公司 OpenAI于这个月20号宣布，它将关闭其开发账号，并声称此举违背了其在选举中使用 AI科技的禁令。

“深度伪造”冒充选举人来蒙骗投票者

早些时候，由 AI产生的错误消息就已经在美国的政坛上引起了不小的波澜。

今年二月，芝加哥的市长大选首次投票之前，一份有关保罗·瓦拉斯的录像被上传到了社会媒体上，他用假瓦拉斯的嗓音发布声明，宣称“警方可以轻易地向嫌犯开枪”，并且要求减少警力投入。

模拟瓦拉斯的声音记录：但是，人类并没有意识到这一点。

瓦拉斯在对社会网络发布了一份抱怨后，这则录像被移除了，但是在被下架之前，它的点击量还是达到了几千。

AI催生“深度伪造”立法进展缓慢引发忧虑

目前，随着人工智能技术的发展，各行各业都在发生着巨大的变化和革新，但也出现了许多问题。在这一过程中，以人工智能为基础的“深度伪造”问题备受人们的重视。所谓“深度伪造”，就是通过数码手段改变某人的语音或者图片，目的就是要对其进行破坏。如今，此类行径已不仅仅局限于美国政坛，而是美国娱乐界甚至是民众日常生活的各个层面，引起了美国公众的忧虑与批判。

美国的微软和 NBC电视台在报告中质疑，是否2024年会成为“深度伪造”选举之年？

模仿拜登的声音记录：为十一月投票保留投票是非常有必要的。

克里斯·克雷布斯，美国的一位网路安全问题：产生这样的东西实在太简单了，我们称之为20秒钟法则。这种东西，仅仅是一个人的声音波纹，仅仅是20秒钟。我想法律的执行， FBI和总检察长的工作都会有一定的困难。很遗憾，这仅仅是大选期间我们所见到的冰山一角。

罗伯特·韦斯曼，一个美国的管理机构，维护公共权益的领导，对“深度伪造”的政治时代的来临提出了批判，要求决策者们要么迅速做出应对，要么在大选中陷入一片混乱。“深度伪造”将埋下一颗混沌之源，并助长了这一骗局的延续。

美国流行歌星泰勒·斯威夫特日前也沦为“深度伪造”的牺牲品，其合成的色情照片在美国各大社交网站上疯传，引起了人们对 AI是否已被误用的问题的广泛关注。

记者：那么，对于这样一项科技被滥用，美国政府会如何关注呢？

卡里娜·让皮埃尔：尽管社会传媒企业拥有自主的权利来进行内容的经营。但是，我们相信，他们应该在执行他们的管理体系，阻止不恰当的资料和不公开的图片的发布方面扮演着一个关键的角色。不幸的是，我们都清楚，对女性和女童来说，执法力度更大。

随着人工智能技术的迅猛发展，美国在这方面的法规与法律的出台相对滞后。业界人士认为，科技发展这把“双刃”，单凭企业的自我约束，是很难驾驭的，而对“AI”的泛滥，更有必要对其进行规范。

美国消费科技联盟（Consumer Technology Association）总裁夏皮罗：通过保证建立起安全围栏，让制造业者明白什么是可以做的，什么是不可以的，在 AI方面应该起到一个关键的作用。

美国总统拜登于2023年十月签署了一项行政命令，规定美国的 AI研究机构必须将自己的检测报告和其他重要信息共享给政府，并改进相关标准和检测手段，但是这份法令并不具备可实施性。

德里克·赖利，密尔沃基理工大学的电脑科学计划主管：“我们的国家没有足够的速度来应对这些改变。”因此，我想我们不大会见到一个有效的管制。