大选遇上AI，新兴民主国家或许能给美国一些启发

专家预警，2024年将成为全球范围内前所未有的选举虚假信息泛滥年。特别是由于生成式人工智能的爆炸性发展，令人无法辨别的深度造假使得虚假信息难以辨别。

今年1月，就在美国新罕布什尔州美国总统初选前几天，有数千人都接到了一个电话。

电话那头是美国现任总统乔·拜登(Joe Biden)的声音，他已经几乎肯定将获得民主党的提名，代表该党角逐2024年美国总统大选。

“你们必须将自己选票留到11月的总统大选。周二去投票只会增加特朗普胜算的几率，”拜登在电话里说。

很多人对这个消息信以为真。但其实，这并不是真的拜登，而是有人使用人工智能模仿了他的声音。

2024年1月19日，乔·拜登总统在华盛顿东厅发表讲话。新罕布什尔州总检察长办公室表示，正在调查有关人工智能骚扰电话的报道。该电话使用人工智能模仿拜登的声音，并阻止该州选民参加1月23日星期二的初选。

这是美国今年首例使用人工智能直接干扰大选的案件。而随着11月总统大选的临近，专家说，这样的案例只会越来越多。

2024年，全球有50多个国家和地区将举行大规模选举，选民人数占全球人口的一半以上。

研究人员预警，2024年将成为全球范围内前所未有的选举虚假信息泛滥年。特别是由于生成式人工智能的爆炸性发展，令人无法辨别的深度造假使得虚假信息难以辨别。

“简而言之，生成式人工智能能够放大现有的错误和虚假信息叙事，这些信息可能会影响今年世界各地的选举，尤其是那些被外国重大影响力活动盯上的选举，”非政府组织民主科技中心(Center for Democracy and Technology)高级政策分析员蒂姆·哈珀(Tim Harper)对美国之音说。

中国将进一步干预选举

今年3月，美国国家情报总监办公室发表年度报告中指出，俄罗斯和中国都可能干预2024年的美国大选，特别是使用生成式人工智能来扩大美国社会的分歧议题。

报告指出，俄罗斯使用信息战的目的是分裂西方联盟，削弱美国梦的愿景，加深美国社会的撕裂。中国此前的信息战聚焦于对华强硬的鹰派政治人物，而现在的行为也越来越像俄罗斯靠拢。

“北京积极利用美国社会分歧，这使其更接近莫斯科的影响力行动手册，”报告说，预计中国“可能试图在某种程度上影响2024年的美国大选，因为它希望排挤对中国的批评，并扩大美国的社会分歧。”

美国智库兰德公司亚洲安全议题政策研究员莫小龙(Nathan Beauchamp-Mustafaga)对美国之音说：“生成式人工智能有可能为恶意行为者在社交媒体上传播虚假信息带来革命性的变革。”

使用人工智能制作视频非常容易。以人工智能工具Synthesia为例，这个软件里面有85个形象，130种语言和口音。使用者不需要任何额外知识，就可以随意选择想要使用人的年龄、性别、岁数、种族、语音语调，几分钟内就能制造出想要的视频。Synthesia的月费最低只要30美元，制作AI视频“就像制作幻灯片一样简单，”Synthesia在网站上写道。

而这份简单在给人们提供便利的同时，也给恶意行为者提供了放大虚假信息的空间。

2023年9月，微软发布报告，指出中国进行了一项长达六个月的影响力运动，视频的主题是美国社会的分歧议题，使用人工智能生成图像，并随着时间推移不断改进图像。“我们观察到与中国有关联的行为体在广泛的活动中利用人工智能生成的视觉内容，这些活动主要关注枪支暴力等政治分歧话题，并诋毁美国政治人物和象征，”微软在报告中说。

微软的报告中举例说，这个人工智能生成图像很可能是由的中国影响力行动发布的。

2023年12月，澳大利亚战略政策研究所(Australian Strategic Policy Institute)披露了一个由至少30个频道组成的网络，利用AI制作的英语视频推广亲中反美的立场。这些帐号于2022年中期开始发布内容，并吸引了将近1.2亿次的观看。

这两份报告同时指出，利用生成式智能推广的宣传影片比起人工制作的视频拥有更好的观众互动率与关注度。莫小龙指出，这说明生成式人工智能补充了中国大外宣的一大不足。

“比如中国军方，他们知道他们在外宣上的不足是源于外语能力薄弱以及跨文化理解不透彻，”他说，“生成式人工智能为中国和其他恶意行为者提供了潜力，不仅可以更轻松地弥合语言鸿沟，还可以解决跨文化理解的挑战。”

在传播内容方面，新泽西州拉玛珀学院(Ramapo College)政治学教授陈鼎(Dean Chen)对美国之音说，过去几年美国社会的分歧不断扩大，也给了中国和其他威权政府攻击中国一个很好的说辞。

他说，今年选民们很可能将再次需要特朗普和拜登之间做出选择，而两党的政治语言也变得更为极端。在移民，通胀，持枪权等问题上，不同阵营的论调针锋相对。

“对于像中国、俄罗斯和伊朗这样的政权来说，这样的分歧简直就是绝好机会：他们能够将民主制度描绘的混乱不堪，以此来说西方批评我们的人权问题是错误的，”陈鼎补充道。

民主科技中心的哈珀说，这些论调都是此前的选举中已经存在的论调。生成式人工智能只是放大了已有的论调，但是其内容和主旨还没有变化。

“我的担忧是我们还不知道一些影响力运动将发生怎样的转变，现在还为时过早。就像我们在之前的选举中看到的那样，实时跟踪这些事情非常困难，”他说。

“我们可能要到明年才能弄清其中一些外国影响力活动的真实影响，”他补充说。

新式民主的榜样

拉玛珀学院的陈鼎指出，台湾在今年大选中抵御虚假信息的方式或许可以给美国选民提供一个好的参考。

台湾在今年1月13日举行了总统大选。选举前后的一段时间，台湾都受到了信息战的猛攻。中国不希望民进党候选人再次当选，所以在选举前使用AI虚假人散布对台湾现任总统蔡英文的不实言论，以及使用AI针对候任总统赖清德进行攻击。