拜登电话留言呼吁选民勿投票？破坏大选新武器

美国新罕布什尔州（New Hampshire）1月23日举行全国首场总统大选的初选，拉开选战帷幕，然而就在这场初选的几天前，该州数千名选民接到的一通竞选广告电话却惊扰了选民、竞选团队和专家。事件再次唤起人工智能“深伪”（Deepfake）技术在美国大选中的潜在影响…..

“你知道投票给民主党人的重要性......我们需要你来帮助让选票上的每一个民主党人当选。”电话中的声音酷似民主党总统候选人、现任总统拜登（Joe Biden），他呼吁民主党选民不要在即将举行的初选中投票：“周二的选举只会帮助共和党让特朗普再次当选。让你的选票在11月发挥作用，而不是这周二。”一如普通的电话竞选广告，语音最后还提醒：“如果你以后不想再接到电话，请按2。”

但这并非平常的竞选广告。虽然语音一开头就使用了拜登标志性的口头禅“真是一派胡言（What a bunch of malarkey）”，试图增强说服力，但人们后来发现这是通过语音深伪技术人工合成的语音。

所幸，由于民主党今年一改传统，将党内首场初选改到南卡罗来纳州（South Carolina）进行，而共和党维持新罕布殊尔州的初选安排，这则AI广告并没有造成实质性的影响，但事件仍然在美国敲响警钟。

随着近年用深伪技术合成的逼真政治人物视频在网络上疯传，加上前年ChatGPT横空出世，新AI技术的出现一次次引发干扰民主选举的讨论。眼下，许多专家正发出警告称，语音深伪可能才是真正的威胁——这些语音易于合成，制作成本低廉，而且特别难以追踪。

幕后黑手：为警示公众策划

假拜登语音出现的两周后，新罕布什尔州检察长宣布查明语音源头为两家德州公司，电话营销公司Life Coporation以及Lingo Telecom，后者将自动电话录音传播给数千名选民（当中大多数为民主党选民），两家公司均被下令停止选民压制活动。此外，美国联邦通信委员会（FCC）同一周宣布，在自动电话系统中使用人工智能生成语音属于违法行为。FCC有权对在这类电话中使用人工智能声音的公司处以高达逾23,000美元（每通电话）的罚款，或封杀提供人工智能声音的公司。

此前，曾有两位保守派骗徒用自动拨号电话（非AI合成语音）在非裔美国人聚居区制造假消息，称邮寄投票可能会增加他们被逮捕、追讨债务和强制接种疫苗的风险，最终被处以500万美元（约3,900万港元）罚款。

然而，直到2月底一名资深政治顾问Steve Kramer向媒体认罪，人们才找到案件的幕后黑手。Kramer表示，他花了150美元请了一位街头魔术师帮助用人工智能程式制作拜登的深伪语音，目的是为了提醒美国公众人工智能的政治风险。他认为当局在该问题上行动力十分落后，有必要加大执法力度，阻止这类事情发生：“即使是单独行动的个人，也可以快速、轻松地利用人工智能达到误导和破坏的目的。”

Kramer表示自己无意破坏选举、压制选民，他从策划行动时便计划在事后公开认罪。由于拜登在该州拥有很大优势，他认为仅数千个电话不会对结果产生影响。

街头魔术师花1美元、20分钟假冒拜登

事实上，Kramer策划的这出戏确实证明了他的观点。根据安全公司Pindrop对假拜登语音的分析，这段语音是通过美国人工智能语音公司ElevenLabs开发的产品生成。帮助Kramer生成语音的魔术师Paul Carpenter则对媒体透露，他只花了1美元、用了20分钟就按照Kramer提供的文稿，复制出拜登的声音。

过去一年间，人工智能的文本转语音工具市场呈现爆炸式增长。除了ElevanLabs，Resemble AI、Respeecher和Replica Studios等初创企业均推出了廉价且有效的工具，Voice AI公司更提供免费的应用程式供用户复制名人声音。而微软去年宣布开发出的新模型VALL-E，更只需三秒钟的录音就能成功复制出声音。这些面向大众的产品普及，让深伪技术不再是专业人士或技术迷的专利。

比深伪视频更难辨别

有专家警告，这些深伪语音要比视频更难辨别。Meta前公共政策总监Katie Harbath解释称，使用深伪技术的视频中往往会有些观众容易察觉的蛛丝马迹，如片段中出现的奇怪的阴影、模糊或不自然的动作等，但深伪语音则令人难以发现问题。事实上，在假拜登语音中，Pindrop分析发现的迹象则只有字母“s”及“f”的读音较为不自然。此外，制作者更可以通过添加背景音乐、噪音等来掩盖语音中的瑕疵。

尽管联邦通信委员会在事件后果断将这类行动纳入违法范畴，但由于虚假电话语音难以追踪，追查幕后黑手可能十分困难。波士顿大学新闻学和新兴媒体助理教授Joan Donovan指，在网络上传播的语音会留下数码痕迹，但电话传播却不会。而这次事件也是因两位始作俑者向媒体认罪才得以真相大白，并非执法机构追查结果。网络安全公司ZeroFox副总裁AJ Nash曾对美媒表示，电话深伪让人得以“用非常低廉的成本发起一场声势浩大的假信息运动”。

随着美国大选拉开帷幕，许多专家警告美国社会、政府对于这类身伪技术毫无准备，一旦不怀好意的人利用这些技术和选民登记数据库采取针对性的行动，他们就如同拥有强大的武器，即使是最先进的选举系统也无力应对。究竟语音深伪会否为今届大选造成什么影响，我们或许可以拭目以待。