中青报·中青网记者 王梓

在许多国家，计算机工程师和关注技术发展的政治人士多年来一直警告称，成本低廉、获取门槛低、功能日渐强大的人工智能（AI）工具，很快就能制造出以假乱真的图像、视频和音频。在人的操纵下，AI可能欺骗选民，进而影响选举。

(资料图片仅供参考)

似乎就在不久前，合成的虚假图像还多半是粗糙、难以令人信服的，社交媒体上传播的虚假信息总是很快就被“打假”。人们相信，AI带来的“深度伪造”至少几年后才会出现。

美联社报道称，如今，复杂的生成性AI工具能在几秒钟内“克隆”某人的声音和形象，制造出大量“假料”。只要绑定强大的社交媒体算法，AI就可以迅速锁定受众进行传播，以前所未见的规模和速度破坏选举。

“竞选的肮脏伎俩又要刷新下限了。”美联社写道。

美国将在2024年举行总统选举。多国媒体预测，这将成为美国第一场广泛使用AI工具的选举，民主党与共和党都会将AI技术用于宣传、筹款等活动。

以往需要竞选团队耗费大量时间准备的宣传材料，AI能在极短时间内完成。风头正劲的聊天机器人ChatGPT只需几秒钟，就能生成一份措辞华丽的演讲稿。

技术专家警告称，由于美国陷入政治极化，加上美国前总统特朗普输掉2020年大选后抨击选举被“操纵”，许多选民对政坛和主流媒体的信任度大打折扣。有人可能利用这一点，用AI技术制造混乱。

据美国《纽约时报》报道，美国新闻可信度评估与研究机构News Guard和为数码调查提供资源与培训的Shadow Dragon公司都在5月发布报告称，大量所谓的“新闻网站”和虚假用户利用AI工具在网上发布虚假内容，比如捏造新闻事件和名人死亡的消息。

News Guard联合创始人史蒂文·布里尔称，该机构发现，有125个网站的内容完全或大部分由AI工具编写，内容涵盖新闻、医疗资讯、生活类文章等。

Shadow Dragon的研究人员通过筛查AI工具容易产生的错误和预设回复来寻找虚假内容，结果发现，在主流网站、社交媒体平台甚至电商平台的评论区中，都存在虚假内容。一篇关于俄乌冲突的文章中直白地写着：“作为AI语言模型，我不能提供带有偏见或关于政治的内容。”

布里尔指出，民众很难知道自己看到的“新闻”是由谁提供的，这类虚假内容进一步降低了人们对新闻媒体的信任度。“新闻消费者对新闻来源的信任度越来越低，部分原因是，他们难以区分哪些消息可靠，哪些不可靠。”

据美国《今日美国》报和法新社报道，今年年初，一段“拜登与特朗普对喷”的假音频在社交媒体上火了。3月，各国社交媒体上疯传“特朗普被警察拖走、关进监狱”的合成照片。4月，拜登宣布将参加大选后，共和党全国委员会立刻发布了一条由AI生成的短视频，展示“有史以来最弱的总统”拜登连任后“美国大乱”的景象：非法移民冲破边界关卡，涌入美国；金融市场崩溃，华尔街陷入恐慌……

人们对这些“PS痕迹明显”的内容一笑而过，但在专家眼中，它们是给美国社会的一次预警。拜登2020年竞选团队的首席技术官丹·伍兹警告，美国需要为应对“大规模虚假信息运动”做好准备。

AI对选举的影响力令专家们不安：生成性AI工具能迅速产出竞选电邮、视频等宣传材料，冒充候选人、误导选民。“共和党全国委员会承认自己用了AI，但其他人……不会承认。”美国网络安全公司Forcepoint全球首席技术官佩特科·斯托扬诺夫说。

美联社设想了一些“AI陷阱”：用总统候选人的声音制作假音频，指示选民在错误的日期投票；冒充候选人承认“犯罪”，或发布种族主义言论；散布和新闻报道截图相似的图片……“如果（假的）埃隆·马斯克打电话给你，让你投票给某位候选人，怎么办？很多人会照办。”美国艾伦人工智能研究所创始人奥伦·埃齐奥尼对美联社说。

众议员伊维特·克拉克担心，AI工具可能被用来在大选期间煽动暴力。“我们必须跟上技术的发展，这很重要。我们必须设置一些‘护栏’。”她说，“只要一瞬间，AI就能欺骗人们。在忙碌的生活中，人们没有时间去检查每一条信息。被武器化的AI破坏力极强。”

5月30日，非营利组织人工智能安全中心发布了一封联名公开信，称“降低AI带来的灭绝风险应成为全球优先事项，与大流行病、核战争等风险同等对待”。信中只有简短的一句话，获得了来自多国的超过350名科技行业领袖与专家联署。

美国加州大学伯克利分校信息学院教授汉尼·法里德提醒人们，不要忽略另一种威胁：AI能轻易“制造”现实，也就能轻易否定现实：总统候选人被曝出了不当言论？不用慌，“甩锅”给音频造假就行。