美国中期选举结束，AI深度伪造的监管困境仍然待解

本文来自微信公众号： 数字经济发展评论 ，作者：数字经济发展评论导语美国中期选举已于日前落下帷幕。据估算，其间AI生成视频的投放耗资过亿美元。放眼全球，AI深度伪造正加速进入各国选战。

从AI化身替候选人发声，到涉及政界人物的合成视频，真假难辨的内容开始进入竞选传播，甚至可能影响选民判断。各国虽已着手制定监管规则，但如何界定深度伪造、平衡政治表达与防范虚假信息，仍是监管面临的核心难题。

战略与国际研究中心（CSIS）战略技术项目研究员A'ndre Gonawela与项目主管兼研究助理Kuhu Badgi通过梳理巴西、以色列、西班牙等国的监管实践，指出当前深度伪造监管面临定义模糊、表达边界难以划定、执法滞后三重困境。

与此同时，美国联邦层面缺乏专门立法，各州规则也不尽相同，反映出监管体系的分散与滞后。当AI生成内容不断突破传播边界，现有选举监管规则的局限也随之显现。原文标题：Deepfakes Are Dominating Global Elections,and Regulation Is Playing Catch-Up原文来源：美国战略与国际问题研究中心（CSIS）编译解读：数字经济发展评论一、深度伪造涌入全球选战巴西本轮大选于2026年10月25日投票结束，现任总统卢拉赢得史无前例的第四个任期。

不过，这场对决留下的最关键的启示与左右之争无关，而关乎一个国家能不能跟上技术的脚步。具体到这一次，考验的是政府能否判定某项技术造出来的东西究竟算不算“假”。前总统雅伊尔·博索纳罗正被软禁，连在社交媒体上公开发声都被禁止。

那么，在7月的政党大会上，他又是怎样当着大批支持者的面，为儿子弗拉维奥的竞选站台？靠的是一个AI化身。这段46秒的视频标注了AI来源，视频里“博索纳罗”一面痛斥自己遭软禁的处境，一面为儿子弗拉维奥“加冕”，指定他为政治接班人。

由卢拉的劳工党牵头的一个联盟将该视频告上法庭，弗拉维奥一方辩称已标注AI、并无不当；博索纳罗本人则通过代表否认曾授权制作。一个多月后，巴西最高选举法院（TSE）裁定，其深度伪造禁令在本案中不适用，理由是视频只在封闭的党内活动上播放，并未用于竞选广告。

同一份裁决还限缩了禁令的适用范围。巴西的经验对其他民主国家是一则警示。禁令写起来不难，可一旦碰上胜负重大的选举或重量级候选人，政治与司法上的审慎反而可能让规则的初衷落空。放眼全球，AI生成内容已是现代竞选中的常客，用途从戏谑模仿到对候选人的误导性描绘不一而足。

哥伦比亚5月总统选举中，几乎所有候选人都用上了AI视频，其中历史公约联盟的伊万·塞佩达就发布过一段动画冰箱“出镜”的视频，为政府上调最低工资造势。以色列10月下旬议会选举期间，AI生成内容大量涌现，估计每8条选举相关社媒帖中就有1条经过AI改动，其中不少直接出自该国最知名的几位政治人物，包括总理内塔尼亚胡、财政部长斯莫特里赫、国家安全部长本-格维尔和亚沙尔党领袖艾森科特。

西班牙11月29日大选前夕，人民党（PP）被指传播一段AI视频，伪造首相桑切斯的妻子等社工党人物“承认”有不当行为。美国11月3日中期选举前，据估算，超过220条使用AI生成内容的视频共花费约1.37亿美元，其中约七成没有标注AI。

值得留意的是，这些内容不只来自边缘或匿名账号，很多就出自拥有资金与竞选团队的政党与政治领袖。

二定义之争

：监管边界如何划定什么算深度伪造？早在2024年地方选举之前，巴西最高选举法院就回答过这个问题。当时发布的决议全面禁止竞选中的深度伪造，并要求对AI内容加注标识，定义相当宽泛：音视频中“经数字生成或篡改”“用于创造、替换或改变在世、已故或虚构人物形象与声音”的合成内容，一概禁止，即便事先取得授权或当事人同意也不例外。

这道禁令出台时有意从宽，今年却被收窄了。在博索纳罗案中，TSE以5比2裁定，把竞选中的深度伪造禁令收窄为两种属性同时成立的情形，即内容须具备“一定真实感或似真性”，且构成“选举宣传”。

院长卡西奥·努内斯·马克斯认为，仅凭后一个条件就足以了结此案，因为视频面向的是封闭大会上本党的党员，算不上“明确的拉票请求”，禁令因而并不适用。对这两个条件，法官们各有异议。法官里卡多·维拉斯·博阿斯·库埃瓦认为，这段视频其实有利于博索纳罗的竞选，把“宣传”当判断标准本身就不对；

另一位法官弗洛里亚诺·德阿泽维多·马克斯则认定它就是深度伪造，认为该定义本不必把“真实感”列为要件，主张按2024年规则从严认定。努内斯·马克斯则解释，正因为媒介形态变化太快，法院不得不重新界定什么是深度伪造。

此后，TSE又下令移除双方阵营的多条AI内容，包括博索纳罗的三段视频、劳工党议员林德伯格·法里亚斯发布的一段AI视频，以及总检察长办公室负责人分享的一段支持卢拉的视频。主张监管AI内容的人，或许一度欣赏巴西2024年规则那种“宽而严”的气魄，定义足够简单，凡是可能帮到或伤及候选人的“合成”肖像，统统在禁止之列。

可在2026年总统大选这场最重大的考验中，规则的广度反而被压缩。巴西如今的规则更精确，却也更难适用：法院只能一案一议，而且往往要等到内容已经传开之后才作判断，先认定它算不算“选举宣传”，再权衡围绕“真实感”相互冲突的几种解释。无论它在保护政治表达上有多少可取之处，经此一役，巴西规则的清晰度已明显打了折扣。

三表达与欺骗

：标签难解监管难题比“有没有用AI”更根本的问题是，AI是否被用来欺骗。巴西的深度伪造规则只覆盖竞选广告，而来自普通公民或匿名账号的大量AI内容则不在其列。卢拉和博索纳罗的支持者都发布过描绘候选人的AI内容，有的让候选人“跳舞”，有的则模仿逼真的新闻报道。

两类内容看似相近，效果却相去甚远。巴西另有法律把“明知故犯地传播虚假信息”定为违法，但围绕“故意”的认定漏洞和举证负担，让这些法律难以应付深度伪造的大规模扩散。相比之下，以色列的路径更为宽松。

从2026年7月起，以色列要求竞选中的AI生成或篡改内容必须加注标识，凡是所涉人物、地点、事件、文件或物品“看似确有实据、实则并非如此”的，都在标注之列。透明度固然提高了，却也带出一个问题：标签究竟要拦住什么？

批评者认为，这类要求过于宽泛，并没有对准要害，它要标注的不是欺骗性内容，而是所有合成内容。以色列的规则判断的是内容“能否被当成真的”，而不是制作者“是否意在欺骗”；于是，一段欺骗性内容只要标了签，就仍然合规。

退一步说，即便有了标注要求，披露能否抵消蓄意欺骗对选民的影响，也仍然存疑。标签常常难以察觉，很容易被忽略过去。7月，主管中央选举委员会的法官诺姆·索尔伯格命令财政部长斯莫特里赫撤下一段AI视频，画面中反对派领袖艾森科特与巴勒斯坦民族权力机构主席阿巴斯握手。

斯莫特里赫虽然披露了AI使用，但受Facebook页面的呈现方式所限，其受众很可能根本看不到那则免责说明。到了10月，同一位法官却拒绝移除斯莫特里赫发布的另一段AI视频（内容是警察拖走司法官员），他的说法是，这类内容该由“选民来评判，而不是选举法”。

西班牙也遇到同样的问题。2025年，西班牙政府通过一项法案，规定企业若不标注AI生成内容，最高可罚3800万美元。人民党（PP）一段贬损社工党人物的AI视频虽然带了标签，却小得几乎看不清。

但就是这样一枚微弱的标签，或许仍足以让发布方免于被描绘者的潜在诉讼。西班牙和以色列的这两个例子，都有可能误导选民，在很大程度上已构成“政治欺骗”。这就把一个更宽泛的问题摆上台面：界定“政治表达”与“政治欺骗”的自由裁量权，正握在监管者和法官手里。

一旦这种界定依赖主观解读，哪些政治信息可以流通、哪些被挡下，就都可能随之改变。结果是，一些欺骗性内容留在了网上，一些正当表达反倒被限制。这三种路径，都没能干净利落地划清自由表达与蓄意欺骗的界线。

巴西的禁令连同后来的细则只针对竞选，够不着大量AI内容；以色列同一位法官既删掉一条煽动性视频，又放过了另一条；西班牙一枚几乎看不见的标签，却可能为发布方提供法律保护。内容是否违规，最终要由法官一案一案地判断，而有时候法官又把判断权交还给选民。

这种做法体现了一种原则性的克制，即不愿由国家来决定哪些政治信息可以流通。但克制本身也有风险：当合成内容越来越难与真实内容区分，它就在放大隐患。

四执法困境

：法律追不上技术即便各国已经针对政治深度伪造立下限制，执行本身仍是一道难关。生成式AI降低了制作和传播合成内容的资金与技术门槛，深度伪造的扩散速度因此远远快过监管的应对。据估计，2023年至2025年间，网上的深度伪造从50万条增至800万条。

当局必须先认定内容违规，才能下令移除；而这一认定过程，往往要等到内容已经传开之后才走完。在选举前的最后几天乃至几周，这种延迟尤其成问题，AI内容可能在执法机制启动之前就触达大量受众。

西班牙人民党的那段视频就是例子：不到一天，它在各大社交平台上就获得超过200万次播放，而当时法律投诉还没有提起。以色列也一样，索尔伯格对斯莫特里赫那两段AI视频的裁决，都迟至视频首发数周之后才作出。

不管规则写得多周全，它的效力都不只取决于明文禁止了什么，更取决于它能否赶在选举日之前、在内容扩散之前落到实处。生成式AI正把“先传播、后追责”的时差不断拉大，这是所有想用法律追赶技术的监管者都绕不开的结构性困境。

五美国监管

：联邦缺位与州法分散站在美国选举治理的立场，CSIS梳理了上述短板。随着更多选举接踵而至，AI工具也越来越精密、越来越容易获取，深度伪造带来的挑战只会愈发紧迫。巴西、以色列、西班牙等国的尝试说明，有效的制度远不是“一禁了之”或“标注了事”那么简单。

监管者既要区分合法表达与欺骗内容，又得赶在内容误导选民之前及时处置。中期选举已于3日投票，两年后又是总统大选，可美国至今没有一部专门规制深度伪造的联邦法律。2024年，联邦选举委员会（FEC）决定不为选举中的AI内容另立规则，理由是现行的反欺诈条款已经够用。

2026年6月提出的《欺诈性人工智能规制（FAIR）选举法案》拟禁止在选举媒体中传播虚假的AI内容，但目前仍未成为法律。在联邦层面缺乏统一规制的情况下，如今的监管格局由一部部州法拼成：加州、马里兰、明尼苏达和得州都在选举日前的某段时间内禁止政治深度伪造，另有27个州则只要求披露。

但AI生成内容天生没有边界，无论出自哪个州都能跨州传播，这种各管一段的做法注定效率不高。巴西、以色列和西班牙的经验都指向同一个难点：规制AI政治内容，难处不只在于禁与不禁、标与不标，更在于判断哪些内容有从政治表达滑向欺骗的风险。