作者：佩萨赫·本森、奥默·诺沃塞尔斯基 • 2026年10月21日
耶路撒冷，2026年10月21日（TPS-IL）——在下一届大选前夕，以色列中央选举委员会被推上了一个非同寻常的角色：仲裁涉及人工智能、政治宣传以及能让从未发生过的事情看起来格外真实的捏造内容等方面的争议。
在10月27日选举前，该委员会推出了针对人工智能生成的选举宣传内容的标注要求，同时其主席、最高法院大法官诺姆·索尔伯格已下令删除被认定具有误导性的视频。但专家向以色列新闻社（The Press Service of Israel）表示，执法存在局限性，由于虚假内容和有组织的线上操弄活动使得区分真实政治信息与蓄意操控变得更加复杂，其他民主国家也面临类似挑战。
“问题不在于使用该项技术本身，而在于试图隐瞒技术的使用，”中央选举委员会副法律顾问阿维亚德·尼梅科夫斯基告诉TPS-IL。他称政治劝诱是民主的基石，但表示当竞选活动企图误导受众时，问题就随之而来了。
以色列出台了一项临时法律修正案，要求利用人工智能制作的选举宣传内容必须附带明确标签，标明其为人工智能生成。该委员会还成立了一个专门小组来研究人工智能和其他形式的潜在非法政治影响，同时与包括元宇宙（Facebook）、微软和谷歌在内的社交媒体公司保持沟通。
“我们是世界上最早实施此类措施的机构之一，”尼梅科夫斯基说，并补充称其实际效果将随着时间的推移接受评估。
当任何人都可以伪造内容
该委员会可以在数分钟或数小时内发出禁令，但删除一段视频并不能阻止其在别处被重新发布。尼梅科夫斯基表示，该委员会收到了大约250起诉求，大部分涉及来自各个政治派别的选举宣传。
此类材料制作门槛低，进一步加剧了这一挑战。总部位于贝内贝拉克的社交媒体监测和舆情分析公司Scooper的首席执行官兼联合创始人乔纳森·哈西迪姆表示，人工智能大幅减少了制作政治视频所需的资源。
“如今，你不再需要摄制组、演员、特定场地或大笔制作预算来制作一段令人信服的政治视频，”哈西迪姆告诉TPS-IL。“所需要的只是一点创意、一台电脑和几分钟的工作。”
竞选活动可以描绘对手与不受欢迎的人物会面或建立具破坏性的同盟，即使此类事件从未发生过。有些视频明显是虚构的；有些则与真实镜头极度相似。
巴伊兰大学传播学院高级讲师阿亚·亚德林表示，即使是明显虚构的视频，通过将政治对手置于贬损或威胁性的场景中，也能影响公众认知。
“在公然虚构的一端，已有政党发布了《侠盗猎车手》（GTA）风格的恶搞视频，将对手描绘为电子游戏角色，”亚德林告诉TPS-IL。“此类内容的主要风险不在于欺骗，而在于对手被去人性化。”
更逼真的捏造内容则带来了不同的难题：受众可能会将虚构的事件或关系误认为事实。7月，索尔伯格责令财政部长、宗教犹太复国主义者党领袖贝扎莱尔·斯莫特里奇删除一段视频，该视频描绘了雅沙尔党（Yashar!）领袖加迪·埃森科特与巴勒斯坦领导人马哈茂德·阿巴斯握手的场景。
“视频中的片段展现了一个并未发生但看似真实的事件。它显示了埃森科特与阿巴斯之间并不存在的政治关联，因此可能在此事上产生误导，”索尔伯格裁定道。
人工智能标签的局限性
亚德林表示，问题不仅限于人工智能生成的内容。她指出了“虚假播客”（fauxcasts），即伪装成新闻播客的竞选视频，配有演播室和麦克风，但并没有实际的采访。
“虚假播客的谎言不在于其言辞，而在于其场景布置，它利用了受众对播客形式建立的信任，”她说。
以色列的《选举法（宣传手段）》可追溯至1959年，远早于社交媒体和生成式人工智能的出现。尽管人工智能生成的竞选内容目前必须贴上标签，但亚德林指出，类似的要求并未涵盖所有模仿新闻业的误导性形式。
标签本身是一种不完美的保障手段。视频可能在被剪裁或重新发布后丢失原本的免责声明。
“标签有帮助，但不如人们预期的那么大，”亚德林告诉TPS-IL。“在美国进行的实验中，经测试的人工智能标签降低了人们对虚假内容中所提主张的信任度，但仅标明内容由人工智能生成的标签，对于人们参与该帖互动的意愿几乎没有影响。我们必须明白，仅仅贴上‘AI’标签并不等同于强制贴上‘虚假’标签。”
哈西迪姆呼吁采取结合立法、监测、执法和公众教育在内的更广泛应对措施。他还警告说，随着技术的进步，没有任何检测系统能够可靠地识别出每一个由人工智能生成的图像、视频或声音。
“要求将内容标记为‘AI生成’，无异于试图用简单的止痛药来医治绝症患者，”他说。“在任何人都可以轻松创建基于人工智能的内容的时代，仅适用于政界人士的监管是远远不够的。”
哈西迪姆强调，因此，当局不仅应审查内容是否看似人工生成，还应审查是谁在传播、其传播速度有多快，以及各账号之间是否存在协同行动。
从深度伪造到协同操弄
以色列的经历折射出民主国家面临的更广泛挑战，尽管所采用的手段各异。在美国，2024年的一通自动拨号电话使用了模拟总统乔·拜登声音的人工智能生成音频，敦促新罕布什尔州选民不要参加民主党总统初选。在斯洛伐克，2023年议会选举前仅两天流传的一段捏造录音，看似显示一名候选人正与一名记者讨论操纵选举。
罗马尼亚2024年的总统选举突显了一个相关问题：即使内容本身并非伪造，有组织的线上活动也可以放大政治讯息。亚德林引用了一个由大约25,000个同步账号组成的网络，该网络帮助一名鲜为人知的候选人在TikTok上声名鹊起，这表明看似独立的线上活动是如何被大规模精心策划的。
其共同点不仅在于伪造视频的制作。廉价的生成式人工智能可以提供令人信服的内容，而账号网络和网红则将其放大，使有组织的政治宣传看起来像是自发的民意。
亚德林表示，当局应重点关注可识别的行动主体，要求官方竞选团队从源头公开其材料并承担责任。社交媒体公司可以在分享环节引入额外审核，并为选举相关内容设立专门团队。
在谈到中央选举委员会的角色时，她说：“结构性问题在于时间差。等到裁决出炉时，浏览量已经累积起来了。”
风险并不仅限于捏造的材料。哈西迪姆警告称，政客们可以借人工智能为托词，将真实证据斥为捏造，这种现象被称为“说谎者的红利”。
亚德林表示，由此导致的信任侵蚀可能比单方面的谎言危害更大。“民主依赖于共同的事实基础，”她说。“选民只有在能够就实际发生的事情达成共识时，才能对领导人进行追责。”
尼梅科夫斯基表示，以色列规范人工智能生成选举宣传的努力可为其他国家提供借鉴。该委员会研究了国际案例，开展了公众意识宣传活动，并在执法方面咨询了技术平台。
但专家表示，面临的挑战在于如何在遏制欺诈行为的同时，既不将人工智能本身视为非法，也不认定看似可疑的材料就一定是虚假的。
“其后果是公众什么都不信，而不是公众轻信谎言，”亚德林说。“面对这样的公众，更容易使其失去行动力，也更难以向其传达真实信息。”