深度伪造民主：影响印度 2024 年大选人工智能诡计背后原因
去年 11 月 30 日清晨，选民们在立法选举中排队投票，选出印度南部特伦甘纳邦的下届政府时，一段 7 秒的视频开始在社交媒体上疯传。
当时在该邦的全国反对党国大党在 X 上发布的内容，其中显示了统治该邦的印度人民党领导人 KT Rama Rao，呼吁人们投票支持国大党。
据一位要求匿名的高级领导人透露，国会在该党“非正式运营”的一系列 WhatsApp 群组中广泛分享了这条信息, 它最终出现在该党的官方 X 账户上，浏览量超过 50 万次。
这是假的。
“当然，它是人工智能生成的，尽管它看起来完全真实，” 国大党领导人告诉半岛电视台说，“但普通选民无法区分；[视频发布时]投票已经开始，[反对派阵营]没有时间控制损失。”
这次恰逢其时的深度伪造是人工智能生成或操纵的媒体泛滥的一个标志，这些媒体破坏了近几个月印度各邦的一系列选举，现在正威胁着从根本上影响该国即将举行的大选。
3 月至 5 月期间，印度近 10 亿选民将在世界上、历史上规模最大的选举中选出下一届国家政府。当艺术家泰勒·斯威夫特 (Taylor Swift) 的虚假色情图片一月份出现在社交媒体平台上时，人工智能生成的欺骗性媒体所构成的威胁引起了全世界的关注。11 月，印度信息技术部长阿什维尼·维什瑙称深度伪造是“对民主的威胁”，总理纳伦德拉·莫迪也表达了这些担忧。
最近，近 40 个竞选活动的管理者告诉半岛电视台说，随着方便的人工智能工具的可用性不断增加，包括莫迪领导的印度人民党和国大党在内的印度各政党团队正在部署深度伪造来影响选民。 虽然用于生成深度伪造的几种人工智能工具是免费的，但其他工具可以通过订阅获得，每个视频只需 10 美分。
“创造感知”
印度人民党可以说是印度技术最先进的政党，一直处于利用幻想进行竞选的最前沿。早在2012年，该党就使用莫迪的3D全息投影，让他可以同时在数十个地方“竞选”。该战略在 2014 年莫迪上台大选期间得到了广泛部署。
其中几乎没有涉及欺骗，但 2020 年 2 月，印度人民党议员马诺吉·蒂瓦里(Manoj Tiwari) 成为世界上首批使用深度造假进行竞选活动的人之一。在首都立法议会选举之前，蒂瓦里在三段视频中用印地语、哈里扬维语和英语向德里选民发表讲话，吸引了这座多元文化城市的三种不同受众。只有印地语视频是真实的：另外两个是深度伪造的，其中人工智能被用来生成他的声音和言语，并改变他的表情和嘴唇运动，使其几乎不可能仅在观看时检测到它们不是真实的。
近几个月来，统治南部泰米尔纳德邦的德拉维达·穆内特拉·卡扎加姆(DMK) 使用人工智能复活了其标志性领导人卡鲁纳尼迪（M Karunanidhi），并使用了这位前电影作家和资深政治家在竞选活动中的逼真视频。
现在，顾问和竞选经理表示，2024 年的选举可能会进一步加剧深度伪造的使用。
国大党社交媒体全国协调员阿伦·雷迪 (Arun Reddy) ——他负责监督该党技术娴熟的泰兰加纳选举——表示，“政治就是创造认知，借助人工智能工具（语音和视频调制）和点击，您可以在一分钟内彻底改变感知。” 他补充说，该团队充满了将人工智能纳入竞选活动的想法，但他们没有足够的“训练有素的人员”来执行所有这些想法。
阿伦·雷迪正在加强他的团队——其他各方也是如此。
“人工智能将在创造叙事方面产生巨大的影响，”雷迪告诉半岛电视台说，“人工智能操纵的政治内容将成倍增加，比以往任何时候都多得多。”
“竞选活动变得越来越奇怪”
30 岁的迪维安德拉·辛格·贾杜恩来自印度西部的沙漠小镇普什卡 (Pushkar)，经营着一家人工智能初创公司 The Indian Deepfaker。 他的公司于 2020 年 10 月成立，克隆了拉贾斯坦邦国会首席部长候选人阿肖克·格洛特的声音，让他的团队在 11 月议会选举期间在 WhatsApp 上发送个性化消息，直呼每位选民的名字。印度深度伪造目前正在与锡金首席部长普雷姆·辛格·塔芒的团队合作，在即将到来的活动中制作全息图。锡金是印度东北部最小的邦之一，位于印度、不丹和中国之间的喜马拉雅山上。
他说，这才是干净、正式的工作。 但最近几个月，他被他所说的政治竞选活动的“不道德要求”所淹没。 贾杜恩在电话采访中告诉半岛电视台说，“政党通过 WhatsApp 上的国际号码、Instagram 上的 Burner 手柄或 Telegram 上的联系来间接联系。”
他说，在 11 月份的选举中，他的公司拒绝了 50 多项此类请求，其中潜在客户希望修改视频和音频以针对政治对手，包括色情内容。贾杜恩表示，作为一家初创公司，他的公司特别小心，以避免出现任何法律麻烦。“这是对人工智能的一种非常不道德的使用，”他补充道，“但我知道很多人都以非常低的价格做这件事，而且现在很容易买到。”
去年 11 月，在印度中部中央邦和西部拉贾斯坦邦的州议会选举期间，警方登记了多起针对高级政治人物的深度伪造视频案件，其中包括莫迪、希夫拉吉·辛格·乔汉、凯拉什·维贾瓦吉亚（均为印度人民党）和卡迈勒·纳斯（国大党）。 深度伪造内容的制作通常外包给私人咨询公司，这些公司依靠以 WhatsApp 为首的社交媒体网络进行分发。
一位要求匿名的政治顾问告诉半岛电视台，许多没有公开资料的普通公民在 WhatsApp 上注册并用于竞选活动，使任何人都更难直接追踪到政党、候选人、顾问和人工智能公司。
这位顾问去年在印度人民党和国大党的议会选举中进行了六次竞选活动。“在拉贾斯坦邦，我们使用建筑工人的电话号码在 WhatsApp 上运行我们的网络，”他们说，“深度伪造内容主要在 WhatsApp 上传播。”
与此同时，人工智能操纵的音频在较小的选区中是特别有价值的工具，“针对那些伪造通话录音的候选人，这些通话录音涉及为选举安排‘黑钱’或威胁某人购买选票，” 这位顾问说，他自己的候选人就成为了此类录音的目标。 这些录音通常会掩盖候选人的声音，以将其视为腐败的证据。
他们补充说：“任何政党都不认为通过人工智能操纵选民是一种罪过。”并补充说，“这只是竞选策略的一部分。”
印度拥有 7.6 亿互联网用户，占总人口的 50% 以上，仅次于中国。
在所有请求中，来自拉贾斯坦邦南部一个选区的一项请求引起了贾杜恩的注意。在 11 月的州选举之前，来电者要求贾杜恩修改一段有问题但真实的候选人视频（他没有透露其政党），以制作逼真的深度伪造视频，目的：声称原件是深度伪造品，而深度伪造品是原件。
“反对派有一段关于他们候选人的令人不安的视频，他们希望在社交媒体上更快地传播它，声称这是一个深度伪造的视频，”他说，突然爆发出尴尬的笑声，“政治运动变得越来越奇怪。”
对选举公正性的威胁
果阿数字未来实验室的政策研究员安努什卡·贾恩表示，印度法律目前没有明确定义“深度伪造”，警方一直在利用反诽谤、假新闻或侵犯个人尊严的法律，结合《信息技术法》，试图解决个别案件，但通常情况下，他们会玩打地鼠游戏。
她说，“警方之所以起诉是因为深度伪造的影响，而不是因为它本身就是深度伪造。”
分析人士表示，印度选举委员会（ECI）是一个进行投票的自治机构，需要跟上政治竞选性质的变化。
去年特伦甘纳邦选举投票前几天，执政的巴拉特·拉什特拉·萨米蒂党领导人多次在社交媒体上警告其追随者，对国大党部署的深度造假保持警惕，他们还呼吁 ECI 反对国会在投票当天早上分享的深度伪造视频。
但两名了解该问题的国会领导人告诉半岛电视台说，该视频仍在网上，该党从未收到 ECI 的通知。
半岛电视台已向 ECI 寻求评论，但尚未收到回复。
印度前首席选举专员SY·库莱什表示：“即使一个人被误导相信某件事并改变了他的想法，这也会损害选举过程的纯洁性，”并补充说，“深度伪造让民意调查期间散布谣言的问题变得更加严重一千倍。”
库莱什表示，深度伪造需要实时调整，以尽量减少它们对印度民主造成的损害。
“ECI 需要在损害造成之前采取行动，”他并表示，“他们需要更加迅速。”
“真理遥不可及”
印度政府一直在敦促谷歌和 Meta 等大型科技公司积极努力控制其平台上的深度伪造行为。 IT 部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 会见了这些公司的官员，作为讨论深度伪造威胁的一部分。
通过要求科技行业带头，政府避免了任何批评，即政府试图选择性地审查选择性深度伪造，或者试图更广泛地打击新兴人工智能技术。
但总部位于新德里的领先科技政策智囊团印度互联网自由基金会执行董事普拉泰克·瓦格尔 (Prateek Waghre) 表示，通过将责任转嫁给私营公司，政府对其监管操纵内容的意图的诚意提出了质疑，并补充说，“这几乎是一厢情愿的想法。”
瓦格尔认为科技公司无法解决内容审核方面的现有问题，他表示，“人工智能的兴起”加剧了挑战，他表示，目前的内容审核方法忽略了问题的真正核心。
“你没有解决问题，”他并表示，“[算法]的设计是有缺陷的。”
2月16日，各大科技公司在慕尼黑安全会议上签署协议，自愿采取“合理预防措施”，防止人工智能工具被用来扰乱世界各地的民主选举。但这份措辞含糊的协议让许多支持者和批评者感到失望。
YouTube 宣布，人们将能够使用其隐私请求流程请求删除人工智能生成或更改的模拟可识别个人的内容，包括他们的面部或声音。
南加州大学马歇尔商学院尼利道德领导力和决策中心董事总经理拉维·艾耶 (Ravi Iyer) 表示，“我对该平台检测深度伪造的能力不是很乐观。”并补充说，“由于数字素养较低，视频消费量不断增加，这对印度选举的公正性构成了严重风险。”
艾耶表示，识别所有人工智能操纵的媒体并不是一项合理的任务，因此，公司需要重新设计不会宣扬两极分化内容的算法。“公司是拥有资金和资源的人，他们需要采取合理的措施来应对深度伪造的兴起。”
互联网自由基金会发表了一封公开信，敦促选举候选人和政党在全国选举前自愿避免使用深度伪造技术。瓦格尔并不确定很多人会咬人，但他说值得一试。
与此同时，政治运动正在增强他们的人工智能武器库——一些人，比如国会社交媒体国家协调员雷迪，承认未来看起来很黑暗。
“大多数使用人工智能的人都是为了歪曲事实。他们想要创造一种不基于事实的看法，”雷迪表示，“将社交媒体在印度的渗透与人工智能的兴起结合起来，现在的选举中人们将无法了解真相。”