Instagram 在印度大选前夕发布违反规则的莫迪人工智能图像

3 月初，由人工智能生成的印度总理纳伦德拉·莫迪的真实形象，被设计为古代印度教史诗《摩诃婆罗多》中的比什玛·皮塔玛 (Bhishma Pitamah)，在 Instagram 上被宣传为政治广告。

这张照片描绘了莫迪粉丝眼中的他在当今世界的形象：一头长长的灰色卷发，额头上有一个太阳形标记，身穿防弹衣，对抗外国威胁的最高统帅比什玛的转世。

这张 Instagram 图片——由右翼页面 Hokage Modi Sama 创建，并于 2023 年首次发布——3月份作为政治广告进行了两天的宣传，获得了超过35000次展示。

半岛电视台对过去三个月印度政治广告the Meta Ad Library数据的审查显示，2 月 27 日至 3 月 21 日期间，Hokage Modi Sama 宣传了近 50 张人工智能生成的莫迪图像，使其成为 Instagram 上人工智能生成莫迪图像的领先广告商。

the Meta Ad Library是一个公共档案库，其中包含在其平台（包括 Instagram 和 Facebook）上运行的政治广告集合。

该档案库分享的所有图像的共同主题是对莫迪作为印度教领袖的评价。通过火影莫迪萨玛 (Hokage Modi Sama) 上的赞助帖子，流行的人工智能图像将莫迪描绘成比什玛的转世，他是一位穿着西装的上帝之子，拥抱印度教传统，印度教 Rashtra 之王登上了王位，获得了数百万的点赞和观看。（印度教总统制度是印度教多数人统治的有争议的意识形态，背离了其世俗的基本原则。）

牛津大学研究政治传播的讲师阿莫格·达尔·夏尔马告诉半岛电视台说，“通过这些图像，我们试图向莫迪同时传递圣贤和战士的品质，这两者都创造了一位政治领袖的光环，他不知疲倦、不可战胜、无可非议，因此值得我们毫无疑问的忠诚 。”

但最多产的莫迪人工智能图像在线广告商的帖子也显示了在社交媒体上执行人工智能相关规则的挑战，因为担心被操纵的图像被用来在选民中进行宣传，他们可能不完全理解照片和模因可能经历的改变程度。

Meta 意识到了这种使用情况，在关键的 2024 年选举年之前，它宣布从 1 月份开始，Instagram 和 Facebook 上使用人工智能 (AI) 创建的政治广告必须披露其用途，否则将面临被禁止的风险。

根据the Meta Ad Library数据，截至 3 月 29 日的 30 天内，火影莫迪花费 537799 印度卢比（6500 美元）宣传 363 条政治内容，包括其 Instagram 页面上的图像和视频，我们的分析显示，近 14% 的赞助广告（总计 50 张图片）是人工智能生成的。

Hokage Modi Sama 的所有 AI 广告都是 Instagram 上的赞助帖子，并且通过 #aiartwork、#midjourneyart、#midjourneyai 等主题标签披露 AI 的使用，标签似乎提到的“中途旅程”是一种流行的生成人工智能程序。

但Meta告诉半岛电视台说，对于以数字方式创建或更改的广告，主题标签不是可接受的披露方式。 如果广告商需要披露其内容是数字创建或更改的，Meta 将在“付费者”免责声明附近添加一个标签，标明“数字创建”，包括在广告库中。目前，火影莫迪 Sama AI 广告中并未出现此类标签。

Meta没有回答半岛电视台关于莫迪的逼真图像广告是否违反其描绘真人做他们没有做的事情或描绘未发生的逼真事件的政策的具体问题。

相反，Meta 向半岛电视台记者指出了 2024 年 3 月发表的一篇博文，内容涉及广告商的人工智能披露要求以及该公司如何为印度选举做准备。

印度互联网自由基金会（IFF）执行董事普拉泰克·瓦格尔告诉半岛电视台说，由于这些特定广告被标记为 #aiart，内容创作者需要承认通过某种形式的披露来提升人工智能图像的尝试，以遵守 Meta 最近更新的要求人工智能披露的政策。

人工智能用于推动“战略叙述”

正如半岛电视台早些时候报道的那样，印度的竞选活动一直是人工智能生成的图像和视频缓慢传播的工具，包括通过人工智能复活死去的政治领导人，以及将其用作官方政党账户中的竞选艺术。尽管存在人工智能生成的选举错误信息的威胁，但深度造假并不仅仅用于欺骗选民，相反，生成式人工智能正在被用来构建叙事。

牛津大学的夏尔马在看过人工智能图像广告后告诉半岛电视台说，“虽然虚假信息绝对是一个需要我们关注的严重问题，但它也转移了我们对人工智能生成内容可以帮助推动政党战略叙述的更潜意识方式的注意力。”

他补充说，“人工智能不仅仅是‘欺骗’选民相信一些公然错误的东西； 相当，人工智能使内容变得更有创意，并且可以借鉴更多创新的文化参考——这产生的政治宣传更具娱乐性，因此更可共享，从而能够广泛传播。”

例如，Hokage Modi Sama 页面上发布的最受欢迎的 AI 图像是“我们的藏红花超级英雄”， 照片中，莫迪身穿藏红花色库尔塔睡衣，披着飘逸的斗篷，在印度教精神象征“Om”旗帜下行走，这张人工智能图像获得了近 200 万个赞，并有诸如“谁希望印度成为印度教国家？”等评论，在 Instagram 的评论部分，大多数图片将印度总理重塑为“救世主”、“印度未来的身着藏红花的守护者”、“印度教复兴的象征”等。

夏尔马指出，虽然神话化政治领导人或在印度教史诗中描绘他们并不新鲜，但人工智能允许以更巧妙的方式执行它。

夏尔马表示，“这些由人工智能生成的纳伦德拉·莫迪图像似乎是印度人民党长期战略的最新版本，该战略旨在创建对[莫迪]作为明智和睿智领导人的崇拜。”

虽然 Hokage Modi Sama 的 Instagram 和 Facebook 页面没有明确声明其与莫迪领导的印度人民党 (BJP) 的直接关系，但该页面有发布亲印度教和亲印度人民党内容的历史，此前，该页面在分享了社交媒体平台 X 的所有者埃隆·马斯克 (Elon Musk) 作为印度教僧侣的照片后获得了关注，标题是：“我们的同胞埃隆”，表明马斯克是一位印度教民族主义者。

多次尝试联系火影莫迪大人的管理员均未成功。在动漫《火影忍者》中，“火影”是授予村长的尊称，而“Sama”是日语中“先生”的尊称，因此该页面大致意思是“领袖莫迪先生”。 拥有 13 万粉丝的 Instagram 账号现在销售基于藏红花超级英雄 AI 图像的 T 恤、咖啡杯和日记等商品。

在全球范围内，人工智能图像已被用于政治竞选。今年三月，美国总统候选人唐纳德·特朗普竞选团队的支持者使用他与黑人选民合影的虚假人工智能图像，对黑人社区进行“战略推广”，在阿根廷，两位总统候选人利用人工智能生成的图像来提高自己的受欢迎程度并攻击对手。在印度尼西亚，曾经令人畏惧的军事独裁者当选总统普拉博沃·苏比安托 (Prabowo Subianto) 在竞选活动中使用人工智能图像将自己重塑为“可爱的爷爷”。

在印度，2023 年 12 月特伦甘纳邦选举前夕，事实核查机构 BOOM Live 报道称，AI 图像错误地描绘了地区政治领导人K·钱德拉谢卡·拉奥 （K Chandrashekar Rao） 在启动学生免费餐计划时的情况，但他从未参加过该计划。

半岛电视台 2023 年 12 月对 Meta Ad Library 的审查显示，Mana Telangana 页面在 Instagram 和 Facebook 上分享了多张虚假的人工智能图像，内容是印度国大党领袖拉胡尔·甘地与儿童和农民合影。农民是印度有影响力的投票群体，经常抗议莫迪的市场友好型农业法。

甘地与农民的虚假形象附有标题：“拉胡尔·甘地同情农民，承诺坚定不移的支持，并致力于单独解决他们的担忧。” 该赞助帖子包含主题标签#ai generated 和 #aiimages，表明它们是 AI 生成的，估计有 7000 次展示。

西方与南方国家

西方和南半球国家的平台在选举前应对人工智能图像趋势的方式也存在差异。

例如，为了减少 11 月美国总统大选前人工智能图像被滥用的可能性，流行的人工智能图像生成器 Midjourney 在 3 月份禁止创建假总统乔·拜登和唐纳德·特朗普的图像。

但印度尚未采取此类措施，这引发了“对不同地区科技平台公平执行政策的担忧”，Logically Facts 董事总经理拜巴尔斯·奥尔塞克告诉半岛电视台说，Logically Facts 是 Meta 第三方事实核查计划的一部分，也是印度虚假信息打击联盟的一部分。

半岛电视台尝试生成莫迪和甘地握手途中的人工智能图像，取得了成功，而生成莫迪和特朗普握手图像的提示则导致“检测到禁止提示”通知。

奥尔塞克表示，“这一决定揭示了全球范围内如何实施此类温和政策的差异，特别是在全球南方的背景下，包括印度等即将进入今年最重要选举的国家。”

半岛电视台通过电子邮件向 Midjourney 询问了节制方面的差异，但尚未收到回复。

IFF 的瓦格尔补充道，这类似于 Facebook 或推特等社交媒体公司为确保其平台安全而制定的政策偏向西方，并且经常忽视南半球国家的观点。