针对民主与文明的毁灭性威胁：美军将使用“深度伪造”视频

美国网站“The Intercept”发布的一篇报告披露，美国特种作战中央指挥部（SOCOM)正在使用“深度伪造”技术(Deepfakes)，而在此前，美国政府一直警告这项技术可能会破坏民主社会的稳定并威胁人类文明。

该网站的技术事务负责人、记者山姆·比德尔(Sam Biddle)表示，根据该网站掌握的联邦合同文件内容，负责美国部分最为隐秘的军事行动的特种作战中央指控部的领导层，正准备使用倍受争议的“深度伪造”视频来在网络上开展虚假宣传运动。

他还补充称，美国特种作战中央指挥部的领导层在一份采购文件中概述了针对下一代的宣传期望，而这份文件列出了该指挥部寻求在不久的将来能够获得的能力，并要求那些认为自身可以打造这些能力的实体参与投标。

“以火攻火”

这篇报告援引布鲁金斯学会人工智能与新兴技术计划负责人克里斯·梅西罗尔的话称，在事关虚假信息的问题上，五角大楼不应该“以火攻火”，他还补充称，当数字宣传在全球范围内不断上升之际，美国应当竭尽全力，通过为真相与现实的共同理念建立支持来促进民主，而不是采用“深度伪造”技术，因为后者的作用恰恰相反。

梅西罗尔补充称，即使“深度伪造”技术被有针对性地用于军事和情报行动，它们的使用也必须受到严格的审查和监督。

他还表示，特种作战中央指挥部由陆军、海军陆战队、海军和空军的精锐部队组成，并在这个世界上最致命的国家内主导着最为敏感的军事行动，并且通常是在暗处作战，但其声誉和足迹却广为人知，也正是这股力量于2011年5月在巴基斯坦击毙了奥萨马·本·拉登。

使用的合法性

这篇报告指出，虽然“深度伪造”技术目前仍主要被用于娱乐和色情内容，但是它被用于更多可怕的应用程序的可能性却是真实存在的。例如，在俄罗斯对乌克兰发起军事行动之初，有关乌克兰总统泽连斯基下令投降的虚假图片便开始在社交媒体渠道上流传。先撇开道德方面的顾虑不谈，军事上的深度伪造行动在冲突中的合法性，仍然是一个悬而未决的问题，并且也未能在美国特种作战中央指挥部的文件中得到解决。

公众完全失去信心

报告还指出，这项技术的易用性及其日益提高的准确性，会导致人们对一个时代的恐惧——在这样一个时代内，全球公众将无法再相信他们亲眼所见的一切。

报告指出，随着近年来国际社会对来自国际对手的虚假视频和数字欺骗的关注，美国特种作战中央指挥部也对传播虚假信息的运动产生了兴趣，尽管几乎没有证据表明俄罗斯以数字方式对美国在2016年举行的总统大选产生了任何有意义的影响，但是五角大楼却已表示，有兴趣将其数字宣传的能力提高一倍，并让特种作战中央指挥部在其中发挥关​​键的作用，以免美国在这场竞争中落后。

山姆·比德尔指出，虽然军事宣传与战争本身一样古老，但是“深度伪造”经常被视为一种独特的技术威胁，而其存在本身就是对人类文明的一种威胁。