“深度伪造”会威胁到即将举行的美国大选吗?

一些关于美国总统特朗普的虚假视频,足以显示“深度伪造”的潜在风险 (Pixabay)
一些关于美国总统特朗普的虚假视频,足以显示“深度伪造”的潜在风险 (Pixabay)

许多分析师警告,深度伪造技术(Deepfake)可能被用在即将举行的美国大选的政治竞争中,使用人工智能伪造候选人讲话或举动的视频和音频片段可能威胁候选人的政治前途,并减少其赢得大选的机会。

这项现代技术曾被用来伪造名人色情影片,其他时候也被用于制作虚假新闻,这激怒了美国立法者。

美国众议院情报委员会举行了关于该技术的听证会,该技术在纽约大学发布的一份报告中被列为2020年大选的八大误导性威胁之一。

深度伪造技术

这是一项基于计算机程序和人工智能来创建假视频的技术,该技术将人物照片和视频片段结合在一起,产生乍一看似乎真实的新视频,但实际上它是伪造的。

该技术的第一个里程碑出现在1997年,当时“视频重写(Video Rewrite)”程序将一个人谈论某个话题的视频转换为他谈论另一个话题的视频,并说出他在原始视频中从未说过的新词。

通常,该技术是在基于人工智能的计算机视觉领域的学术领域中开发的,但是该技术的使用不仅限于学术领域。

深度伪造被用来抹黑一些著名政客 (Pixabay)

深度伪造源于社交网站Reddit一名用户的名字,他和其他人在2017年底分享了他们制作的虚假名人色情视频,并获得了很高的播放量。

到2018年2月,Reddit网站已封禁该用户账号,其它网站也封禁了推广该技术的任何用户账号,但是在网上其他平台,仍有用户无意识或有意识地分享使用该技术制作的视频。

同年12月,女演员斯嘉丽·约翰逊在接受《华盛顿邮报》的采访中公开谈到了深度伪造的话题,她表达了对这种“现象”的担忧,称互联网世界像“一个将自己吞噬的黑洞”。

政治利用

深度伪造技术被用来抹黑一些知名政治人物,例如阿根廷总统毛里西奥·马克里和阿道夫·希特勒之间的换脸,而安格拉·默克尔与唐纳德·特朗普之间的换脸。

2018年4月,一个关于美国前总统巴拉克·奥巴马的视频被发布到网上,高谈阔论这项技术及其风险,而实际上总统没有这么做,这个视频也是伪造的。

同年,比利时社会党发布了一个假冒特朗普总统侮辱比利时的视频,并且该视频获得了足够的回应来显示高品质深度深造产品的潜在风险。

在2019年1月,福克斯电视台播出了一个特朗普总统在椭圆形办公室发表演讲的深度伪造视频。

深度伪造技术可能对美国大选中的两位候选人的未来构成真正威胁 (Pixabay)

人工智能之战

研究人员设想了一个场景:一名现象调查记者从匿名人士那里收到了一段视频,美国总统候选人在视频中承认存在非法竞选活动。这时每个人都会想:这格视频真实吗?如果是这样,这将是爆炸新闻,可能完全扭转即将举行的选举结果。

加州大学伯克利分校的汉尼·法里德认为,事情可能更可怕,因为该技术也将引起人们对真实视频内容的怀疑,并且有助于探索深度伪造或者将使用该技术的视频归类为真实内容。

探索深度伪造作为一项研究内容开始于3年前,早期工作集中在检测视频中的视觉问题,随着时间流逝,假冒产品能更好地模拟真实视频,并且变得更加难以检测。

因此,研究人员正在尝试开发一种专用工具,使用人工智能和深度学习来检测深度伪造视频,未来几年内,这种工具可能会在全球范围内被新闻工作者广泛使用。

但是,该工具并不能解决与深度伪造技术有关的所有问题,而只是人工智能与虚假信息战争武器库中的一种武器。

其他研究人员则认为,深度伪造技术将继续存在,随着人工智能功能的增强,保护公众免受虚假信息的侵害将比以往更加困难。

一些研究此类应用程序影响的人员认为,美国高级政客们并不十分害怕此类应用程序所构成的威胁,但这项技术很可能成为互联网上骚扰、欺凌和勒索范围扩大的武器。

来源 : 英国媒体

相关文章

美国Adobe Systems公司已研制出一种人工智能可以准确地辨别出PS过的照片,这可能有助于验证新闻摄影,政客或名人的虚假照片,甚至是执法部门使用的法医证据的真实性。

人工智能领域的研究人员致力于生产一种具有创造力、艺术创作能力和文学创作能力的智能机器,虽然机器能够通过自学技术的发展写短文本的这些梦想,他们已经实现,但无论机器多么智能,许多人仍然怀疑机器创造音乐的能力,或者创造精美文学作品的能力。

更多科技内容
点击最多