“深度伪造”入侵社交媒体平台:如何轻松检测

“深度伪造”可以对一个人的面部或身体特征进行数字修改,从而使他们看起来像其他人 (社交网站)

如今的流行社交网站“TikTok”上,涌现出了一大批通过“深度伪造”(Deepfake)技术制作而成的假视频。

“深度伪造”可以对一个人的面部或身体特征进行数字修改,从而使他们看起来像其他人——通常是名人。“TikTok”平台上一个著名的帐户“@deeptomcriuse”,已经发布了数十个假冒汤姆·克鲁斯的伪造视频,并且这些视频已经获得了360万粉丝。

使用“深度伪造”技术的其他例子包括,伪造的马克·扎克伯格——社交网站Facebook及其母公司Meta的创始人兼首席执行官——承认其密谋共享用户数据。最近还有伪造罗伯特·帕丁森和基努·里维斯等演员的例子。

不同的角色

尽管“深度伪造”的技术经常被用于制作创意作品或娱乐,但是它们在虚假宣传、身份欺诈以及对公众人物和名人的诽谤中,却变得越来越普遍。

制造这些虚假内容的技术是如此复杂和先进,并且还变得越来越容易获得,而相关的检测程序和法律规范则远远滞后。但是有一件事情是肯定的,那就是“深度伪造”将会继续存在,那么,我们又该如何应对呢?

根据“The Conversation”网站发布的一篇报道,文本和图像的处理一直是吸引互动和关注的基石。“深度伪造”也不例外。它反映了人们参与文化、叙事和艺术的根深蒂固的愿望。

“深度伪造”可以用于为已故演员制作原创作品,仿佛是在新的原创作品中让他们复活。这项技术也可能在安慰失去至亲的人们方面发挥作用。

“深度伪造”的缺陷

“深度伪造”技术可能会导致许多的问题,其中包括一些社会问题,例如:

  • 将其用作任何虚假新闻或误导性信息的证据。
  • 使用它来诋毁他人。
  • 由于其作品的真实性难以检测而极易引起社会或政治冲突。
  • 用于制作虚假的色情制品。

最后一点尤其值得关注,因为由“深度追踪”公司(Deeprace)推出的用于检测“深度伪造”技术的软件显示,在2019年涉及的1.4万起“深度伪造”案件中,有96%都具有色情性质。其中一项名为“DeepNude 2.0”的免费应用程序(现已被删除)能够将女性的衣服透视化,以展示其裸体。该应用程序被用于报复目的或勒索受害者。

澳大利亚,一些肇事者通过使用“深度伪造”来规避“情色报复”的法律制约,预计这个问题将在未来一段时间内变得更加严重。

“深度伪造”应用程序的开发,将使人们能够制作更多的虚假图片 (社交网站)

愈发担忧

除此之外,“深度伪造”技术还被用于身份欺诈活动——尤其是以视频信息的形式,这些信息就像是你的某个“同事”或“亲戚”在向你要钱一样。一项研究显示,利用数字操纵实现的身份欺诈,在2020年使美国的金融机构损失了200亿美元的资金。

“深度伪造”视频的制造商声称,要使这类视频看起来逼真,需要花费大量的时间和精力。“TikTok”上的假汤姆·克鲁斯账户创建者克里斯·欧姆告诉“The Verge”的记者,“这并非通过简单的点击就能实现的事情。”

然而,有新的证据表明,“深度伪造”的使用已经变得越来越容易。来自联合国“全球脉搏”的研究人员表明,伪造一场演讲可能只需要13分钟的时间。

随着越来越多的“深度伪造”应用程序的发展,不熟练的人也将能够制造出越来越多看起来很真实的虚假作品。

随着“深度伪造”应用程序的发展,制作看起来很真实的虚假照片将会更加容易 (社交网站)

监管立法的必要性

值得注意的是,Facebook平台因2019年未能删除美国众议院议长南希·佩洛西的虚假视频片段而受到批评,而且平台也未能将其识别为虚假视频。

在2020年,推特禁止分享欺骗、误导或伤害人们的合成内容(除非在这些内容上添加特定的标签)。“Tik Tok”也采取了同样的举措。此外,“YouTube”还禁止发布与2020年美国大选相关的“深度伪造”内容。

即使这些政策是好的,对于要求删除“深度伪造”的报道的反应也无法达到足够快的速度。此外,这些政策在保护名人和政治人士时会迅速得到实施,而在保护普通人免受“深度伪造”之害时则并非如此。

如何检测“深度伪造”

如今的人们必须为自己配备尽可能多的技能,以检测“深度伪造”的技术。有些问题的答案可以帮助你进行判断,其中包括:

  • 脸部会这样光滑吗?颧骨会有阴影吗?
  • 眼睑和嘴巴的运动是否在某些方面看起来是否并不相关或有些异常?
  • 头发——尤其是面部毛发——看起来是假的吗?目前的“深度造假”技术很难保持头发(尤其是面部毛发)的原始外观。
  • 问问自己有关这个人发送的信息内容:例如,是否有关接种疫苗,还是色情剪辑?任何看起来不寻常、不正常或与常识相矛盾的东西,通常都与“深度伪造”相关。
来源 : 半岛电视台 + 电子网站