Facebook研发新技术 在实时视频中欺骗人脸识别系统

Super-realistic face masks are displayed at factory of REAL-f Co. in Otsu, western Japan, November 15, 2018. REUTERS/Kwiyeon Ha
Facebook研究中心开发了一项在实时视频拍摄中欺骗人脸识别系统的技术(路透社)
虽然Facebook身陷一场由面部识别引发的可能面临数十亿美元罚款的诉讼之中,但这并未阻止其人工智能研究部门开发新技术来反抗对它的指控。
 
据科技网站Venture Beat报道,Facebook人工智能研究部门,开发了一种先进的去识别系统(De-identification)应用在视频中,包括实时视频。通过机器学习训练人工智能,使其能实时更改视频中人脸的主要特征,以此欺骗面部识别系统。
 
这种去识别化技术过去已经存在,并且有一些公司专门致力于为静态图像提供这种技术。还有一整套可以被人佩戴的欺骗人脸识别系统的图像,被称为“对抗性示例”,它利用了计算机视觉程序识别中的某些弱点。
 
比如,科技新闻网站The Verge报道,一家太阳镜公司在眼镜上印制了这种“对抗性示例”,从而使人脸识别系统相信眼镜佩戴者是女演员米拉·乔沃维奇。
 
但是,这种类型的面部识别欺骗通常意味着需要调整由安全摄像头或其他来源拍摄的静止图像。或在“对抗性示例”的情况下,预先使用图像来欺骗人脸识别系统。而Facebook研究部门研发的技术,无论是预先录像还是实时录像,都能达到同样目的。
 
Facebook研究部门声称,这是业内首创,并且足以应对先进的人脸识别系统。
 
Venture Beat援引Facebook研究部门的话称,Facebook无意在其任何商业产品中使用该技术,但该研究可能会对正在开发的以保护个人隐私的未来工具和防止在Deep Fake视频中利用某人肖像产生一定影响。
 
人工智能行业目前正在研究各种方法来打击Deep Fake和非常复杂的制造Deep Fake工具的蔓延。Facebook研究部门研发这种技术就是一种方法,而立法者和技术公司都在尝试各种方式,比如制定控制假视频、照片和音频传播的监管体系,开发Deep Fake检测软件。

此外,Facebook人工智能研究部门关注的另一个问题是面部识别系统仍然没有法律框架约束,这已引起立法者、学者和活动家的担忧,他们担心如果继续在未经执法机构、政府和企业监督的情况下传播这种技术,可能产生侵犯人权的问题。

来源 : 电子网站