在线游戏展现人工智能情感识别技术的危险

情绪识别技术可能会带来一些潜在的好处,但是必须平衡人们对精确度和种族偏见的担忧(Shutterstock)
情绪识别技术可能会带来一些潜在的好处,但是必须平衡人们对精确度和种族偏见的担忧(Shutterstock)

设计使用机器学习算法识别人类情绪的技术是一个庞大产业,支持者声称,其应用领域从维护道路安全到分析市场动向,该技术具有巨大价值。

但是批评者认为,这项技术不仅引起了人们对隐私的担忧,而且这种方法不精确且带有种族偏见。

卫报》的一份报告称,一组研究人员开发了一个名为emojify.info的电子网站,公众可以在该网站上通过自己电脑的摄像头尝试使用情绪识别系统。

其中一个游戏的目的是让面孔愚弄技术,而另一个游戏则探索这些系统如何适应面部表情的变化,从而确定人们的状态。

研究人员说,他们的希望是提高人们对这项技术的认识,并通过使用促进人们该技术的讨论。

项目负责人、剑桥大学研究员亚历克斯·哈格蒂(Alexa Hagerty)博士说:“这是面部识别的一种形式,但它走得更远,因为它不只是识别人,还试图从我们的脸上读出我们的情绪和内心的感受。”

近年来,经常用于识别人脸的面部识别技术受到了严格的审查。去年,平等与人权委员会表示应停止将其用于大众筛查,并表示这可能加剧警察的歧视并威胁言论自由。

哈格蒂说,许多人并没有意识到情绪识别系统应用的普遍性,这些系统存在于各个环境,从就业指导、客户会谈到机场安全操作,甚至是教学活动,识别学生是否参与或完成功课。

她说,这项技术已在欧洲、美国和中国等世界各地广泛使用。

(半岛电视台)

恐惧感

太古是一家专门研发情绪识别系统的公司,其总部位于中国深圳。该公司表示,其系统已用于从养老院到监狱的各种场所。根据今年早些时候的报道,印度勒克瑙市计划使用该技术来发现女性因骚扰而感到困扰的情况,这一举动引起了数字人权等组织的批评。

哈格蒂说,情感识别技术可能会带来一些潜在的好处,但是必须平衡人们对精确度和种族偏见的担忧。

她补充说:“我们需要就这些技术进行更广泛的公开讨论和审议。”

emojify.info网站上的项目允许用户体验情绪识别技术。该网站指出,它“不收集任何个人数据,所有图像都存储在您的设备上”。

在一个游戏中,用户可以做出一系列表情来伪造一种情绪,检查系统是否受到欺骗。

“开发这项技术的人说,它读取的是情感。但是系统实际上是在读取脸部肌肉的运动,然后再结合这些运动与情感相关的假设进行结合,例如微笑意味着某人很高兴,”哈格蒂说。

她补充说,事情要复杂得多,因为人类的经验表明,伪造微笑是可能的。“这就是我们创造的游戏试图证明的,您无需连续六次改变内在状态和感觉,而只改变外观和脸部特征。”

人权组织首席计划官维多西·玛尔达表示,需要施加压力阻止情绪识别系统不断增长的市场。

他补充说:“情感识别技术的使用非常令人担忧,因为这些系统不仅基于歧视性和信誉不佳的科学,而且其使用从根本上与人权不符。”

来源 : 英国《卫报》

相关文章

更多科技内容
点击最多