谷歌语音助理引发关于人工智能的道德争议

谷歌的人工智能Duplex以流畅的人机交互方式帮助用户完成美发沙龙和餐馆的预定操作 [谷歌]
谷歌的人工智能Duplex以流畅的人机交互方式帮助用户完成美发沙龙和餐馆的预定操作 [谷歌]

不久之前,谷歌在年度开发者大会上展示了”谷歌助理”Google Duplex的一项新功能,这场展示让世界感到震惊,很多人认为,Google Duplex已经通过了图灵测试,该测试可以界定一台计算机(智能程序)是否能够像真人一样进行思考与交谈,然而,另有部分人员认为,这一事件预示了人工智能的黑暗前景。

在谷歌举行的展示中,该智能助理通过电话进行餐厅预订,并以人类的方式与餐厅服务生进行交谈,其交谈的方式让电话另一端的人根本无法意识到,与之交谈的只是一部机器。

尽管这一展示让世界震惊,但是科技网站”TechCrunch”却表示,有”令人不快的证据”显示,谷歌在设计这一系统时,并没有考虑到人工智能所存在的严重的道德影响。

该网站援引英国牛津网络学院数码道德研究室的研究员托马斯·金(Thomas King)的话称,”谷歌的实验似乎是为了进行欺骗而设计的,因为他们基本的假设就是:你是否能够将之与真人区分开来?在这种情况下,我们并不清楚,他们的假设为什么是关于欺骗,而不是关于用户体验。”

托马斯·金补充道,”为了使用户获得更好的体验,其实并不需要通过让声音更自然的方式,来欺骗用户。哪怕他们对假设进行测试:这种技术是否优于过去的版本,或者像人类对话一样好?这些都可以,但是为什么一定要在测试中欺骗人们呢?”

这似乎只是一个小问题,但是,目前这个问题已经引发了严重的道德争议。

因此,用托马斯·金的话来说,就算谷歌没有欺骗人们的意图,但可以明确的是,它在这方面疏忽大意了,没有确保这项技术不会欺骗大众。在这种情况下,我们应该建立一项机制,让人们知道他们交谈的对象是谁。

托马斯·金认为,真正的问题在于,知道与自己互动的对象是谁,将会改变我们对其的反应方式。我们将基于很多细节来作出不计其数的小决定,例如对方的语音和语调、口音等等,这些都会让我们产生同理心和转变而与人进行更好的交流。

他还补充道,”这些情况将造成人类在各种互动中信任的缺失,人们也会变得更容易猜疑,此外,一些人也将被毫无意义的人工智能所取代”。

“TechCrunch”网站认为,我们应该在早期阶段,采取认真而严肃的态度来处理人工智能所造成的伦理道德问题,避免发展人工智能而给人类带来无止境的危险,也避免出现机器人控制世界的可怕恶果。

来源 : 电子网站

更多科技内容
点击最多