对“敏感话题”的审查预期受到批评:谷歌加大了学术研究审查

谷歌至少在3起案例中要求创作者不要将其技术置于负面地位(路透社)
谷歌至少在3起案例中要求创作者不要将其技术置于负面地位(路透社)

Alphabet旗下的谷歌公司今年已采取行动,旨在加强对其内部研究人员的论文审查,而涉及“敏感话题”的研究需要公司进行额外的审查。根据对内部研究人员的通信与采访,谷歌已至少在3起案例中要求创作者不要将其技术置于负面地位。

根据路透社发布的报告,谷歌新的审查程序,要求研究人员在跟进像面部、情绪分析,种族划分、性别或政治归属等主题之前,事先咨询法律、政策和公共关系团队。

相关规定中有一页这样写道:“技术的进步和外部日益复杂的环境情况,越来越多地导致道德、声誉、监管或法律法规方面的问题。”

路透社无法确定这项规定的发布日期,尽管3名现任员工表示,这项政策始于今年6月。

8名现任及前任雇员补充称,对“敏感问题”的审查,是谷歌纠错体系的又一项补充,例如,谷歌的标准审核过程旨在确保研究人员不会无意间泄露商业秘密,以便能够及早实施干预。

但是根据路透社获得的谷歌内部通信记录,对于某些项目,谷歌官员则在后期进行了干预。谷歌的一位负责审查推荐算法论文的高级管理人员指出,“应当格外谨慎,并表现出积极的基调”。

这位负责人还补充称,“这并不意味着我们应该逃避这项计划所带来的实际挑战”。

自从Timint Gebru突然被解雇以来, 谷歌与部分员工之间的紧张关系加剧 (社交网站)

研究人员与审查人员后来的往来信件显示,作者“已被警告需要删除所有对谷歌产品的引用”。

该工作组的4名研究人员——包括首席科学家玛格丽特·米切尔在内,认为谷歌已经开始干预针对潜在技术危害的敏感研究。

米切尔表示,由于管理层的审查,研究人员不被允许发布那些他们根据自身经验认为是正确的信息时,他们就会陷入与审查相关的严重问题。

谷歌曾在其公共网站上声明,其学者和研究人员享有极大的学术自由。

然而,自从AI伦理专家Timint Gebru突然被解雇以来, 谷歌与部分员工之间的紧张关系便在本月开始加剧。Timint Gebru与米切尔领导了一支包括12名人员的研究团队,关注AI项目的伦理问题。

Gebru表示,在她质疑为何一篇认为人工智能模仿语音可能损害边缘群体的研究没有被发布之后,谷歌开除了她。

谷歌则表示,公司很快接受了她的辞职,目前无法确定,是否对Gebru的论文启动了敏感话题审查。

谷歌高级副总裁杰夫·迪恩在本月发布的一份声明中指出,Gebru的论文侧重于讨论潜在的危害,而没有努力提出解决这些危害的方法。

迪恩补充称,谷歌支持“人工智能伦理学奖金”,并且“正在积极改善我们的论文审查流程,因为我们知道,太多的规则与制衡会带来很多麻烦。”

通过技术行业进行的人工智能研究与开发出现了爆炸式的增长,这促使美国及其他国家当局推出了使用规范,部分人引用科学研究表明,面部分析程序及其他的AI系统,可以导致偏见的长期存在,或破坏人们的隐私。

近年来,谷歌已将人工智能集合至其所有的服务中,并使用技术来解释复杂的搜索过程,从而可以在YouTube上报告推荐,并自动在Gmail中完成句子。

根据该公司的内部网页,谷歌还希望评估自己的产品服务并抹去偏见的基调,即新政策下的“敏感话题”。

而这些“敏感话题”包括石油工业、中国、伊朗、以色列、新冠疫情、家庭安全、保险、位置数据、宗教、自动驾驶汽车、通信等等。

来源 : 路透社

相关文章

据《华尔街日报》报道,在位置数据经纪公司 X-Mode向美国军事机构提供信息的业务被曝光之后,苹果公司与谷歌公司将采取措施,以禁止该公司从安装了苹果或谷歌操作系统的移动设备上获取任何位置信息。

更多科技内容
点击最多