禁止来自欧洲边界的种族主义和致命人工智能

2020 年 3 月 11 日星期三,一名奥地利警察特种部队飞行员在希腊达迪亚村的希腊-土耳其边境附近测试一架无人机(美联社)

欧盟正处于制定首个同类立法以规范人工智能有害使用的最后阶段,然而,就目前而言,拟议中的法律,称为欧盟《人工智能法案》,包含一个致命的盲点:该法案并没有禁止在移民执法背景下对人工智能系统的许多有害和危险使用。

我们——一个人权组织联盟——呼吁欧盟立法者确保这项具有里程碑意义的立法保护每个人,包括寻求庇护者和因危险和种族主义监视技术而在欧洲边境移动的其他人,我们呼吁他们确保将人工智能技术用于#ProtectNotSurveil。

人工智能使边界更加致命

欧洲的边界日新月异,包括人工智能系统在内的数据密集型技术,越来越多地被用来让欧洲堡垒变得坚不可摧,边境和警务当局正在采用预测分析、通过庞大的可互操作生物识别数据库进行风险评估,以及人工智能增强型无人机,用于监视移动中的人们并将他们赶出欧盟边界,例如,欧盟地中海搜救机构欧盟边境管理局(Frontex)被指控在许多欧盟边境参与严重侵犯人权的行为,众所周知,它使用各种人工智能技术系统来促进暴力和非法的反击行动。

从测谎仪到无人机和其他人工智能系统,事实证明,边境监视工具会将人们推向更加危险和致命的路线,剥夺他们的基本隐私权,并无理地损害他们对移民身份的要求。众所周知,这些技术还会将流动人口定罪和种族歧视,并助长违反人道主义保护原则的非法驱逐出境行为。

欧盟《人工智能法案》可以抵制对技术的压迫性使用

在欧盟成员国竞相制定反移民政策以违背其国内和国际法律义务之际,限制和规范人工智能在移民控制中的使用对于防止伤害至关重要。

这也是一个不容错过的机会,可以防止威权政府手中积累致命的、不人道的权力——无论是在欧盟,还是在欧盟寻求将其边界外部化的国家。

欧盟《人工智能法案》可以提供关键的红线和问责机制,以帮助保护在移民控制背景下受人工智能系统影响人们的基本权利,正如我们对《人工智能法案》拟议修正案所述,这些措施可能包括禁止使用种族主义算法和预测分析将人们标记为“威胁”,以及禁止使用可疑的基于人工智能的“测谎仪”和其他情绪识别工具非法将人们赶出国境。欧盟长期以来一直致力于保护其公民免受大规模生物识别监控,预计此类保护措施将成为最终欧盟人工智能法案的一部分,这些努力不应该基于国籍和种族化的风险观念而歧视,并且应该扩大到包括欧洲的所有人。

权力属于人民,而不是私营部门

我们还担心,将人工智能在移民控制中的使用留给欧盟成员国,将导致全球竞相采用更具侵入性的技术来防止或阻止移民——这些技术会从根本上改变,在最坏的情况下,将结束真实人物的生命。

如果欧盟《人工智能法案》未能规范和限制人工智能技术在移民执法中的使用,私人行为者将迅速利用漏洞强行推出新产品,他们会在没有适当检查的情况下将他们的产品运往我们的边境,就像属于《人工智能法案》范围内的用途受到更严格的监管和进入壁垒一样。

这是一个利润丰厚的数十亿美元的产业,从 2014 年到 2020 年,欧盟地中海搜救机构欧盟边境管理局在军事级监控和 IT 基础设施上花费了 4.34 亿欧元(4.76 亿美元),技术将以牺牲人们的基本权利为代价进行部署和培训,然后在移民控制之外的其他环境中重新利用,从而逃避设计阶段的关键审查。

我们已经看到私人参与者——例如 Palantir、G4S 和鲜为人知的 Buddi Ltd——利用政府加强监控的愿望,来销售助长边境不人道行为和侵犯流动人口基本权利的技术。

欧盟还有时间做正确的事:确保禁止在移民环境中不可接受地使用人工智能,并堵住所有漏洞,让欧盟关于隐私和其他基本权利的标准平等适用于所有人。

署名者

露西·奥迪伯特,国际隐私组织律师

霍普·巴克,边境暴力监测网络(BVMN) 的高级政策分析师

米赫·哈科比扬,国际特赦组织人工智慧监管倡导顾问

佩特拉·莫尔纳,约克大学难民法律实验室副主任,哈佛大学法学院院士

德亚·厄兹库尔,牛津大学高级研究员

凯瑟琳·罗德利,欧洲数字版权非营利组织Access Now公司欧洲政策分析师

阿琳娜·史密斯,无证移民问题国际合作平台高级宣传官员

本文仅表达作者个人观点,并不反映半岛电视台编辑立场。