我们应该担心“杀手机器人”吗？
“杀手机器人禁令运动”(Campaign to Stop Killer Robots)全球协调员玛丽·韦勒姆（Mary Wareham）表示，使用致命的自主武器系统（LAWS）”太过分”。
“他们打破了道德底线，因为我们将在战场上或在执法过程中，看到机器夺取人们的生命。”
韦勒姆说：”我们希望，武器系统和武力的使用可以始终由人类控制。”
4月9日，韦勒姆在瑞士日内瓦会议前与半岛电视台进行过交谈，该会议可能涉及对自主武器系统的禁用。
这是自2014年以来就所谓”杀手机器人”的第五次国际会议讨论，但由于各国仍未就自主武器系统的定义，以及是否应根据国际法禁用此类武器系统达成一致，此次讨论将不能达成正式决定。
“现在我们正面临抉择，这将是关键的一年，如果我们不迅速行动，那么等下去，一切就太迟了，那时全自动武器会扩散到每个国家，”韦勒姆告诉半岛电视台。
超越终结者
韦勒姆说，虽然”杀手机器人”这个术语容易让人联想到科幻小说《终结者》（Terminator）的场景，但”会走路，会说话的拟人化”自主武器”并不是让我们最担心的”。
完全自主的武器系统是指，在没有真正意义上的人类控制的情况下，那些选择和处理目标的武器系统。韦尔哈姆说，今天，”杀手机器人禁令运动” 所担忧的”最严重的”种类还尚不存在。
但是，拥有一定自主化水平的武器已投入使用，据人权观察组织（HRW）称，包括美国，中国，以色列，韩国，俄罗斯和英国在内的十几个国家也可能正在研发此类武器。
在最近的一份报告中，人权观察指出，以色列”铁穹”反火箭弹系统（Iron Dome）可以自主发现和击落来袭导弹，这是通向资助武器的现有”前体系统”之一。
韩国最近在两韩之间的非军事区（DMZ）部署了三星SGR-A1机器人哨兵枪;它使用摄像头和传感器来检测DMZ中的入侵者，并可以进行射击。
而英国的BAE系统正在测试塔拉尼斯隐形飞机（Taranis），它可以自主完成任务。但是，这架飞机仍然停留在原型阶段，该公司曾表示，在实际行动中，”它们将始终由训练有素的军队控制。”
不全是坏的
“自主武器并非全是缺点，”律师兼作家雅各布·特纳（Jacob Turner）说。
“他们也存在潜在优势，比如它们能够更有效地区分平民和武装人员，”特纳告诉半岛电视台。
“他们也不会像人类那样，感到疲倦或沮丧，生气或受到惊吓。”
尽管人工智能技术在成熟之前需要一些飞跃，但有人说，机器人最终可能会比人类更擅长选择目标，这并非不可思议，这意味着战争可以更有效地进行，被杀死的无辜者更少。这也可以结束一些战争的相关暴行，例如性暴力–除非它们接受这种行为的编程。
但对韦勒姆来说，这个承诺是不够的。
“根据今天的技术状态和近期我们所看到的，这些武器系统可以变得愚蠢，它们的攻击可以是无差别的。”
第三次战争革命
澳大利亚新南威尔士大学（University of New South Wales）人工智能研究教授托比·沃尔什（Toby Walsh）承认人工智能在战场上有用途：”对于机器人来说，差事，”他告诉半岛电视台。
沃尔什描绘了之后自主战争的悲惨画面，这被一些人称之为”战争的第三次革命”。
他告诉半岛电视台：”以前如果你想要造成伤害，你必须有一大批人，你必须训练他们，并给他们提供装备，还要说服他们去做你想做的事情。”
“如果你在战争中将人类剔除出来，那么你就可以像计算机系统一样扩大（武器），你可以继续购买更多的CPU，购买更多的机器人。你不需要更多人，这不会减缓你的速度”他补充说。
“你可以在更大规模上进行战争。”
绝对不同
此类武器系统引发的担忧超出了其可扩展性，”愚蠢”和可破解性等实际反对意见。
美国加利福尼亚州立理工大学哲学助理教授瑞恩·詹金斯（Ryan Jenkins）表示，他认为此类武器系统”特别令人担忧”，因为它们与以前的武器系统”截然不同”。
“这不仅仅是一种能够制敌的武器，也不仅仅是一种射程更远的导弹。（”杀手机器人禁令运动”人员）把它看作是战争的明显突破，它们带来的问题让人深感不安，即是否委派它们杀人的任务，”他说。
即使技术确实发展到允许此类武器系统能够比人类更有效地进行战争，但詹金斯认为，让机器人进行杀戮令人不寒而栗，以至于社会可能会让更多的无辜者死亡。
他补充说，与机器人进行战争可能会对更广泛的政治格局产生深远影响，并可能引发”怨恨”，对国际和平前景产生不利影响。
“以无人机为例，一个国家运用远程飞机进行战争是不是错误的？……我们已经看到了它引起的各种紧张局势。”
禁止或调节？
到目前为止，包括巴西，巴基斯坦和埃及在内的22个国家都呼吁禁止此类武器系统。韦勒姆认为，美国和俄罗斯可能会成为禁止此类武器的”最大挑战”。
雅各布认为，提供必要的监管，而不是完全禁止，可防止不对称的扩散。
他说：”我们只能对那些拥有开放法律制度并且对其军事行为有公开审查制度的国家，呼吁实行一揽子禁令。”
但韦勒姆不同意。她指出，以前的武器禁令，例如1997年《禁止杀伤人员地雷公约》和《国际禁用集束炸弹公约》都是成功典例。截至2018年1月，有164个国家签署了前者，120个国家目前是后者的缔约国。
“当然，是的，会出现作弊行为，”她补充说，”我的经验是，一旦（国家）加入条约，他们将非常认真地对待自己的义务。”
是否会真正达成禁令尚不清楚。代表们将在8月再次会面，进一步讨论自主武器的相关细节，并编写包括未来相关建议的报告。
韦勒姆说：”我们不希望出现无结果的谈判。”
“我们没有资金或时间可以用来等待，技术也在日新月异，所以我们寻求更多国家的加入。”