“杀手机器人”:威胁人类未来的军事和医疗行业

“人工智能不仅为经济提供了绝佳的机遇,也对社会和国家安全带来了巨大的威胁。我的政府致力于保护美国人的权利和安全,同时保护隐私、解决偏见和错误信息,并确保人工智能系统在启动前是安全的。”
这是美国总统乔·拜登在一次媒体采访中所说的话,试图在针对所谓“人工智能技术”的反制运动升级后安抚民众。如果电影和艺术最先预言了通信领域的大规模革命以及随之而来的计算机系统的显著发展,那么随着时间的推移,现实已经证明,那些曾经属于不受管控的想象框架内的东西现在已经脱离了这些限制,进入了广阔的现实。
目前,科学界和国际社会对人工智能的手段、使用和指导人工智能的方法及其对军事工业的影响程度存在担忧。由此产生了一个至关重要的问题,即这些技术是否可以在没有人类事先许可的情况下拥有自己的决策能力?如果它们具备这些能力,那么人类的作用是什么?它们对人类真的构成危险吗? 或者难道关于这些科学发展的所有内容纯粹只是捏造的吗?

所有这些合理的问题都围绕着美国纪录片《杀手机器人》所猛烈抨击的这个棘手世界的框架内展开。该片于2023年制作,由资深导演杰西·斯威特(Jesse Sweet)编剧和导演。这次他选择的主题充满了激烈的争议,夹杂着兴奋和期待,就像他选择电影思想的做法一样,通常辗转于科学、犯罪和哲学论题之间,而在这些面前,人们的想法在接受和认识它们、拒绝它们和远离它们之间犹豫不决。这与其说是对兴趣的追求,不如说是与世界的冲突,寻找新的理解和感知方式。
一排排准备好接受命令的机器人:一篇警示社论
电影开始时,屏幕上只显示了几秒钟的基本镜头,我们看到一些机器人在待命,等待接收人类的命令。这个镜头后面是各种机器人的其他场景,每个机器人都在执行一项任务,而画外音则在告诉我们人工智能在消除贫困和增加农田方面的重要性。
与此同时,该画外音表达了人们对军事科学中自动使用的这些系统的后续发展日益增长的担忧,以及对这些机器人被赋予了自我决定杀人或稍后宣战的能力的更大恐惧。
这就是影片的开头,对人工智能的世界进行了简短的介绍,并在此过程中展示了这些技术所公布的和隐藏的内容,然后直接把我们带到了问题的症结和本质,没有任何预先的介绍。这完全是有意为之,也符合影片的警示氛围。这部电影表达了制作者的愿景,这一愿景不一定是中立的,但立场坚定而明确。
这种风格符合艺术的本质,记录了对生活的大体立场,并且永远站在左边,与上述类推,类推上面,片名就来了,将机器人描述为杀手,表达了一种具有威胁性的观点。没有比这更严重的警告了,没有比生命消失的时刻更令人恐惧的了,也没有比末日时钟落在一个失去方向和控制的机器人手中更讽刺的了。
计算机应用:人工智能进入实验室和战场
开场介绍后,影片开始编织人工智能的概念,并从两个方向呈现:每个方向都代表着一个自成一体的世界,几乎看不到对方,但它们又不可避免地会趋同。第一个方向将人工智能视为科学突破,这带来巨大发展,特别是在军事领域。

至于另一个方向,则与这个想法本身的优秀一致,但是,通过将其置于科学发展的弧线之间,以及这个世界和那个世界之间,这部电影详细地展示了它的愿景,自由地四处穿梭,揭秘了这些笼罩在厚厚的神秘帷幕之下的经历的幕后故事。
这些实验进展如何? 无论是从军事角度还是科学角度?这就是这部电影通过雄心勃勃的叙述所揭示的内容,将我们带入了一个军事实验室。在此期间,我们看到一架无人机突袭敌方营地,准确地拍摄了该地点的细节及其地形,并且当它面对人类威胁时,它可以自行应对。
另一方面,我们看到一位科学家依靠计算机及其多种应用的帮助,进行实验室实验,提取有助于治疗疑难杂症的药物。在另一个场景中,我们看到其他科学家驯服了机器狗,为自然灾害期间的疏散提供必要的支持。
减少损失:人工智能主导的军队
第一个方面以美国前海军军官、负责为美国陆军开发人工智能的Shield AI公司创始人Brandon Tsing为代表,他认为先进的计算机系统可用于协助战争,从而减少潜在的人员伤亡。
从表面上看,这似乎是一个崇高的目标,因为主要目的是保护人类的生命。但真正的困境在于这些技术特征的永久和重新发展,这使它们能够做出个人决定。而这正是军工研发人员孜孜不倦、坚持不懈的追求。美国在伊拉克和阿富汗的战争和入侵见证了这些机器人的使用,同时它们被用来探测爆炸物和地雷,因此人类形态的机器的损失并不会成为战争继续的障碍。

这就是军事方面正在发生的事情,至于在科学和医学方面使用人工智能的原因,看似不同,但他们的动机是相同的。影片通过与英国药理学家与研究员肖恩·艾金斯(Shaun Ekins)和活动家艾米莉亚·贾沃斯基(Emilia Javorsky)的会面回顾了他们的愿景。两人一致认为,人文关怀、生活困难援助以及寻找科学和医学问题的最合适解决方案是现代技术的科学家和开发人员始终关注的问题。
这部电影轻松地揭示了制药公司和科研机构正在寻求开发罕见疾病的现代治疗方法的情况。与依靠人工智能支持的现代科学方法进行研究和实验的情况下的完成速度相比,传统的实验室实验效果较慢。
每个世界都在一个独立的轨道上旋转,彼此相距很远,与相反的世界明显矛盾,每个世界都有自己希望达到的目标,此时它们之间产生了一场无形的斗争,其中获胜者寻求将对方与其存在空间保持距离。
“我们已经打开了地狱之门”
镜头捕捉到了一位科学家的长篇演讲,他在演讲中详细阐述了人工智能在科学研究中的危险,以及这些按下按钮自动生成的化学研究和方程式如何能够产生毒素而不是生产药物。例如,如果科学方程以数字0结尾,那么如果我们加上数字1,这些物质就会变成致命的毒药,并且可以非常容易地转化为化学武器。
在此背景下,该影片揭示了2017年朝鲜领导人的长兄金正男被使用国际禁止的VX毒气暗杀的情况,该毒气被归类为大规模杀伤性武器。这种有毒气体只不过是人工智能尝试的产物,偏离了他们的医学和科学道路而走向了另一条道路,这让学者们感到困惑和苦恼,因为他们的欲望和目标会根据其他突发奇想和追求控制而改变。在其中一个场景中,镜头对准了多位研究人员和科学家的脸,每个人都毫不犹豫地提到一个几乎没有变化的短语,即“我们打开了地狱之门”。

而那些有军事经验的人则持相反的观点,他们并不认为使用人工智能会导致死亡,而认为这是减少人类损失的一种方式。因此,科学家们在这一领域不断开发的技术会自动被用于军事研究,以追求卓越的竞争优势,并以牺牲对手为代价来创造一种优越感和胜利,而这些对手通常可能是虚构的,并且一开始就没有真实存在。
这就是影片试图揭示的冲突的核心:科学家与军队之间的冲突,或者更广泛、更全面的意义上,科学与权力之间的冲突。这场竞赛中的美军就像寄生生物,完全依赖科学家的研究,致力于帮助扩大力量平衡差距的新武器,而不考虑战争和冲突中国际公认的道德界限。
人工智能的考验:隐藏的敌人威胁着人类的命运
这部电影不仅从军事方面监控了处理这种先进技术的多重趋势,尽管由于当今军事工业的步伐不断加快,这种趋势占主导,然而影片关心的还有另一个方面,即讨论这些手段的道德程度?
为了回答这个问题,这部电影揭示了战争面纱背后发生的事情,对美国军事当局提出了严厉的批评,让我们发现这些技术的使用方式可能缺乏勇气或战争道德。例如,我们发现美国已经开始在阿富汗试飞具有机动和发射导弹能力的无人驾驶战斗机。

这一部分达到了高潮,揭示了利比亚领土冲突期间发生的事情,一架不明无人机起飞,击中目标,然后在没有人意识到的情况下离开。以至于现代战争看起来就像是一场针对肉眼看不到的未知敌人的战争,而与之对抗,就不可避免地要与只有少数人拥有的力量相匹配。
该影片揭示了更多关于人工智能的信息,并指出俄罗斯在乌克兰战争期间用这些系统支持其军队。在地球的另一边,中国也在寻求在这场竞赛中压制其主要竞争对手美国,我们看到新闻报道宣称中国拥有超过美国的人工智能技术。
面对这一切的情况,鉴于国际上的抗议活动不断增加,以及机器人如何理解合法与非法之间的区别的合理问题,联合国“声称”关注这些冲突并感到担忧,因为这些冲突表明,这对人类的命运从来都没有好处?
因此,人权组织与美国总统召开了紧急会议,会议期间向全世界发出明确警告,需要停止这些实验,因为这只会导致更多破坏,不是针对特定一方,而是每个人都会以某种方式受到影响。
电影的质感:小说和纪录片风格的混合
摄影机在几个地方之间移动,所以我们首先看到加利福尼亚州的一个军事实验室,在美国军队收购之前,它是一个拍摄战争电影的电影制片厂。然后摄像机在马萨诸塞州剑桥大学的走廊里巡视,并从那里前往北卡罗来纳大学,然后返回美国首都华盛顿。所有这些采访、摄影材料和和新闻档案都是影片的核心,在近七十分钟的放映中,观众没有感到一丝无聊。

这种感觉是由于叙事风格的动感和活力,以及笼罩在赤裸的期待中的流动的、喘不过气来的节奏,与主题完美契合。导演将纪录片的传统风格,即依赖镜头前记录的对话,与更接近戏剧的现代风格相结合,创造出一种特殊的叙事风格,从而使这部电影变得有吸引力和有趣,并且在思想和哲学上做了减法,让他在脑海中停留了很长一段时间。
机器叛乱:一个令人担忧未来的电影预言
在斯坦利·库布里克执导的美国电影《2001:太空漫游》(1968年)中,导演预言科技和计算机将主宰人类的命运,比如飞船指挥官失去了对计算机系统的控制,该系统故意误导和扭曲现有信息,它成为了真正的对手。
如今,这部标志性电影的制作已经过去五十多年了。人工智能开发尝试中的秘密围墙被拆除,我们的纪录片以令人羡慕的大胆方式揭示了这一点,引发了对人类这个充满秘密的世界的思考和沉思。这部电影属于《地球未知档案》纪录片系列,旨在研究有争议的科学问题。
在整部影片中,同样紧迫的问题始终萦绕在我们的脑海中。人工智能有一天会与人类对抗吗?到那时注定会发生什么?谁来保护人类?是否有答案?
