这才是人工智能真正的威胁

研究员叶夫根尼·莫佐罗夫探讨了人工智能及其对人类构成的真正威胁，他表示，人们对它越来越多的关注并不是因为它的技术乏味，而是因为所谓的通用人工智能（AGI）的兴起，这才是专家们担心的。

出生于白俄罗斯的莫佐罗夫一位著名的美国思想家，主要研究技术对政治和社会的影响，他在《纽约时报》发表的一篇长文中解释称，通用人工智能尚不存在，但一些人认为ChatGPT快速增长的能力表明它的出现已经不远了。

通常比人类更聪明

作者援引OpenAI Lab联合创始人、ChatGPT机器人所有者山姆·阿尔特曼的话称，通用人工智能是“通常比人类更聪明的系统”。构建这样的系统仍然是一项艰巨的任务，有些人说这是不可能实现的，但好处确实很诱人，它可以学习人类或动物可以执行的任何智力任务。

为了进一步解释关于通用人工智能的想法，作者称：“想象一下，智能扫地机器人（Roombas）不再仅仅用于清洁地板，而是已经进化为多用途机器人，例如早上煮咖啡或叠衣服，无需编程即可完成这些事情。”

他评论道，这似乎很有吸引力，但如果这些智能扫地机器人变得过于强大，那么在完成创造一个干净的乌托邦的幻想使命上，它们可能会对制造尘土的人类主人带来严重伤害。

对生存威胁的担忧蔓延

为了强调许多圈子越来越意识到人工智能对人类的生存危险，作者提到，2022年5月，超过350名技术高管、研究人员和学者签署了一份声明，警告人工智能的存在风险。他们呼吁把减轻人类灭绝风险作为全球优先事项，就像流行病和核战争等其他社会风险一样。

同时，他补充道，特斯拉所有者埃隆·马斯克、苹果公司创始人之一史蒂夫·沃兹尼亚克等人签署的信函呼吁停止先进人工智能系统的开发六个月。

他还提到，美国政府敦促人工智能负责人进行负责任的创新。他指出，“为了抓住它提供的机遇”，“我们必须首先管理它的风险”。

人工智能的意识形态

然而，莫佐罗夫表示，一个由学者、投资者和商人组成的新压力团体正在回应这些担忧，他们称：一旦通用人工智能的安全得到保证，将是文明的福音，可能会振兴经济、增强科学知识、“丰富人类”。

他表示，有争议的通用人工智能技术的支持者采用了所谓的“人工智能意识形态”，这是一种错误的意识形态。他补充道，人工智能的真正危险是政治性的，并且无法通过驯服反叛机器人来解决。此外，最安全的人工智能形式并不能实现其支持者所承诺的渐进治愈，并且他们通过宣称这是不可避免的情况来分散人们对寻找提高人类智力的更好方法的注意力。

市场意识形态的附属

在此背景下，莫佐罗夫引用了已故英国首相玛格丽特·撒切尔的言论：“市场别无选择”。他继续说道，通用人工智能只是一个更大的意识形态，即市场意识形态的私生子。

他解释称，通用人工智能可能不会打破资本主义，而是可能为资本主义最具破坏性的意识形态创造一个强大的（而且更强大的）盟友，这里指的是痴迷于私有化、竞争、自由贸易、自由市场和放松管制的新自由主义。

他表示，新自由主义通过强化人工智能并复制其关键偏见，在人工智能领域找到了盟友，即私人参与者的表现优于公共参与者（市场偏见），对现实的调整胜过改变（适应偏见），以及效率胜过社会关注（效率偏见）。

虚假的黎明

这些偏见颠覆了通用人工智能的诱人前景。寻求建设世界而不是拯救世界只会让事情变得更糟。

他补充道，通用人工智能将根据营利性技术解决方案重新构建社会问题。因此，属于公共领域的问题将被重新构想为市场领先的机会。

他指出，新自由主义善于利用技术让社会的苦难变得可以忍受。这种天赋根植于对适应的追求中，正是这种愿望，通过使用科技魔杖，使我们对自己的困境变得麻木不仁。它是新自由主义孜孜不倦地鼓励人们自力更生、具有韧性的产物。

莫佐罗夫继续说道，可以肯定的是，硅谷的许多用于跟踪支出、卡路里和锻炼方案的应用程序有时很有用，但他们常常忽视贫困或肥胖的根本原因。他还指出，如果不解决根源，人们就会陷入适应而非改变的境地。

政治生活扁平化

他问道：机构是否应该只是适应？ 难道它不能推进提高人类智力的议程吗？ 或者人们会利用这些机构来减轻硅谷技术的风险吗？

他表示，对新自由主义的一个常见批评是，它通过围绕效率重新安排政治生活，从而使政治生活变得扁平化。他还指出，政客们目前通过关注效率来“解决”气候变化问题，让最严重的罪犯继续存在，就像以前一样。

他补充道，在效率文化中，市场衡量事物的价值并取代正义，不可避免地会侵蚀公民美德。这种文化造成的问题随处可见，例如，学者们担心，在新自由主义下，研究和教学已经成为一种商品。医生们哀叹医院正在优先考虑更有利可图的服务，例如择期手术，而不是紧急护理。

他强调，如果我们在这些机构中滥用通用人工智能，那么它们的任务对人工智能来说不是可视化的。