通过人工智能 短短6小时内生产40000化学武器

化学武器被定义为以军事形式出现时可对人类造成伤害的任何化学物质 (Pexels)

欧洲的一个研究团队宣布,如果有意使用人工智能,可以轻松制造大量全新的生化武器,人工智能经过开发,能够帮助改变这个星球上的战争版图;这一结果引发了科学家的担忧。

根据3月7日发表在《自然·机器智能》(Nature Machine Intelligence)期刊上的一项研究,该团队设计了名为MegaSyn2的分子生成器,这是一种使用机器学习来寻找治疗人类疾病的新型化合物的算法。

机器学习是人工智能的一个分支,旨在构建和开发算法,使计算机能够像人类一样“学习”,利用可用信息推导出一般规则和规定,然后将其应用到接收的信息中。

反向目标

在正常情况下,算法是为了减少危害和最大化利益而设计的,即在算法的第一个循环中产生化合物后,在第二个循环中对其进行细化,使其主要服务于安全目的,对人体无害。

当然,这是可以理解的,任何研究人员都会使用这种逻辑来开发一种新的治疗方法,以获得尽可能多的益处,并尽可能地减少伤害。

但根据新的研究,研究人员逆向运作了这一机制,因此该算法学会了偏爱伤害和避免利益。在开启后不到6小时内,他们的模型产生了40000个被视为对人体有害的化学分子。

化学武器的定义为以军事形式(弹药、炸弹等武器形式)出现时可对人类造成伤害的任何化学物质。例如,氯气以炸弹形式发射时被视为化学武器,它在人体吸入时会刺激鼻子和呼吸道,在肺部积聚后会导致窒息。

机器学习是人工智能的一个分支,旨在构建和开发允许计算机像人类一样“学习”的算法 (Pexels)

战争的未来

当然,研究人员并不是为了创造化学或生物武器,研究论文是在瑞士政府建立的一系列“融合”会议的背景下发表的;这些会议旨在讨论化学和生物学界的发展,并思考关于这些事态发展风险的潜在安全影响。

根据会议声明,此前科学界并没有太多关于人工智能创造新药的双重用途的讨论,一方面它们可能是有益的,另一方面它们是非常有害的。

研究人员希望,这些新数据将有助于开发更好的机制,以遏制现在和将来在化学战的背景下人工智能的进步被滥用。

事实上,关于这一主题的辩论日益引起更大关注,尤其是在世界范围内使用生化武器的比率不断上升的情况下,一些专家预计,生化武器的使用将在当前的乌克兰战争中只是时间问题。

来源 : 半岛电视台 + 电子网站