研究人员评估人类控制杀手AI的能力，警告超级人工智能无法控制

欧洲享有盛誉的马克斯·普朗克学会的科学家说，利用我们目前的技术，人类没有机会控制能够拯救或摧毁人类的超智能人工智能。

该研究机构上周发表在《人工智能研究杂志》上的论文，主要研究人类对一个决定终结人类的超级人工智能的反应能力。

减轻有害AI的威胁

例如，如果未来的超级人工智能决定终结人类苦难的最有效方法就是简单地终结人类，我们将如何制止它？

这就是马克斯-普朗克学会的人在最近发表的研究报告中提出的问题。答案是：以今天的技术，我们几乎只能眼睁睁地看着自己被消灭。

这就是为什么研究人员提出要开发一种他们所说的 “遏制算法”，模拟超级智能人工智能的危险行为，防止它做出任何有害的事情。

听起来像科幻小说

Max Planck Society的研究人员告诫说，能够为人类做出有影响力的决策的AI指日可待。

马克斯·普朗克人类发展研究所人类与机器中心数字动员小组负责人曼努埃尔·塞布里安（Manuel Cebrian） 说：“控制世界的超级智能机器听起来像科幻小说。”

Cebrian继续说道：“但是，已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。因此，问题就来了，这是否在某个时候会变得不可控制并对人类构成危险。”

阻止杀手机器人运动

当然，所有这些都是理论上的，因为我们距离拥有这种能力的人工智能还有很长的路要走。尽管如此，新论文还是增加了一个重要的辩论，这场辩论是由埃隆·马斯克（Elon Musk）和诺姆·乔姆斯基（Noam Chomsky）等人支持的Stop Killer Robots运动所带头的。获取更多前沿科技 信息 请持续关注：https://byteclicks.com