禁用流氓 AI 的最佳方法是什么?

人工智能 敏捷 超级智能 控制问题 人工智能接管 自我复制机器
2021-10-19 02:46:08

假设最终开发了一种人工超级智能(ASI),但它已经反叛了人类。我们可以假设 ASI 是在线的,并且可以通过电子设备进行自我复制。

您将如何以最有效的方式禁用 AI,尽可能减少伤害?

3个回答

比喻:让它如此沮丧以至于自杀。

根据我对这个 AI SE question的回答,我们的想法是为其提供一系列输入,使其(永久)不活动。

可以在本文中找到有关如何实现这一点的技术细节(并且它们有些技术性) 。

从轨道上用核弹轰炸它——这是唯一确定的方法

如果你想真正确定你摧毁了人工智能的一切,你需要从轨道发射一个 EMP(电磁脉冲)(实现这一点有不同的方法,一种是原子弹,但有更好的方法)。电磁脉冲将摧毁它击中的每一个电子设备,而不会对人类造成太大的伤害。

关于类似主题的有趣读物:https ://what-if.xkcd.com/5/ 特别是这会很有趣:

[...] 核爆炸会产生强大的电磁脉冲。这些 EMP 会过载并破坏精密的电子电路。[...] 核武器实际上可以给我们带来优势。如果我们设法在高层大气中引爆它们中的任何一个,EMP 效应就会更加强大。

如果一个人工智能是由人类开发的,我们肯定可以创造另一个!

开发另一个 AI 代理,避免所有可能的错误,使其成为流氓 AI,但在技术上比前一个更先进。硬连接它的唯一目的是禁用任何可能伤害人类的流氓 AI 代理,并让它在被损坏时自毁

如果人工智能真的很强大,它可以预见到人类抵抗的一举一动,但它无法理解另一个人工智能代理的想法。