通用人工智能需要协作吗?

人工智能 比较 多代理系统 群体智能
2021-11-12 04:38:05

人类在群体中比个人更有生产力,这可能是因为一个人的大脑在计算速度和专业领域方面的自我改进是有限的。

相比之下,如果创造出具有通用人工智能的机器,然后分配任务,那么机器是否有可能通过不断提高自身的计算能力和对各种技能的掌握来更好地完成任务,而不是与其他代理(无论是自身的副本、其他 AI 还是人类)合作?

换句话说,AGI 是否需要协作,或者它总是能够单独实现其目标?

2个回答

在我的回答中,我经常在 AGI 和 ASI 之间切换以供参考。这很好,因为 AGI 将在优化自身和学习时达到 ASI。
我认为 AGI 和 ASI 具有协作性质不仅很重要。Nick Bostrom 在他的书《超级智能:路径、危险、策略》第 10 章中描述了 ASI 可能发挥作用的三种方式:

作为一个预言机,它几乎准确地回答了向它提出的任何问题,包括人类无法轻易回答的复杂问题——例如,我怎样才能制造出更高效的汽车发动机?Google 是一种原始类型的预言机。
作为一个精灵,它执行它给出的任何高级命令——使用分子组装器来构建一种新的更高效的汽车发动机——然后等待它的下一个命令。
作为一个主权者,被赋予了广泛而开放的追求,并被允许在世界上自由行动,自己决定如何最好地进行——发明一种比汽车更快、更便宜、更安全的方式,让人类私下运输自己.

这是当 AGI 和 ASI 处于受控方式并且它们的输出符合预期的情况下。控制我的意思是他们不会开始将人类视为威胁并开始消灭人类。更多关于这个here如您所见,上述所有 ASI 都具有协作性质。他们要么与人类协作,要么需要与其他系统协作。

现在回答您的问题:首先,协作性质在效率和性能
方面非常有用这就是为什么要制造分布式系统的原因。我们现在甚至有分布式操作系统。此外,编码/开发中的模块化方法和面向对象模型的巨大成功证明了在不同实体之间使用协作的优势。 如果您考虑一下,甚至 AGI 也在以某种方式协作和使用来自其他地方的资源。当你的 AGI 正在学习时,它正在从互联网上获取信息。它读取信息并尝试相应地构建(这将取决于其神经模式)并创建知识
(或有价值的东西)本身。它使用网络协议与外部世界(其他系统)协作。如果它不协作,那么系统的防火墙可能不允许它使用该服务。互联网上的不同服务需要遵循一组不同的协议。因此,如果 AGI 想要就信息进行通信,它需要遵循这些协议。这样,即使在早期阶段,AGI 也将学会与不同的实体进行协作。
从 AGI 的角度来看,与 Web 服务器通信和与另一台 AGI 机器通信非常相似。作为人类,我们不会将所有信息都存储在我们的大脑中。同样,AGI 不会发现在其中存储所有信息是有效的。并非所有信息都需要。内存层次结构就是证明。即使 AGI 被用来存储所有信息,随着时间的推移,它会发现它的效率有多低,并且会重新编程自己,只保存非常重要的信息,并使用互联网来获取不常用的信息。

我想再添加一件事。让我们首先从人类的类比开始。作为人类,我们与其他人类合作。但我们也与我们不同的身体部位合作。比如,我们内部的合作怎么样。我们的腿、手、身体和思想等之间的协作(或协调)。这使我们想到了我们是谁、我们的整个身体或只是我们的大脑的问题。如果我将手移开并用有机植入物代替,我还是我吗?
同样,什么是 AGI?是整个结构,还是只是代码。RAM、ROM、硬盘也是 AGI 的一部分吗?如果您认为硬件不是 AGI 的一部分,那么您的 AGI 也在使用某些协议与这些设备进行协调。在某种程度上,这也是合作。

通讯很贵。它需要一个通信通道、一个协议,当然还有时间。通信也仅限于协议定义的表达能力。另请注意,代理可能会争夺资源,或者可能有相互矛盾的目标,因此在某些情况下,他们可能会试图相互误导。

另一方面 - 计算能力和内存是有限的,因此多个代理可以比每个单个代理更好/更快地一起解决计算密集型或内存密集型问题。不同的代理可能有不同的传感器,移动代理可能拥有关于其领域不同部分的信息,因此通过共享知识,他们可能拥有更完整的信息并做出更好的决策。目标也可能是有时间限制的,而奖励可能是时间相关的。有时一起工作意味着更大的回报。

总而言之,可能存在协作有益的情况,并且可能存在协作对于实现个人目标或实现共同目标必不可少的情况。