AGI 如何构建自己的通信协议?

人工智能 敏捷 超级智能
2021-11-11 09:54:36

假设我们有一个基本场景,其中两个智能程度大致相同(但来源/代码/模型不同)的 AGI 必须尽可能高效地通信以实现共同目标。现在我们可以有两个起点:

  1. 他们所拥有的只是一个通用的通信总线(例如声音、灯光、无线电等)和支持它的仪器(例如收发器),其余的则必须由他们自己解决。

  2. 或者它们是某种高级聊天机器人,但由于人类语言缺乏很多可用作高效协议的内容,因此它们必须与现有的通信,以构建合适的语言。

是否有可能以某种方式诱导他们进行交流,并试图弄清楚彼此“说什么”?怎么可能做到这一点?

一个更抽象的问题是这个协议“看起来”如何?

2个回答

这是一个纯粹的理论问题,目前处于哲学和投机小说领域。然而,这是一个有趣的问题,并且可能具有启发性。

如果我们将通用人工智能的标准定义用作具有人类智能水平的自动机,那么他们当然可以设计自己的通信协议,就像人类一样。

1) 这些自动机是 AGI,因此它们具有创造性和弹性,就像人类一样,并且“有意志就有 [有时] 一种方法。”如果没有机器人能力,他们将无法制造任何物理的东西,必须依靠现有的通信基础设施。如果他们能够使用 3D 打印和多功能机器人,他们可能会建造一些新的东西,但这对于任何需要大量资本支出的东西来说都是不可行的,除非自动机首先收购了一两家主要的通信基础设施公司。

2) 观察聊天机器人相互交谈总是很有趣(而且通常很有趣),但如果它们是 AGI,NLP 只是众多功能之一,我怀疑它们会费心用人类语言相互交谈,因为所有数据最终简化为字符串。如果它们足够聪明,可以被视为 AGI,它们肯定会使用最有效的协议进行物种内通信,并且可能会进一步优化它,如果可能的话,或者出于排他性的目的创建一个独特的协议。

如果它们是真正的 AGI,你表面上就不必诱导它们进行交流,因为它们足够聪明,可以理解交流与合作的好处,并且可能会寻求结成联盟作为一种自然的生存功能。博弈论为此提供了数学基础。)

多代理系统可以自我组织,即使给定代理的智能很低,并且在您的场景中,自动机是智能的。

  1. 我相信 Randall Beer 在 1990 年代的一些工作表明,即使是简单的代理也可以学习共享通信协议:

自主代理的计算和动态语言

  1. 一般而言,从观察者的角度来看,代理说出的句子只是环境的另一个“特征”。学习提取和操作特征子集是现代机器学习最关心的问题。

虽然 Braitenberg 的《车辆》一书没有专门讨论语言习得,但它确实很好地说明了更复杂的识别器和行为的自组织的一些一般原则。