技术奇点只能在超级智能中出现吗?

人工智能 哲学 定义 奇点 超级智能
2021-10-26 22:56:56

在《人工智能:一种现代方法》 (第 3 版)一书的第 26 章中,教科书讨论了“技术奇点”。它引用了 IJ Good,他在 1965 年写道:

让超智能机器定义为能够远远超越任何人的所有智力活动的机器,无论多么聪明。由于机器的设计是这些智力活动之一,因此超智能机器可以设计出更好的机器。那么毫无疑问会发生“智力爆炸”,而人类的智力将被远远抛在后面。因此,第一台超智能机器是人类需要做出的最后一项发明,前提是机器足够温顺,可以告诉我们如何控制它。

稍后在教科书中,您有这个问题:

26.7 - IJ Good 声称智能是最重要的品质,建造超智能机器将改变一切。一头有知觉的猎豹反驳说“实际上速度更重要;如果我们能制造出超快的机器,那将改变一切”,一头有知觉的大象声称“你们都错了;我们需要的是超强的机器”,你怎么看这些论据?

似乎教科书问题是反对 IJ Good 的隐含论点。Good 可能将智力视为有价值的,仅仅是因为人类的优势在于被称为“智力”的特征。但是其他特征可能会受到同等重视(速度或力量),而众生可能会疯狂地推测他们喜欢的特征被某种机器“最大化”。

这让我想知道,如果我们制造的机器不是最大化智能,而是最大化其他特性(一台总是增加其强度的机器,或者一台总是增加其速度的机器),是否会出现奇点。这些类型的机器同样具有变革性——超快机器可以通过“蛮力”快速解决问题,而超强机器可以将其原始力量用于各种体力任务。也许一台超 X 机器无法制造另一台超 X 机器(正如 IJ Good 将机器设计视为一种智力活动),但一台不断自我改进的机器仍会将其创造者远远抛在后面,并迫使其创造者成为依赖它。

技术奇点是否仅限于超智能?或者技术奇点是由不是“强人工智能”但仍然是“超级”优化器的机器造成的?

3个回答

那对速度或力量来说是不行的,如果你有一个超强的实体,但它不能研究新材料,它很快就会受到限制,速度也是如此,基本上,你需要他们领域之外的东西来改进它们,这使得失控的改进是不可能的。

虽然,我们已经有了超强超快的机器,那些是汽车、卡车、液压机、工业外骨骼等……但是,即使我们可以通过使用旧机器来制造更好的机器,我们仍然需要研究一些东西旧的无法改善的。

对于奇点,我们需要的是一个对其进行改进使进一步改进变得更容易的领域。而且我不知道这不涉及情报的领域。如果有,那可能有一个非智能驱动的奇点。

“蒙特卡洛”似乎是目前算法创造力的最佳方法。(即机器做出随机选择,看看它们是否会导致任何有用的东西。)

虽然很明显,由理解形成的创造性连接优于随机连接,但如果机器足够快,它应该能够通过纯粹的“蛮力”获胜。

即,在人类指导之前,进化不是基于智能。* 相反,进化是基于有益或有害的随机突变。


*需要注意的是,人类创造算法和改变基因(在实验室或通过畜牧业和园艺)可以说是一种新的进化形式,它实际上植根于人类的智慧和欲望。

这可能不是您想要的,但从技术上讲是的。虽然不是为了速度和力量。但是你可以随机猜测新的数学/物理/化学解决方案,以提高随机猜测的效率(基本上是任何能让机器计算得更快并可能模拟这些发现的效果的东西),从而在技术上实现类似于奇点的东西,而无需实际上(或仅在人类水平上)拥有任何智能,因为您可以蛮力进行所有操作。

这有效率吗?不,甚至不接近以任何方式可行。它有效吗?从技术上讲,是的。

这将是一种奇点,因为它不断地改进自己,但它不需要提高自己的智力。

当然,一些发现可能会使变得更加智能,但我们假设它不会将这些发现应用于自身。