在《人工智能:一种现代方法》 (第 3 版)一书的第 26 章中,教科书讨论了“技术奇点”。它引用了 IJ Good,他在 1965 年写道:
让超智能机器定义为能够远远超越任何人的所有智力活动的机器,无论多么聪明。由于机器的设计是这些智力活动之一,因此超智能机器可以设计出更好的机器。那么毫无疑问会发生“智力爆炸”,而人类的智力将被远远抛在后面。因此,第一台超智能机器是人类需要做出的最后一项发明,前提是机器足够温顺,可以告诉我们如何控制它。
稍后在教科书中,您有这个问题:
26.7 - IJ Good 声称智能是最重要的品质,建造超智能机器将改变一切。一头有知觉的猎豹反驳说“实际上速度更重要;如果我们能制造出超快的机器,那将改变一切”,一头有知觉的大象声称“你们都错了;我们需要的是超强的机器”,你怎么看这些论据?
似乎教科书问题是反对 IJ Good 的隐含论点。Good 可能将智力视为有价值的,仅仅是因为人类的优势在于被称为“智力”的特征。但是其他特征可能会受到同等重视(速度或力量),而众生可能会疯狂地推测他们喜欢的特征被某种机器“最大化”。
这让我想知道,如果我们制造的机器不是最大化智能,而是最大化其他特性(一台总是增加其强度的机器,或者一台总是增加其速度的机器),是否会出现奇点。这些类型的机器同样具有变革性——超快机器可以通过“蛮力”快速解决问题,而超强机器可以将其原始力量用于各种体力任务。也许一台超 X 机器无法制造另一台超 X 机器(正如 IJ Good 将机器设计视为一种智力活动),但一台不断自我改进的机器仍会将其创造者远远抛在后面,并迫使其创造者成为依赖它。
技术奇点是否仅限于超智能?或者技术奇点是由不是“强人工智能”但仍然是“超级”优化器的机器造成的?