奇点值得认真对待吗?

人工智能 哲学 社会的 超级智能 奇点 人工智能神话
2021-10-29 21:27:45

奇点一词经常在主流媒体中用于描述有远见的技术。它是由 Ray Kurzweil 在一本畅销书The Singularity Is Near: When Humans Transcend Biology (2005) 中介绍的。

在他的书中,Kurzweil 展望了人类的潜在未来,包括纳米技术、计算机、基因改造和人工智能。他认为,摩尔定律将允许计算机呈指数增长,从而产生超级智能。

技术奇点是人工智能开发人员认真对待的东西,还是这个理论只是一种流行的炒作?

4个回答

我可以说,在我与之互动的 AI 研究人员中,将其视为疯狂的猜测而不是既定的事实更为普遍

对人工智能研究人员的调查证实了这一点,80% 的人认为强大的人工智能形式将在“50 多年”或“永远不会”出现,只有少数人认为这种形式的人工智能“接近”。

软件开发人员与 AI 研究人员不同,我发现奇点神话在开发人员中更为普遍。它有一个很好的特点:计算机越来越快,在某些时候它们会比大脑更快,那时我们只是模拟大脑。不久之后,我们模拟了比大脑更好的东西。

我怀疑人工智能研究人员不那么乐观的原因在于,我们对人类智能仍然没有很好的理解,甚至对大脑的理解还不足以模拟它。例如,在过去的两周里,我们发现了以前未知的脑细胞类型这给人的(正确的)印象是,即使我们有一台足够快的计算机,我们也根本无法准确模拟人脑。我们真的不知道人脑是什么。

即使我们确实知道这一点,模拟也必然是有损的。我们可能没有好的模拟技术。即使我们确实有很好的技术,我们也可能模拟大脑并发现我们的模拟由于我们不理解的原因而没有达到预期的效果。这在模拟新系统时很可能发生。从某种意义上说,奇点的支持者类似于 1940 年代预测天气控制即将到来的人们。毕竟,那时我们已经可以模拟简单的天气模式,并生成有效的预测。生成完美的预测真的要复杂多少?

至少有一位非常重要和严肃的 AI 科学家显然相信创造真正的通用人工智能和可能的超级智能:Jürgen Schmidhuber,他是LSTM的合著者,以及许多其他重要贡献。事实上,他最近创立NNAISENSE就是为了这个终极目的,也就是打造一个通用的人工智能。在 TEDxLausanne 的演讲中,当创意机器超越人类时,Schmidhuber 谈到了奇点(也称为omega)。另请参阅他的网络文章历史正在融合吗?再次?(2012)或论文2006 年:庆祝人工智能 75 年——历史与展望:未来 25 年(2007 年)。

为了保持一致,您应该提供有关“技术奇点”的参考,因为它包含多个领域(数学、统计学、科学哲学、认识论、社会学、政治、经济学等等)。

一般来说,当你考虑与adj + ai相关的概念时(其中 adj = {weak, strong, full,narrow, ...}),猜测的气息是相当大的并且在 fieri 中,所以作为开发人员(对于开发人员 I假设您从事与编码相关的问题,而不是 google x 的项目经理等)我不会担心,除非您在休息时与同事一起喝杯茶。

是的,必须认真对待。主要原因有两个:

  1. 不存在反对奇点存在的尖锐论据或不可行定理。目前尚不清楚奇点的发展速度有多快,但许多作者认为此事件的概率不为零(请参阅此参考资料,其中包含领先专家对奇点的不同观点)。
  2. 奇点的后果将是戏剧性的。因此,即使第 1 点的感知概率非常小,也值得研究可能的缓解途径。