是什么让动物大脑如此特别?

人工智能 神经网络 神经元 神经科学 心智计算理论
2021-11-04 01:28:29

每当我阅读任何关于神经网络或机器学习的书时,它们的介绍性章节都会说,由于大脑的大规模并行性,我们无法复制大脑的能力。

现在,在现代,晶体管已经缩小到纳米大小,比神经细胞小得多。此外,我们可以轻松构建非常大的超级计算机。

  • 计算机的记忆比大脑大得多。
  • 计算可以比大脑更快地进行通信(以纳秒为单位的时钟脉冲)。
  • 计算机可以是任意大的尺寸。

所以,我的问题是:即使有了如此先进的技术,如果不是大脑的信息处理能力(因为大脑还没有被很好地理解),为什么我们不能复制大脑的并行性?我们面临的障碍究竟是什么?

3个回答

一个可能的硬件限制因素是内部带宽。人脑有1015突触即使每个人每秒只交换几位信息,那也是1015字节/秒内部带宽。一个快速的 GPU(比如那些用于训练神经网络的)可能会接近1011字节/秒的内部带宽。您可以将其中的 10,000 个放在一起以获得接近人脑总内部带宽的东西,但节点之间的互连会相对较慢,并且会成为“大脑”不同部分之间信息流的瓶颈。

另一个限制可能是原始处理能力。现代 GPU 可能有 5,000 个数学单元。每个单元的循环时间约为 1 ns,并且可能需要约 1000 个循环来完成一个神经元在约 1/10 秒内完成的等效处理工作(这个值完全是从空中提取的;我们真的不知道最多在硅中匹配大脑处理的有效方法)。因此,单个 GPU 可能能够匹配5×108实时神经元。你最好需要 200 个来匹配大脑的处理能力。

这种粗略的计算表明内部带宽可能是一个更严重的限制。

这一直是我的研究领域。我已经看到之前的答案表明我们没有足够的计算能力,但这并不完全正确。

人脑的计算估计范围为 10 petaFLOPS (1×1016) 到 1 exaFLOPS (1×1018)。让我们使用最保守的数字。TaihuLight可以做到 90 petaFLOPS,9×1016.

我们看到人类大脑的功能可能要强大 11 倍。所以,如果心智计算理论是正确的,那么太湖之光的推理能力应该可以匹敌大约 1/11 的动物的智能。

如果我们查看神经皮层列表,松鼠猴的大脑皮层神经元数量约为人类的 1/12。有了人工智能,我们无法与松鼠猴的推理能力相提并论。

一只狗的神经元数量约为 1/30。有了人工智能,我们无法比拟狗的推理能力。

一只棕色大鼠的神经元数量约为 1/500。有了人工智能,我们无法与老鼠的推理能力相提并论。

这使我们降低到 2 petaFLOPS 或 2,000 teraFLOPS。全球有 67 台超级计算机应该能够与之匹敌。

老鼠的神经元数量是棕色老鼠的一半。有 190 台超级计算机应该能够匹配它的推理能力。

青蛙或非鱼群大约是这个的 1/5。所有排名前 500 位的超级计算机都比这强大 2.5 倍。然而,没有人能够匹配这些动物。

我们面临的障碍究竟是什么?

问题是不能仅使用 Church-Turing 来定义认知系统。人工智能应该能够匹配非认知动物,如节肢动物、蛔虫和扁虫,但不能匹配较大的鱼类或大多数爬行动物。

我想我需要给出更具体的例子。NEST系统在 5 petaFLOPS BlueGene/Q 上展示了 5.2 分钟内 5.2 分钟内 5.2 亿个神经元和 5.8 万亿个突触的 1 秒操作目前的想法是,如果他们可以将系统扩展 200 到 exaFLOPS,那么他们可以以 1/300 的正常速度模拟人类大脑皮层。这听起来可能有道理,但实际上没有任何意义。

一只老鼠的神经元数量是人类皮层的 1/1000。所以这个相同的系统今天应该能够以正常速度的 1/60 模拟小鼠大脑。那么,他们为什么不这样做呢?

简短的回答:没有人知道。长答案:所有强人工智能都有效。但是,要写一些对操作有用的东西,说问题包含几个隐含的陈述,分析它们可能有助于澄清问题:

a)为什么 1 个晶体管与 1 个神经元具有相同的功能?一些明显的区别:一个晶体管有 3 条腿,每个神经元有大约 7000 个突触;晶体管具有 3 层材料,神经元是具有数千个组件的完整微型机器;每个突触本身就是一个开关,连接到一个或多个其他细胞,并且可以产生不同类型的信号(激活/抑制、频率、幅度……)。

b) 比较内存量:一个人的内存量相当于一台计算机 0 字节的内存量,我们无法永远记住任何东西而不会失真。人类的记忆是象征性的、时间性的、联想性的、受身体和感觉影响的…… 与计算机完全不同的东西。

c) 前面都是关于“硬件”的:如果我们分析软件和培训,差异会更大。甚至假设智力只存在于大脑中,而忘记了荷尔蒙系统、感官的作用……是一种尚未证明的简化。

总结:人脑与计算机完全不同,我们离理解它还很远,复制它更远。

从计算机时代开始,当内存量、处理能力……达到某个阈值时,就会出现比智能更重要的想法。