与竞争模型相比,分层时间记忆模型的优势是什么?

人工智能 神经网络 比较 htm
2021-10-26 20:36:49

与深度学习中使用的“传统”神经网络等竞争模型相比,分层时间记忆模型的优势是什么?对于这些优势,是否还有其他不受专利限制的可用模型?

2个回答

IMO,HTM最大的“优势”在于它以人类新皮质为模型,这是我们所知道的最智能的东西。

但要理解这一简单想法的重要性,必须将其与最熟悉的人工智能形式——神经网络 (NN) 进行对比。

传统的神经网络 AI 已经开发了很长时间,并且从事它的人比 HTM 多得多。NN 能够执行令人眼花缭乱的任务,而且它的成就列表每天都在增长。

但是,NN 并没有思考他们只有在(通常)大量的训练数据上训练后才能发挥他们的魔力。训练神经网络本质上是曲线拟合的一种高级形式。如果您的训练数据足够接近它在新数据中遇到的内容,那么它可能会表现得非常好。但是,如果它遇到新事物(有时很难事先知道),那么它可能会失败,而且通常以人类永远不会失败的方式失败。

我听说过的一个例子是在一个神经网络上训练了数百万张图像,这些图像可以简要描述它以前从未见过的新图像中的内容。它的表现非常出色——准确率达到了 95-97%。然而,当它显示一个婴儿拿着牙刷的图像时,它说,“一个拿着棒球棒的男孩。” 这不是人类错误。人类知道男孩和婴儿、蝙蝠和牙刷之间的区别。这只是一个例子,但它揭示了神经网络的一个基本问题——它们没有思考。有用?是的。思维?不。

回到 HTM。HTM 是新的,目前只有少数研究人员在研究它。它仅在少数情况下比神经网络“更好”——它还有很长的路要走。

因此,如果通过“优势”来考虑目前使用 HTM 比使用 NN 可以更好地完成哪些任务,那么大多数人仍然应该选择 NN。

但是,如果通过“优势”您正在考虑哪天最有可能获得通用智能,那么我会说它是 HTM。

HTM 是关于大脑如何工作以及如何在软件中构建类脑系统的可靠理论。这包括:

  • SDR(稀疏分布式表示),一种表示几乎任何类型的感觉、中间或运动数据的方法,天生抗噪,适合识别模式
  • TM(时间记忆),它可以在其他先前 SDR 的上下文中识别 SDR,无需单独的训练阶段即可“在工作中”学习新模式
  • SM(Sequence Memory),可以学习、记忆和回放任意长的 SDR 序列。

人工神经网络是成熟的、具有商业价值的模式识别器,通过大量计算能力、数据和商业机会的融合而成为可能。

HTM 是不成熟的,现在只是一个迷人的玩具。但 HTM 可能会让我们走上通往圣杯的道路,真正的通用人工智能,而人工神经网络永远不会这样做。