关于称为“自组织地图”的神经网络

数据挖掘 神经网络
2022-02-14 07:04:30

我有这个简单的神经网络(“自组织地图”):

在此处输入图像描述

感知器(神经元)之间横向连接的目的是什么?

1个回答

存在横向连接,因此神经元的更新迫使相邻神经元也被更新,但程度较小。

将具有n 个输入的每个神经元视为一个向量,即n维空间中的一个点。它的坐标是其输入的权重值。

当网络接收到一个输入(也是一个 n 维向量)时,每个神经元都会计算其权重与输入向量之间的距离。权重最接近输入的神经元是获胜者,并允许更新其权重。它通过向输入向量移动一步来更新它们。步长的大小等于学习率。

当它移动时,它使用横向连接来拉动它的邻居(或将其中一些推开,这取决于它们与获胜者的距离以及用于横向连接的函数的形式)。结果,邻居也移动,但他们移动的比获胜者少。

只有获胜者及其邻居可以更新他们的权重。所有其他神经元都不动。邻居是比一定半径更接近获胜者的人。这个半径是一个超参数。

这种类型的学习允许绘制输入向量的空间。结果是神经元的权重或多或少地均匀分布在输入向量集中。训练后,每个神经元可以被认为是输入空间某个区域的代表。