神经网络自组织图

数据挖掘 神经网络
2021-09-23 07:17:53

我正在研究自组织地图的训练算法。我正在研究的幻灯片说:在我找到一个获胜神经元之后(参考示例集中的特定示例),我必须将此公式应用于其及其邻居。

在此处输入图像描述

在哪里d是具体的例子,一世j神经元 ij。我不明白的是半径中dist函数的含义。这个半径意味着什么,它的目的是什么。你能帮助我吗 ?

3个回答

在这里给出了一些可能会有所帮助的解释。

半径r一世j是获胜者邻域的半径。只有那些比r一世j获胜者可以更新。

您在此处显示的公式表明此半径不是恒定的,而是随着每次迭代而减小。最初,您采用较大的半径,然后在每次迭代中使其越来越小。

由于您可能会随机初始化权重,因此您可能希望在训练开始时更改其中的许多权重,但随着训练次数的增加,您可能希望干扰的权重越来越少。这就是你减小半径的原因。

这个公式只是每次迭代时半径变化的特定策略。在这种情况下,它是指数的。您可以选择其他策略或保持半径不变或略微减小(不是指数地),如果您在初始化权重时使用一些领域知识,这可能是合理的。此外,如果你愿意,你可以保持学习率不变。邻域的半径和学习率是超参数。如何选择它们取决于您。

SOM 的半径用于更新相邻节点以及获胜节点的权重。

通常,SOM 节点组织在 2D 晶格上,并且使用欧几里德距离计算邻域。因此,节点在 2D 中形成彼此之间的空间关系,晶格的不同区域代表不同的集群。

Dist function is distance function,generally euclidian distance is used in self organizing map, 

半径是在每次迭代中更新的邻域半径,通常随着迭代次数的增加而减小,因为最佳匹配单元和考虑更新的节点之间的距离较大,更新幅度会较小,因为您可以看到指数上的负号表示。