我一直在做一些简单的玩具实验，我发现要让 Hebbian 规则很好地工作是相当困难的。从根本上说，Hebbian 学习更倾向于无监督学习，因为深层的教师信号不能像 ReLu 的反向传播那样有效地传播到较低的水平。这反过来意味着，要将 Hebbian 系统应用于实际问题，系统必须找到可以被另一个监督算法轻松“获取”的“良好”表示，如以下最近的示例： http://www.ece。 ucsb.edu/wcsl/people/aseem/Aseem_stuff/hebbian_preprint.pdf

至于 Hebbian 学习的优势，我将列出以下内容：

• 对输入分布变化的高在线适应性
• （可能）更适合超深架构，尤其是 RNN
• 生物学上的合理性
• 易于解释算法正在做的事情

我希望其他有更多知识的人能发表一些评论，因为我也想了解更多关于这方面的信息。