有哪些详细描述脉冲神经网络基础知识的资源示例?

人工智能 神经网络 参考请求 资源请求 尖峰神经网络
2021-11-10 03:54:23

我对从头开始编写一个尖峰神经网络引擎 (SNN) 非常感兴趣,但我找不到开始所需的基本信息。

例如,我在几篇研究论文中看到了组合形成神经元脉冲的单个信号的图片,但没有关于所使用方程的信息。这不是论文的重点,作者假设读者已经掌握了这些知识。一些论文引用了提供此基础的软件(NESTpyNN等),但该软件的文档同样对细节很轻。

有大量关于更常见网络类型的信息,但 SNN 尚未成为主流。

那么,我从哪里获得这些基本信息呢?是否有人为 SNN 汇总了任何食谱/示例/教程,就像所有其他网络类型所做的那样?

2个回答

那里有许多不同版本的尖峰神经网络。我认为这主要是因为没有像 CNN 和 BP 这样具有适当学习算法的占主导地位的成功 SNN 模型。然而,最近有几篇关于 SNN 的论文(例如SuperSpikeSLAYER)可能会导致 SNN 的标准框架。它发生在大约 2 年之内,所以这也是迄今为止 SNN 上没有友好介绍的原因之一。我在一般意义上发现了一些关于 SNN 的博文,但它没有涵盖 SNN 最近的重要趋势。

目前,了解 SNN 的最佳方式是阅读论文。我推荐的一篇论文是“Surrogate Gradient Learning in Spiking Neural Networks”,它全面回顾了最近在 SNN 中使用反向传播进行监督学习的工作。

如果您想从头开始实现 SNN,我建议您查看 BindsNET( github , paper ),它是一个基于 PyTorch 的 SNN 框架。对我来说,与其他现有的 SNN 库相比,它的使用和理解最为直观。它涵盖了各种神经元模型和学习规则。但我不确定它是否也涵盖了“Surrogate Gradient Learning in Spiking Neural Networks”中描述的学习规则

Wulfram Gerstner 和 Werner M. Kistler有一本书Spiking Neuron Models: Single Neurons, Populations, Plasticity (2002)。

我还发现这些幻灯片可能很有用。

(额外的资源将不胜感激。)