我正在尝试为多层网络找到等效的 Hinton 图，以在训练期间绘制权重。
训练后的网络有点类似于 Deep SRN，即它具有大量的多个权重矩阵，这会使同时绘制几个 Hinton 图的图在视觉上令人困惑。
有谁知道可视化多层循环网络的权重更新过程的好方法？
我没有找到很多关于这个主题的论文。如果我想不出什么，我想在每层的权重上显示与时间相关的信息。例如，随着时间的推移，每一层的权重增量（省略每个连接的使用）。PCA 是另一种可能性，尽管我不想产生太多额外的计算，因为可视化是在训练期间在线完成的。
可视化深度神经网络训练
数据挖掘
机器学习
神经网络
可视化
深度学习
2021-09-26 02:28:36
2个回答
我知道的最接近的事情是ConvNetJS：
ConvNetJS 是一个 Javascript 库，用于完全在浏览器中训练深度学习模型（主要是神经网络）。打开一个标签，你正在训练。没有软件要求，没有编译器，没有安装，没有 GPU，没有汗水。
此站点图上的演示权重以及它们如何随时间变化（请记住，它的许多参数，因为实际网络确实有很多神经元）。此外，如果您对他们的绘图不满意，可以访问网络参数，您可以根据需要进行绘图（因为它是 JavaScript）。
根据我对与您的问题相关的主题的粗略理解，我认为Gephi（原始 gephi.org 链接重定向到那里）应该能够处理神经网络动态可视化。看来，为了实现您的目标，您需要使用相应的权重来流式传输您的图表。对于流媒体，您很可能需要这个插件。
更新：您可能还会发现有用的 SoNIA 软件。