在 RBM 中，如果我们表示隐藏单元学习的权重，它们表明神经网络正在学习基本形状。例如，对于 mnist 数据集，他们学习他们试图分类的数字的特征。
在具有一个隐藏层的常规前馈网络中，我可以训练网络识别数字，并且它可以工作，但是当我尝试可视化隐藏层权重时，我只看到噪声，没有可区分的特征。这是为什么？网络还没有学会识别数字吗？
权重的隐藏神经元表示
数据挖掘
神经网络
RBM
2022-02-27 14:48:24
1个回答
它已经学会了识别数字，但它可能对单个像素施加了过多的权重。尝试添加不同数量的 L2 正则化或 dropout，并比较权重的可视化。添加某种正则化应该使网络减少对单个/独立像素的依赖，而更多地依赖数字的固有结构，从而为您提供更平滑的权重/可视化。
其它你可能感兴趣的问题