据我了解,它描述了神经元检测到相同特征时的现象。为什么会这样?
深度神经网络中的协同适应是如何发生的
机器算法验证
机器学习
神经网络
深度学习
过拟合
反向传播
2022-04-04 06:32:04
1个回答
由于权重没有正确初始化,并且神经元组根据它们的(相似的)初始化而最终处于相同的局部最小值。
为了克服这个问题,您可以使用 dropout / drop connect 来打破对称性。
Hinton, GE, Srivastava, N., Krizhevsky, A., Sutskever, I., & Salakhutdinov, RR (2012)。通过防止特征检测器的共同适应来改进神经网络。