可以在 Keras/Tensorflow 中对不同的神经元使用不同的学习率吗?

数据挖掘 深度学习 张量流 喀拉斯 训练
2021-10-09 20:49:17

最简单的例子是在网络的上层/下层具有更快/更慢的学习率。在 tensorflow 上找到了这篇文章。

  • Keras中是否有类似的技巧?
  • 更进一步,我们可以为特定层中的特定范围/神经元集/权重设置不同的学习率吗?
1个回答

您可以在此处关注此线程:https ://github.com/fchollet/keras/pull/3004似乎至少应该进行分层调整。