我正在尝试从头开始实现反向传播算法。为此,我阅读了这个博客:反向传播
现在,我不确定这里的全卷积和卷积之间的区别。 我的网络的配置以下是我的网络 中的层
- 卷积
- 热路
- 最大池
- 足球俱乐部
- 软最大
交叉熵 所以交叉熵的导数是 (py) {p = 实际概率 y = 真实概率}。因为,我有三个类,所以,我的向量看起来像这样:
[0.8 0.1 0.1] 而且由于我的 FC 的输入是一个大小为 384 的向量,因此,将它与这个向量进行卷积将给我一个大小为 381 的向量。我的过滤器的大小为 384。那么我该如何更新过滤器大小为 384,渐变大小为 381?我是一个新手,我的脑袋安静地停留在这些概念上。非常感谢任何帮助。
