数据挖掘 - 为什么 Keras Dense 层在每层中扩展张量的数量 - 吾爱随笔录

为什么 Keras Dense 层在每层中扩展张量的数量

数据挖掘神经网络喀拉斯

2022-03-13 16:57:30

我有以下模型：

dense_2477我想知道为什么 eg和的参数数量不同dense_2482？两层都有相同数量的神经元，为什么它们提供不同的参数数？

2个回答

参数的数量是连接层和前一层的权重数量，因此对于层，它取决于层和前一层中的神经元数量。 $i$ $i$ $i-1$

全连接神经网络的精确公式是：其中是第层的神经元数量，层的神经元数量，项考虑了偏差。

n_{i} (n_{i - 1} + 1),

$n_i(n_{i-1}+1),$

n_{i}

$n_i$

i

$i$

n_{i + 1}

$n_{i+1}$

i + 1

$i+1$

+ 1

$+1$

所以对dense_2477你来说确实得到并且对于,正如预期的那样。

n_{p a r a m s} = 8 (16 + 1) = 136,

$n_{\mathrm{params}}=8(16+1) = 136,$ dense_2482

n_{p a r a m s} = 16 * (8 + 1) = 144,

$n_{\mathrm{params}}=16*(8+1) = 144,$

Dense 实现操作：output = activation(dot(input, kernel) + bias)其中 activation 是作为激活参数传递的元素激活函数，kernel 是层创建的权重矩阵，bias 是层创建的偏置向量（仅适用于 use_bias 为True）。你可以避免这种情况发生如果你设置use_bias=False.

其它你可能感兴趣的问题

上一篇传输 EHR 数据的最佳文件格式下一篇如何为这个交叉验证曲线选择模型？