你平均他们还是什么？

是的！小批量的损失梯度只是小批量中单个样本的梯度的简单平均值。请参阅深度学习书的第 8.1.3 节：

因此，我们可以通过对小批量示例进行采样来获得泛化误差精确梯度的无偏估计量$\{x(1),...x(m)\}$ 有相应的目标$y(i)$从数据生成分布$p_{data}$，然后计算关于该小批量参数的损失梯度：

$$\hat{g} = \frac{1}{m} ∇_\theta \sum_{i} L(f(x^{(i)}; \theta), y^{(i)}).$$