使用 SGD 的训练精度

数据挖掘 机器学习 深度学习 训练
2022-02-23 05:37:03

所以我在批量训练数据上计算我的 CNN 的训练准确度,它几乎总是给出 100% 的准确度。但是我从某个地方发现,为了获得训练的准确性,它会针对整个训练数据进行测试,而不是针对您用于训练的特定批次进行测试。

甚至计算训练精度吗?我想知道您是否不使用批次进行培训。那么它总是100%准确吗? 在此处输入图像描述

我怀疑这是由于使用了小批量。

1个回答

不考虑训练准确性,因为在您的情况下,它可以为过度拟合100%提供伪造的评估值。因此,它总是针对未接受训练的批次进行计算。这对应于广义误差有关更多信息,请参阅K-Fold交叉验证。

这可能会有所帮助:https ://thebayesianobserver.files.wordpress.com/2012/02/debugging-ml.png