数据挖掘 - 线性回归中一般使用 RMSE 而不是 MSE 的原因 - 吾爱随笔录

数据挖掘机器学习线性回归毫秒 rmse

2022-02-11 10:35:32

在线性回归中，为什么我们一般使用 RMSE 而不是 MSE？我知道的基本原理是通过梯度下降可以很容易地最小化 RMSE 而不是 MSE 的误差，但我需要知道确切的原因。

2个回答

然而 RMSE 似乎与 MSE 相似并且是它的根，RMSE 相对于预测的梯度不同于 MSE。 $i^{th}$

\frac{σ R M S E}{σ y_{i}} = \frac{1}{2} \frac{1}{\sqrt{M S E}} \frac{σ M S E}{σ y_{i}}

$\frac{\sigma{RMSE}}{\sigma{y_i}} =\frac{1}{2}\frac{1}{\sqrt{MSE}}\frac{\sigma MSE}{\sigma y_i}$

RMSE 的梯度等于 MSE 的梯度乘以该值，该值是常数，称为学习率。它表明，在使用基于梯度的方法时，RMSE 和 MSE 不能互换使用，例如在使用线性回归和梯度下降优化算法时。 $\frac{1}{2}\frac{1}{\sqrt{MSE}}$

此外，在更好地为大误差赋予更多权重（更高误差）的情况下，RMSE 可能是更好的误差度量。我相信这取决于您的数据分布，选择使用哪一个。但是在线性回归中，可能不关心与实际预测线相差很大的点会导致偏向于考虑这些点并且模型不好。因此，为这些点赋予更高的误差值可能会更好。

这和这也可能有帮助。

我认为有两个原因，主要是第二个。

其它你可能感兴趣的问题