Andrew Ngs 课程 - 他为什么要更改成本函数?

数据挖掘 机器学习 线性回归 成本函数
2022-03-10 08:02:54

我正在上Andrew Ng 的机器学习入门课程看起来他在第二周没有任何解释就改变了成本函数。具体来说:

  • 他不再对估计值和实际值之间的每个偏差进行平方
  • 他不再将偏差总和除以 2(我猜是因为他没有平方它,但这留下了为什么两者都存在的问题
  • 他将整个结果乘以样本中的第一个数字,他正在寻找估计值和实际值之间的差值。为什么?

对于熟悉该课程的人来说,这张图片可能会更好地解释它:

在此处输入图像描述

另外,两者中哪一个是“正确的”?或者,如果没有“正确”答案,那么每个答案的用例是什么?

1个回答

不同之处在于“原始”是成本函数的导数,“新”是代入实际成本函数的结果。

当函数的导数提高到幂时,指数变为常数。在这种情况下,平方损失函数的导数变为常数 2,然后分子中的 2 与分母中的 2 相消。结果只是除以m