为什么我们必须在 ML 平方误差成本函数中除以 2?

数据挖掘 机器学习 成本函数
2021-10-14 00:29:20

我不确定你为什么需要乘以12在一开始的时候。我知道您必须将全部金额除以1,但为什么我们要乘两个?

是不是因为我们有两个θ在这个例子中?

2个回答

很简单。这是因为当您采用成本函数的导数时,即用于在梯度下降期间更新参数时,2在权力被取消12乘数,因此推导更清晰。这些技术在数学中被广泛使用或有些相似,以“使推导在数学上更方便”。您可以简单地删除乘数,例如参见此处,并期望得到相同的结果。

它使数学更容易处理。添加一半或不添加实际上并不重要,因为最小化不受常量的影响。