损失函数是任何不好或至少不受欢迎的东西的数学表示：关键是它因此是你想要最小化的东西。

将损失函数称为成本通常只是旨在简单且令人回味的术语。这样做的目的是让您意识到成本是您想要避免的事情，并且（特别和关键）（在其他条件相同的情况下）您更喜欢较小的成本而不是较大的成本。

它并不一定意味着任何货币、金融、经济或商业意义上的成本。

和估计值之间的差异时，就会出现损失函数的简单示例，您希望它尽可能小。更进一步的可能方法是使用或，它们都是损失函数。在任何一种情况下，当时，最小损失为 0 。 $\theta$$\hat\theta$$(\theta - \hat\theta)^2$$|\theta - \hat\theta|$$\hat\theta = \theta$