在预测或推论模型的上下文中，术语“误差”通常指的是对该值的预测或期望与实际值的偏差。它完全由预测机制和观测量的实际行为决定。“损失”是对获得特定大小/方向的错误有多糟糕的量化度量，该错误受到不准确预测所产生的负面后果的影响。

误差函数测量可观察值与预测的偏差，而损失函数对误差进行操作以量化误差的负面后果。例如，在某些情况下，假设存在平方误差损失可能是合理的，其中误差的负面后果被量化为与误差的平方成正比。在其他情况下，我们可能会受到特定方向上的错误的更大负面影响（例如，假阳性与假阴性），因此我们可能会采用非对称损失函数。

误差函数是一个纯粹的统计对象，而损失函数是一个决策理论对象，我们引入它来量化误差的负面后果。后者用于决策理论和经济学（通常通过其对立面 - 基数效用函数）。

---

一个例子：你是一个为黑帮经营非法博彩的犯罪敲诈者。每周你必须向暴民老板支付 50% 的利润，但既然你经营这个地方，老板就靠你对利润进行真实的核算。如果你度过了愉快的一周，你也许可以通过低估你的利润来让他失去一些生计，但如果你少付老板，相对于他怀疑的真正利润，你就是个死人。所以你想预测他期望得到多少，并相应地支付。理想情况下，您将准确地给他他所期望的，并保留其余的，但是您可能会犯预测错误，并且付给他太多或（哎呀！）太少。

您度过了愉快的一周并获得了的利润，因此欠老板。他不知道你度过了多么美好的一周，所以他对他的份额的真实期望只有（你不知道）。你决定付钱给他。那么你的错误函数是：$\pi = \$40,000$$\tfrac{1}{2} \pi = \$20,000$$\theta = \$15,000$$\hat{\theta}$

$$\text{Error}(\hat{\theta}, \theta) = \hat{\theta} - \theta ,$$

并且（如果我们假设损失在金钱上是线性的）您的损失函数是：

$$\text{Loss}(\hat{\theta}, \theta) = \begin{cases} \infty & & \text{if } \hat{\theta} < \theta \quad \text{(sleep wit' da fishes)} \\[6pt] \hat{\theta} - \pi & & \text{if } \hat{\theta} \geqslant \theta \quad \text{(live to spend another week)} \\ \end{cases}$$

这是一个不对称损失函数的例子（在下面的评论中讨论的解决方案），它与误差函数有很大的不同。在这种情况下，损失函数的不对称性质强调了在低估未知参数的情况下的灾难性结果。