损失函数和似然函数之间的联系

机器算法验证 机器学习 物流 优化 梯度下降 损失函数
2022-03-20 00:49:48

简单的问题:我们通常可以将损失函数视为似然函数的负数吗?

例如关于逻辑回归,二元设置中的似然函数是

一世是的一世日志(H(X一世))+日志(1-是的一世)(1-H(X一世))

而损失函数是

-[一世是的一世日志(H(X一世))+日志(1-是的一世)(1-H(X一世))]

然而,在最大后验(MAP)任务中,我已经看到损失函数是通过最大化后验得出的,即损失函数是似然函数乘以先验的微分

1个回答

在线性回归和逻辑回归中,如果没有正则化,我们可以认为目标是最大化似然性。

另一方面,我们的术语“损失函数”比似然更笼统。

例如,我们可以添加正则化(参见逻辑回归的正则化方法)。

我们还可以添加其他约束或使用加权损失。所有这些都是可能性的“附加”。

查看此帖子了解详情

目标函数、成本函数、损失函数:它们是一回事吗?