逻辑回归的正确损失函数

机器算法验证 机器学习 物流 损失函数
2022-03-14 13:43:45

我一直在对特定问题使用逻辑回归,论文使用的损失函数如下:

L(Y,Y^)=i=1Nlog(1+exp(yiy^i))
昨天,我遇到了 Andrew Ng 的课程(斯坦福笔记),根据他的说法,他给出了另一个直观的损失函数。功能是:
J(θ)=1Ni=1Ny(i)log(hθ(x(i)))+(1y(i))log(1hθ(x(i)))
现在我知道每个模型不仅有一个损失函数,而且两者都可以使用。

我的问题更多关于这两个功能的区别?与一个而不是另一个一起工作有什么好处吗?它们在任何方面都等效吗?谢谢 !

2个回答

使用逻辑回归中的 sigmoid 函数,这两个损失函数完全相同,主要区别在于

  • yi{1,1}用于第一个损失函数;
  • yi{0,1}用于第二个损失函数。

通过最大化似然函数可以导出两个损失函数。

这与标签的选择有关,并且每种选择(可以说)都比其他选择具有一些优势。您应该访问此处以获取有关该主题的更多详细信息。