我对统计决策理论与机器学习中损失函数的不同定义感到困惑。
在统计决策理论中,损失函数通常定义为, 在哪里是真实的未知参数,是决策规则,并且是数据(生成自?)。例如,参见统计理论课的讲座。
在机器学习中,损失函数似乎定义为, 在哪里是真正的标签并且是一些模型。例如,参见统计学习要素第 2.4 章。
我的问题是他们是否在谈论同一件事。好像不一样。例如,如果我要预测未知硬币的下一次抛硬币,那么我可以将抛硬币建模为遵循具有未知参数的伯努利分布.
让是一些历史数据。然后似乎统计决策理论的损失函数正在计算我的预测针对未知参数而在 ML 中,它正在计算相同的预测(或者) 反对真实标签?
我很难调和这两个概念。