交叉验证的贝叶斯、MDL 或 ML 解释?

机器算法验证 贝叶斯 交叉验证 最大似然
2022-03-09 04:44:36

是否有任何已知的交叉验证的贝叶斯、ML 或 MDL 解释?我可以将交叉验证解释为对特制的先验执行正确的更新吗?

1个回答

交叉验证旨在对风险进行无偏估计(又名测试错误或预测错误)。如果您的损失函数减去(生成)对数似然,则交叉验证将返回模型的预期对数似然。如果您的损失函数具有贝叶斯动机,情况也是如此。

MDL 还旨在对风险进行无偏估计。因此,它是 CV 在计算上所做的分析方法。

请参阅统计学习要素中的第 7.2 节