统一的先验如何从最大似然和后验模式得出相同的估计?

机器算法验证 机器学习 可能性 贝叶斯 估计 最大似然
2022-03-24 15:16:56

我正在研究不同的点估计方法,并读到当使用 MAP 与 ML 估计时,当我们使用“统一先验”时,估计是相同的。有人可以解释什么是“统一”先验,并给出一些(简单)示例说明 MAP 和 ML 估计器何时相同?

2个回答

它是均匀分布(连续或离散)。

也可以看看

http://en.wikipedia.org/wiki/Point_estimation#Bayesian_point-estimation

http://en.wikipedia.org/wiki/Maximum_a_posteriori_estimation#Description

如果您在包含 MLE 的集合上使用统一先验,则始终 MAP=MLE。原因是在这种先验结构下,后验分布与似然成正比。

MLE 是给定参数的给定事件发生的估计,而 MAP 是给定事件的参数估计。当我们在估计 MAP 时进一步使用贝叶斯定理时,它归结为,其中是关于 MLE 的唯一附加项。MAP 的均值和方差估计值将与 MLE 的均值和方差估计值相同,因为 Prior 每次都保持相同并且根本没有变化。因此它只作为一个常数,因此在影响均值和方差的值方面没有任何作用。P(D|θ)P(θ)P(θ)