我正在研究不同的点估计方法,并读到当使用 MAP 与 ML 估计时,当我们使用“统一先验”时,估计是相同的。有人可以解释什么是“统一”先验,并给出一些(简单)示例说明 MAP 和 ML 估计器何时相同?
统一的先验如何从最大似然和后验模式得出相同的估计?
机器算法验证
机器学习
可能性
贝叶斯
估计
最大似然
2022-03-24 15:16:56
2个回答
它是均匀分布(连续或离散)。
也可以看看
http://en.wikipedia.org/wiki/Point_estimation#Bayesian_point-estimation
和
http://en.wikipedia.org/wiki/Maximum_a_posteriori_estimation#Description
如果您在包含 MLE 的集合上使用统一先验,则始终 MAP=MLE。原因是在这种先验结构下,后验分布与似然成正比。
MLE 是给定参数的给定事件发生的估计,而 MAP 是给定事件的参数估计。当我们在估计 MAP 时进一步使用贝叶斯定理时,它归结为,其中是关于 MLE 的唯一附加项。MAP 的均值和方差估计值将与 MLE 的均值和方差估计值相同,因为 Prior 每次都保持相同并且根本没有变化。因此它只作为一个常数,因此在影响均值和方差的值方面没有任何作用。