我有一个关于狄利克雷后验分布的问题。给定多项似然函数,已知后验是, 在哪里是我们见过的次数观察。
如果我们开始减少会发生什么s 对于给定的固定数据? 从后验的形式看来,在某个点之后s 将完全停止影响后部。但是当我们做s 非常小的概率质量移动到单纯形的角落并且后验必须在更大程度上受到影响?什么说法是正确的?
我有一个关于狄利克雷后验分布的问题。给定多项似然函数,已知后验是, 在哪里是我们见过的次数观察。
如果我们开始减少会发生什么s 对于给定的固定数据? 从后验的形式看来,在某个点之后s 将完全停止影响后部。但是当我们做s 非常小的概率质量移动到单纯形的角落并且后验必须在更大程度上受到影响?什么说法是正确的?
对我来说,想象 Dirichlet 参数效果的最有用的方法是 Polya urn。想象一下,你有一个包含 n 种不同颜色的骨灰盒,其中瓮中每种颜色的颜色(注意你可以有一个球的分数)。你伸手去画一个球,然后用另一个相同颜色的球替换它。然后,您无限次重复此操作,最终比例构成 Dirichlet 分布的样本。如果您的值非常小,应该清楚的是,添加的球会使您偏向第一次绘制的颜色,这解释了为什么质量会移动到单纯形的角落。如果你有大,那么第一次抽签不会对最终比例产生太大影响。
你的后验本质上说的是你从色球,画了一堆,碰巧画出了那个颜色 次。然后,您可以想象来自后部的样本是使用相同的过程生成的,并想象最初的效果连同计数将有那些样品。显然是一个很小的价值对后面的影响较小。
另一种思考方式是,Dirichlet 的参数控制着您对数据的信任程度。如果您的值很小,那么您几乎完全信任您的数据。相反,如果您有较大的值,那么您对数据的信任度就会降低,并且会更加平滑后部。
总之,你说的是正确的,当你减少,它们对后验的影响较小,但同时先验的大部分质量在单纯形的角上。