狄利克雷分布参数的贝叶斯估计

机器算法验证 贝叶斯 估计 吉布斯 狄利克雷分布
2022-03-02 23:39:45

我想使用 Gibbs 采样估计 Dirichlet 混合模型的参数,对此我有一些疑问:

  1. 狄利克雷分布的混合是否等同于狄利克雷过程?如果不是,它们的主要区别是什么?

  2. 另外,如果我想估计单个 Dirichlet 分布的参数,应该选择哪个参数分布作为贝叶斯框架中的先验?

在所有论文中,我发现使用 Dirichlet 先验估计多项分布。我可能需要使用多项式先验估计狄利克雷分布。

后验函数是否也采用 DIRICHLET(α+N) 的形式,类似于“使用 Dirichlet 先验估计多项分布”的情况?因为在似然函数的定义中没有考虑 iid 样本的概率密度函数的乘法。我再次无法理解为什么。

例如,如本文所述:http: //www.stat.ufl.edu/~aa/cda/bayes.pdfhttp://research.microsoft.com/en-us/um/people/minka/papers/ minka-多项式.pdf


所以谢谢你的关注

我的数据是 Hyperion(一种高光谱遥感图像),我想使用 Dirichlet 源的混合执行高光谱解混合,我将应用 Gibbs 采样方法进行参数估计。我的数据尺寸为 (614*512*224),这是 Cuprite Nevada 地区常用的 AVIRIS 传感器数据,几乎 200MB。此数据也可通过 ( http://aviris.jpl.nasa.gov/data/free_data.html ) 获得。不幸的是,我不知道如何发送我的数据。

我只是请你帮我完成我的博士论文的统计建模任务。如果您能帮助我解决建模中的困惑,我将不胜感激。

所有最好的索尔马兹

1个回答

要计算任何共轭先验的密度,请参见此处

但是,您无需评估 Dirichlet 的共轭先验即可对其参数执行贝叶斯估计。只需对所有样本的充分统计数据进行平均,这些样本是您观察到的分类分布参数组件的对数概率向量。该平均充分统计量是拟合数据的最大似然 Dirichlet 的期望参数(χi)i=1n. 从期望参数到源参数,比如说(αi)i=1n,您需要使用数值方法求解:

χi=ψ(αi)ψ(jαj)i
在哪里ψ是二伽马函数。

要回答您的第一个问题,Dirichlet 的混合物不是 Dirichlet,因为一方面,它可以是多模式的。