狄利克雷分布与多项分布?

机器算法验证 多项分布 狄利克雷分布
2022-04-09 09:13:17

Dirichlet 和多项式分布都是向量上的分布,并且 Dirichlet 和多项式分布都受到约束,以便这些向量的所有元素总和为一个常数值。

有人可以用简单的话(也许还有一个例子)详细解释狄利克雷分布和多项分布之间的差异吗?

狄利克雷分布是否与多项分布具有相同的目的?

与多项分布相比,使用 Dirichlet 的优点/缺点是什么?

是什么让 Dirichlet 分布与多项分布不同?

2个回答

多项分布个变量的离散多变量分布,其中每个Dirichlet 分布个变量的连续多变量分布,其中每个在第一种情况下,分布的支持仅限于有限数量的值,而在第二种情况下,在支持范围内落入单位区间的无限数量的值。kx1,x2,,xkxi{0,1,,n}i=1kxi=nkx1,x2,,xkxi(0,1)i=1kxi=1

狄利克雷分布是否与多项分布具有相同的目的?

不,多项式是计数分布,而狄利克雷通常用作概率分布

与多项分布相比,使用 Dirichlet 的优点/缺点是什么?

它们是不同的东西,正如您可以从多项式(1/n,...,1/n)可以被表征为离散狄利克雷(1,..,1)吗?线程,它们在更高维度的行为不同。你几乎永远不会交换使用它们。

例外是在某些情况下,您可能希望使用连续分布来近似离散分布,例如,您可以近似二项式(对于大n),或泊松分布(对于大λ) 与高斯。

是什么让 Dirichlet 分布与多项分布不同?

它们是连续分布与离散分布。

第一个区别是多项分布M(N,p)是离散的(它概括了二项式分布),而 Dirichlet 分布是连续的(它概括了 Beta 分布)。

但如果你要N为了得到近似连续的结果,去无穷大,那么多项式随机变量的分量的边际分布将变为高斯分布,其形状与狄利克雷分布不同。

Dirichlet 通常用作概率向量的先验,因为它是多项分布的共轭先验。