机器算法验证 - 从具有有序均匀序列差异的狄利克雷分布生成 - 吾爱随笔录

从具有有序均匀序列差异的狄利克雷分布生成

机器算法验证采样狄利克雷分布

2022-03-31 22:17:01

首先，假设我们要从Dirichlet (1,1,1,1) 分布中生成。以下方法是否正确？

从 Uniform(0,1) 生成三个变量。给他们打电话 $x_1$ , $x_2$ , $x_3$ .
然后，订购这些 $0 \leq x_{(1)} \leq x_{(2)} \leq x_{(3)} \leq 1$
然后，将差异返回为我们的 Dirichlet 变量： $(x_{(1)}, x_{(2)}-x_{(1)}, x_{(3)}-x_{(2)}, 1-x_{(3)})$

这个对吗？我觉得它是正确的，但我不确定，这似乎与维基百科上描述的任何一种方法或我所做的任何其他搜索都不相同。也许它很慢或有其他问题，但我很好奇它是否正确。

假设这是正确的，它是否可以扩展到非均匀 Dirichlet，例如 Dirichlet(a,b,c,d)？

额外说明：我不是简单地问如何生成 Dirichlet；已经有很多关于这方面的信息。我只是想看看制服的方法是否可以扩展。是否有更通用的方法涉及从分布中提取，然后对这些数字进行排序，然后使用间隙？

2个回答

如果 $Y_i$ 是独立的 $\mathrm{Gamma}(\alpha_i,\beta)$ ，为了 $i=1,\dots,k$ ，然后

(X_{1}, \dots, X_{k}) = (\frac{Y_{1}}{\sum_{j = 1}^{k} Y_{j}}, \dots, \frac{Y_{k}}{\sum_{j = 1}^{k} Y_{j}}) \sim D i r i c h l e t (α_{1}, \dots, α_{k}) .

$(X_1,\dots,X_k) = \left(\frac{Y_1}{\sum_{j=1}^k Y_j}, \dots, \frac{Y_k}{\sum_{j=1}^k Y_j} \right) \sim \mathrm{Dirichlet}(\alpha_1,\dots,\alpha_k) \, .$ 因此，在 R 中，只需执行类似的操作

rdirichlet <- function(a) {
    y <- rgamma(length(a), a, 1)
    return(y / sum(y))
}

并统一使用

> rdirichlet(c(1, 1, 1, 1))
[1] 0.40186737 0.03924152 0.37070316 0.18818796

或不均匀

> rdirichlet(c(3, 2.5, 9, 7))
[1] 0.1377426 0.1043081 0.4701179 0.2878314

在 Luc Devroye 的漂亮书的第 594 页上给出了证明：

http://luc.devroye.org/rnbookindex.html

PS 感谢@cardinal 提供的 R 黑客技巧。

让 $U_{(1)},U_{(2)}, \ldots, U_{(n)}$ 是来自的订单统计信息 $U(0,1)$ 分配。让 $W_0 = U_{(1)},W_i = U_{(i+1)}-U{(i)}$ , $1 \leq i \leq n-1$ .

然后 $(W_0, W_1, \ldots, W_{n-1}) \sim \cal{D}(\alpha)$ , 带参数的狄利克雷分布 $\alpha_{n+1,1} = (1,1,\ldots,1)$ . 那是， $(W_0, W_1, \ldots, W_{n-1})$ 均匀分布在 n 维单纯形中。

其它你可能感兴趣的问题

上一篇R的MASS包函数confint.glm用什么方法计算置信区间？下一篇如何使用 R 查找多变量数据的分位数？