机器算法验证 - 从多元高斯分布生成值 - 吾爱随笔录 - 问答

从多元高斯分布生成值

机器算法验证 matlab 算法随机生成多元正态分布

2022-02-05 13:13:36

我目前正在尝试模拟 a 的值 $N$ 维随机变量 $X$ 具有均值向量的多元正态分布 $\mu = (\mu_1,...,\mu_N)^T$ 和协方差矩阵 $S$ .

我希望使用类似于逆 CDF 方法的过程，这意味着我想首先生成一个 $N$ 维均匀随机变量 $U$ 然后将其代入该分布的逆 CDF，从而产生价值 $X$ .

我遇到了问题，因为该过程没有得到很好的记录，并且MATLAB 中的 mvnrnd 函数与我在 Wikipedia 上找到的描述之间存在细微差别。

就我而言，我也是随机选择分布的参数。特别是，我生成了每一种手段， $\mu_i$ , 从均匀分布 $U(20,40)$ . 然后我建立协方差矩阵 $S$ 使用以下程序：

创建下三角矩阵 $L$ 在哪里 $L(i,i) = 1$ 为了 $i=1..N$ 和 $L(i,j) = U(-1,1)$ 为了 $i < j$
让 $S = LL^T$ 在哪里 $L^T$ 表示转置 $L$ .

这个程序让我可以确保 $S$ 是对称且正定的。它还提供了一个下三角矩阵 $L$ 以便 $S = LL^T$ ，我认为这是从分布中产生价值所必需的。

使用维基百科上的指南，我应该能够生成 $X$ 用一个 $N$ 维均匀如下：

$X = \mu + L * \Phi^{-1}(U)$

然而，根据 MATLAB 函数，这通常是这样完成的：

$X = \mu + L^T * \Phi^{-1}(U)$

在哪里 $\Phi^{-1}$ 是 a 的逆 CDF $N$ 维，可分，正态分布，两种方法唯一的区别就是是否使用 $L$ 或者 $L^T$ .

MATLAB 或 Wikipedia 是要走的路吗？还是两者都错了？

1个回答

如果 $X \sim \mathcal{N}(0,I)$ 是标准法线 RV 的列向量，那么如果您设置 $Y = L X$ , 的协方差 $Y$ 是 $L L^T$ .

我认为您遇到的问题可能源于 matlab 的mvnrnd函数将行向量作为样本返回，即使您将平均值指定为列向量也是如此。例如，

 > size(mvnrnd(ones(10,1),eye(10))  
 > ans =
 >      1    10

请注意，转换行向量会为您提供相反的公式。如果 $X$ 是一个行向量，那么 $Z = X L^T$ 也是一个行向量，所以 $Z^T = L X^T$ 是一个列向量，协方差 $Z^T$ 可以写 $E[Z^TZ] = LL^T$ .

根据您所写的内容，维基百科的公式是正确的：如果 $\Phi^{-1}(U)$ 是matlab返回的行向量，你不能左乘它 $L^T$ . （但右乘 $L^T$ 会给你一个具有相同协方差的样本 $LL^T$ ）。

其它你可能感兴趣的问题

上一篇通过抛硬币组合分类器下一篇具有“稀有”事件的监督学习，稀有是由于大量反事实事件造成的