机器算法验证 - 模拟基本定理 - 吾爱随笔录

机器算法验证模拟马尔可夫链蒙特卡罗蒙特卡洛潜变量边际分布

2022-03-13 19:29:55

模拟 $X \sim f$

相当于模拟

$(X,U) \sim \mathscr{U}\{(x,u): 0<u<f(x)\}$

证明是微不足道的。

这个定理明确的一件事是我们可以通过三种方式生成 X：

首先生成 $X \sim f$ ，接着 $U|X=x$ ，但这是没用的，因为我们已经有了 $X$ 并且不需要 $X$
首先生成 $U$ ，接着 $X|U=u$ ，这只是接受-拒绝算法
产生 $(X,U)$ 联合，这最终将成为一个聪明的想法，因为它允许我们在更大的集合上生成数据，模拟更容易，然后在满足约束的情况下使用该对。 http://academic.uprm.edu/wrolke/esma5015/fund.htm

我想在最后一步了解，

我们将采样 $X$ 使用 MCMC 的任何方法和 $U \sim U[0,1]$ 然后取样本 $X$ 只有有兴趣找到它的分布。

另一个问题，这个定理与潜在变量有关吗？

1个回答

您的问题不清楚：模拟时 $X\sim f(x)$ , 可以改为模拟

(X, U) \sim U ({(x, u); 0 < u < f (x)})

$(X,U)\sim\mathcal{U}(\{(x,u);\ 0<u<f(x)\})$ 具有联合密度

I_{(0, f (x)} (u) I_{X} (x)

$\mathbb{I}_{(0,f(x)}(u)\mathbb{I}_\mathcal{X}(x)$ 然后只使用

X

$X$ 模拟中的组件。例如，这是我们书中的一个图，描述了这种制服的许多实现，当

f

$f$ 是 Beta 分布[黑点]的密度。其余的点是来自 Uniform 在包含子图的正方形上的拒绝模拟

f

$f$ .

一旦设定了这个新目标，任何针对它的模拟方法都是有效的。就像上图中的 Accept-Reject 一样。重要的是找到一种有效的模拟方法。（那么引用是错误的 $U$ 不再是 $\mathcal{U}(0,1)$

至于你的第二个问题， $U$ 上面的组件在某种意义上确实表现得像一个潜在变量

f (x) = \int_{0}^{\infty} f (x, u) d u

$f(x)=\int_0^\infty f(x,u)\text{d}u$ 将感兴趣的密度表示为联合分布的边际密度

(X, U)

$(X,U)$ ,

U

$U$ 被“无视”。然而，潜在变量最常用于统计设置中，其中联合

f (x, u)

$f(x,u)$ 让生活更轻松，例如允许使用 EM 算法。从这个意义上说

U

$U$ 不是潜在变量，因为这不是统计问题，而是模拟问题。我会使用“辅助”而不是“潜在”。

其它你可能感兴趣的问题