机器算法验证 - 如何计算重要性抽样？ - 吾爱随笔录

如何计算重要性抽样？

机器算法验证贝叶斯蒙特卡洛计算统计重要性抽样

2022-03-22 06:52:31

我正在尝试实现这个积分的重要性采样其中是 df=5 的 t 分布。

I = \int_{- \infty}^{\infty} \sqrt{| \frac{θ}{1 - θ} |} f (θ) d θ

$\mathfrak{I} = \int\limits_{-\infty }^{\infty }{\sqrt{\left| \frac{\theta }{1-\theta } \right|}}f(\theta )\text{d}\theta$

f (θ) \propto {(1 + θ^{2} / 5)}^{- 3}

$f(\theta )\propto {{(1+{{\theta }^{2}}/5)}^{-3}}$

我已经从上述分布中取样，并被告知使用下面 1 和 2 中的样本：

重要性函数等于其中和
$0.5 {g_{1} (θ) + g_{2} (θ)},$ $0.5\{{{g}_{1}}(\theta )+{{g}_{2}}(\theta )\},$ $g_{1} (θ) = \frac{1}{π} \frac{1}{1 + θ^{2}}$ ${{g}_{1}}(\theta )=\frac{1}{\pi }\frac{1}{1+{{\theta }^{2}}}$
$g_{2} (θ) = \frac{1}{4 \sqrt{| 1 - θ |}} on [0, 2]$ ${{g}_{2}}(\theta )=\frac{1}{4\sqrt{\left|1-\theta \right| }} \quad\text{on}\quad\space [0,2]$
重要性函数等于
$g^{'} (θ) \propto \frac{1}{\sqrt{| 1 - θ |}} \exp (- | 1 - θ |)$ $g'(\theta)\propto \frac{1}{\sqrt{\left| 1-\theta \right|}}\exp (-\left| 1-\theta \right|)$

我该怎么做？我搜索了一下，模糊地理解了概念。有人可以更详细地解释我应该做什么吗？好像我有我需要的所有工具。

1个回答

如果您的困难在于模拟本身，这是我的 R 代码，用于比较来自（普通）的模拟，等于（柯西分布和幂分布的混合）和等于（折叠 Gamma）。 $f$ $g$

\frac{1}{2} \frac{1}{π} \frac{1}{1 + x^{2}} + \frac{1}{2} \frac{1}{4} \frac{I_{[0, 2]} (x)}{\sqrt{| 1 - x |}}

$\frac{1}{2} \frac{1}{\pi} \frac{1}{1+x^2} + \frac{1}{2}\frac{1}{4}\frac{\mathbb{I}_{[0,2]}(x)}{\sqrt{|1-x|}}$

m

$m$

\frac{1}{2} \frac{1}{Γ (1 / 2)} \frac{1}{\sqrt{| 1 - x |}} \exp {- | 1 - x |}

$\frac{1}{2}\frac{1}{\Gamma(1/2)}\frac{1}{\sqrt{|1-x|}}\exp\{-|1-x|\}$

模拟很简单 $f$

> sam1=matrix(rt(10^6,df=5),ncol=100)
> fam1=h(sam1)

在哪里

> h
function(x){ 
sqrt(abs(x/{1-x}))}

从进行模拟需要从平方根部分进行模拟。如果你在，你会得到 over或 over，这意味着这个分布可以表示为（在下文中，我强制两个子样本具有相同的大小，这是一个 Rao-Blackwellisation 技巧，可以减少方差而不影响预期。） $g$ $1/4{\sqrt{|1-x|}}$ $[0,2]$ $1-\sqrt{1-x}$ $[0,1]$ $\sqrt{x-1}$ $[1,2]$

1 \pm U (0, 1)^{2} .

$1\pm \mathcal{U}(0,1)^2.$

5 \cdot 10^{5}

$5\cdot10^5$

> sam22=1+sample(c(-1,1),5*10^5,rep=TRUE)*runif(5*10^5)^2
> sam21=rcauchy(5*10^5)
> sam2=matrix(sample(c(sam21,sam22)),ncol=100)
> fam2=h(sam2)*dt(sam2,df=5)/g(sam2)

在哪里

g=函数(x){.5*dcauchy(x)+.125*((x>0)*(x<2))/sqrt(abs(1-x))}

模拟遵循折叠表示： $m$

> sam3=matrix(1+sample(c(-1,1),10^6,rep=TRUE)*rgamma(10^6,.5),ncol=100)
> fam3=h(sam3)*dt(sam3,df=5)/(.5*dgamma(abs(1-sam3),.5))

下面的箱线图说明了三种模拟方法的比较（我们应该在下一版的蒙特卡洛统计方法中使用它！）

$\mathfrak{I} 的三个估计量变化的箱线图$

其它你可能感兴趣的问题

上一篇用于 2x2 交互的 Cohen d 下一篇使用 WinBUGS 截断正态分布