机器算法验证 - 在重新参数化似然函数时，仅插入转换后的变量而不是变量变化公式就足够了吗？ - 吾爱随笔录

在重新参数化似然函数时，仅插入转换后的变量而不是变量变化公式就足够了吗？

机器算法验证回归贝叶斯数理统计

2022-03-23 11:56:35

假设我正在尝试重新参数化呈指数分布的似然函数。如果我原来的似然函数是：

p (y ∣ θ) = θ e^{- θ y}

$p(y \mid \theta) = \theta e^{-\theta y}$

我想重新参数化它使用 $\phi = \frac{1}{\theta}$ ，自从 $\theta$ 不是随机变量，而是参数，插件就够了？

我的明确意思是：

p (y ∣ ϕ = \frac{1}{θ}) = \frac{1}{ϕ} e^{- \frac{1}{ϕ} y}

$p\left(y \mid \phi = \frac{1}{\theta}\right) = \frac{1}{\phi} e^{-\frac{1}{\phi} y}$

如果是这样，我不确定这背后的理论是什么。我的理解是似然函数是参数的函数，所以为什么我不需要使用变量变化公式让我感到困惑。任何帮助将不胜感激，谢谢！

1个回答

您的变换中不需要雅可比行列式，因为它是一个概率分布 $y$ ，不开 $\theta$ . 它必须集成到一个 $y$ , 无论你使用 $\theta$ 或者 $\phi$ ：

\int p (y | θ) d y = \int p (y | ϕ) d y = 1

$\int p(y|\theta)\text{d}y = \int p(y|\phi)\text{d}y = 1$ 仅当您在

θ

$\theta$ 出现雅可比行列式。也就是说，如果

p (θ)

$p(\theta)$ 是先验的

θ

$\theta$ ，则后验密度

θ

$\theta$ 是

p (θ | y) \propto p (θ) p (y | θ)

$p(\theta|y)\propto p(\theta) p(y|\theta)$ 和后验密度

ϕ

$\phi$ 是

p (ϕ | y) \propto p (y | ϕ) p (ϕ) = p (y | θ (ϕ)) p (θ (ϕ)) | \frac{\partial θ}{\partial ϕ} | \propto p (θ (ϕ) | y) | \frac{\partial θ}{\partial ϕ} |

$p(\phi|y)\propto p(y|\phi)p(\phi)=p(y|\theta(\phi))p(\theta(\phi))\left|\frac{\partial \theta}{\partial \phi}\right|\propto p(\theta(\phi)|y)\left|\frac{\partial \theta}{\partial \phi}\right|$ 这确实涉及雅可比行列式

| \frac{\partial θ}{\partial ϕ} |

$\left|\frac{\partial \theta}{\partial \phi}\right|$ .

其它你可能感兴趣的问题

上一篇我可以使用哪些统计方法来查找分类变量的流行或常见组合？下一篇多任务和多类学习有什么区别