机器算法验证 - 对随机度量进行积分是什么意思？ - 吾爱随笔录

机器算法验证贝叶斯狄利克雷分布狄利克雷过程非参数贝叶斯测度论

2022-03-25 04:04:36

我目前正在看一篇关于狄利克雷过程随机效应模型的论文，模型规范如下：

\begin{aligned} y_{i} & = X_{i} β + ψ_{i} + ϵ_{i} \\ ψ_{i} & \sim G \\ G & \sim D P (α, G_{0}) \end{aligned}

$\begin{align*}y_{i} &= X_{i}\beta + \psi_{i} + \epsilon_{i}\\ \psi_{i} &\sim G \\ G &\sim \mathcal{DP}\left(\alpha, G_{0}\right) \end{align*}$ 在哪里

α

$\alpha$ 是尺度参数和

G_{0}

$G_{0}$ 是基本度量。在本文后面，它建议我们在基本度量上集成一个函数

G_{0}

$G_{0}$ 如

\int f (y_{j} | θ, ψ_{j}) d G_{0} (ψ_{j}) .

$\int f\left(y_{j}|\theta, \psi_{j}\right)\, dG_{0}\left(\psi_{j}\right).$ Dirichlet 过程中的基本度量是 cdf 还是 pdf？如果基本度量是高斯会发生什么？

1个回答

表示为 $\mathcal{M}$ 概率度量的可测量空间，包含狄利克雷过程的实现。随机概率测度 $G$ 是一个可测量的函数

G : ω \mapsto G_{ω} \in M

$G : \omega \mapsto G_\omega \in \mathcal{M}$ 和积分关于

G

$G$ 是随机变量

\int f (\cdot | ψ) d G (ψ) : ω \mapsto \int f (\cdot | ψ) d G_{ω} (ψ) .

$\int f(\,\cdot\,|\, \psi) dG(\psi) : \omega \mapsto \int f(\,\cdot\,|\,\psi) dG_\omega(\psi).$ 因此

\int f (\cdot | ψ) d G (ψ)

$\int f(\,\cdot\,|\, \psi) dG(\psi)$ 本身是一个随机的 pdf（如果

f (\cdot | ψ)

$f(\cdot| \psi)$ 是pdf）。

这个想法是 $\psi_i$ 遵循一些未知的分布 $G$ . 在某些情况下，您可能有理由相信 $\psi_i$ 是正态分布的，然后对均值和方差进行先验。在其他情况下，您不想做出这样的参数假设。例如，在您的模型中，先验 $G$ 是狄利克雷过程。

Dirichlet 过程中的基本度量是 cdf 还是 pdf？

基础测度是任何概率测度，通常用于得到充分支持。在某些情况下，它可以用概率密度函数来表示。这不是很重要。

其它你可能感兴趣的问题