机器算法验证 - 考虑贝叶斯信息准则中的离散或二元参数 - 吾爱随笔录

机器算法验证贝叶斯模型选择比克参数化

2022-03-27 05:47:07

BIC 根据参数的数量进行惩罚。如果某些参数是某种二进制指标变量怎么办？这些算作完整参数吗？但我可以结合 $m$ 二进制参数转换为一个离散变量，该变量取值 $\{0,1,...,2^m-1\}$ . 这些算不算 $m$ 参数还是一个参数？

1个回答

部分是由于 BIC 中“参数数量”的不精确性，DIC（偏差信息标准）引入了有效数量的参数作为

p_{D} (x) = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$ 在哪里

D (θ) = - 2 \log f (x | θ)

$D(\theta)=-2\log f(x|\theta)$ 和

DIC (x) = p_{D} (x) + E [D (θ) | x]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$ 注意

p_{D} (x)

$p_D(x)$ 然后是数据相关的。（正如那里所讨论的，DIC 也有自己的问题！）

其它你可能感兴趣的问题