一个令人惊讶的结果是,只要无偏和正估计量,而不是计算似然 ,MCMC 采样仍然是无偏的。 . 该结果用于通过使用粒子滤波器边缘化似然性来校准 HMM。
然而,假设我们没有对的无偏估计,而是对 \log p(x) 的\的无偏估计。当我们考虑给定 iid 样本的模型的可能性时,自然会出现这种情况。当样本很大时,通过仅针对小的随机子样本计算每个状态的对数似然度来快速逼近对数似然度将是非常有趣的。
然而,我们有一个有偏差的估计,我们甚至不知道它的分布。如果子样本足够大,我们可以合理地调用中心极限定理,估计标准差的凸度调整。
但是,我可能缺少一些技巧,可以让我们恢复无偏抽样。特别是,可以不使用固定的随机子样本,而是遵循随机程序以保留所寻求的属性的方式选择子样本。
是否有任何论文探讨了这个问题,或者我忽略了任何明显的解决方案?