在分层模型的 MCMC 实现中,具有正态随机效应和协方差矩阵的 Wishart 先验,通常使用 Gibbs 采样。
然而,如果我们改变随机效应的分布(例如,到 Student's-t 或另一个),共轭就会丢失。在这种情况下,对于 Metropolis-Hastings 算法中随机效应的协方差矩阵,什么是合适的(即容易调整的)建议分布,目标接受率应该是多少,还是 0.234?
在此先感谢您的任何指点。
在分层模型的 MCMC 实现中,具有正态随机效应和协方差矩阵的 Wishart 先验,通常使用 Gibbs 采样。
然而,如果我们改变随机效应的分布(例如,到 Student's-t 或另一个),共轭就会丢失。在这种情况下,对于 Metropolis-Hastings 算法中随机效应的协方差矩阵,什么是合适的(即容易调整的)建议分布,目标接受率应该是多少,还是 0.234?
在此先感谢您的任何指点。
好吧,如果您正在寻找“任何指针”...
通常使用(缩放)(逆)Wishart 分布,因为它与多元似然函数共轭,从而简化了 Gibbs 抽样。
在使用哈密顿蒙特卡罗抽样的Stan中,对多元先验没有限制。推荐的方法是Barnard、McCulloch 和 Meng提出的分离策略:
的组成部分可以给出任何合理的先验。至于,推荐的先验是
但是,我还没有(还)尝试过随机效应的非正态分布,所以我希望我没有错过重点 ;-)
我个人使用 Wishart 提案。例如,如果我想要一个提案大约, 我用:
众所周知,如果使用非高斯分布,模型的共轭性就会丢失,参见:
http://www.utstat.toronto.edu/wordpress/WSFiles/technicalreports/0610.pdf
然后,您需要使用其他 MCMC 方法,例如 Gibbs 采样中的 Metropolis 或它的一些自适应版本。幸运的是,有一个 R 包可以做到这一点:
http://cran.r-project.org/web/packages/spBayes/index.html
推荐的接受率为 0.44,但当然,这个数字背后有一些假设,与 0.234 的情况类似。
你是迪米特里斯·里佐普洛斯吗?
如果您正确定义了对数后验,则可以使用任何建议。您只需要使用一些技巧来实现它并正确定义后部的支撑,请参阅:
如何找到后验分布的支持来应用 Metropolis-Hastings MCMC 算法?
有大量示例可以将高斯提议用于截断后验。这只是一个实现技巧。同样,您问的是一个没有通用解决方案的问题。有些提案甚至对相同的模型和不同的数据集有不同的表现。
祝你好运。