有时我在贝叶斯层次模型中有大量潜在变量,但我只对估计这些潜在变量的投影变换感兴趣(例如,我会将二项式参数参数化为一组可能的逆对数 -不可识别的协变量,即使我感兴趣的结果是二项式参数估计)。
即使潜在变量尚未收敛,投影变换通常也会很快收敛(基于 Gelman/Rubin 等收敛诊断或通过观察后验样本)。
直觉上这是有道理的,该模型可能是一个过度参数化,其中潜在参数不可识别 - 派生量被限制在转换变量参数空间的一个狭窄的高似然区域中,该区域映射到一个更大的平面潜在变量参数空间的似然(但有界)区域。
那么直觉是否正确,我不应该担心过度参数化的潜在变量在我获取后验样本时无法识别并且没有完全收敛?是否有一些很好的参考资料以这种方式讨论了未识别的潜在变量的使用?我听说过一些关于过度参数化以加速 mcmc 收敛的讨论,但我并不完全清楚如何考虑这一点,因为贝叶斯方法中对过度参数化和不可识别性的方法和态度似乎与在其他建模领域。