我正在阅读 Doug Bates关于 R 的 lme4 包的理论论文,以更好地理解混合模型的本质,并遇到了一个我想更好地理解的有趣结果,即使用受限最大似然 (REML) 来估计方差.
在关于 REML 标准的第 3.3 节中,他指出在方差估计中使用 REML 与在根据拟合线性模型中的残差估计方差时使用自由度校正密切相关。特别是,“虽然通常不以这种方式导出”,但可以通过优化“REML 标准”(等式(28))估计方差来导出自由度校正。REML 标准本质上只是似然性,但线性拟合参数已通过边缘化消除(而不是将它们设置为等于拟合估计值,这将给出有偏差的样本方差)。
我做了数学计算并验证了一个只有固定效应的简单线性模型的声明结果。我正在努力的是解释。是否有一些观点可以通过优化拟合参数被边缘化的可能性来自然得出方差估计?感觉有点贝叶斯,好像我将可能性视为后验并将拟合参数边缘化,就好像它们是随机变量一样。
还是证明主要只是数学上的——它适用于线性情况,但也可以推广?