我正在阅读Richard McElreath的(精湛的)书Statistical Rethinking中的第 13 章“协方差冒险” ,他在其中提出了以下层次模型:
(R
是相关矩阵)
作者解释说,这LKJcorr
是一个信息量较弱的先验,可作为相关矩阵的正则化先验。但为什么会这样呢?该分布具有哪些特征LKJcorr
使其成为相关矩阵的良好先验?在实践中用于相关矩阵的其他好的先验是什么?
我正在阅读Richard McElreath的(精湛的)书Statistical Rethinking中的第 13 章“协方差冒险” ,他在其中提出了以下层次模型:
(R
是相关矩阵)
作者解释说,这LKJcorr
是一个信息量较弱的先验,可作为相关矩阵的正则化先验。但为什么会这样呢?该分布具有哪些特征LKJcorr
使其成为相关矩阵的良好先验?在实践中用于相关矩阵的其他好的先验是什么?
LKJ 分布是 H. Joe (1) 工作的扩展。Joe 提出了一种在所有正定相关矩阵的空间上统一生成相关矩阵的程序。(2) 的贡献在于它扩展了 Joe 的工作以表明有一种更有效的方式来生成此类样本。
Stan 等软件中常用的参数化允许您控制采样矩阵与单位矩阵的接近程度。这意味着您可以从非常接近的采样矩阵平滑地移动到在 PD 矩阵上或多或少一致的矩阵。
在 (3) 中可以找到从相关矩阵中采样的另一种方法,称为“洋葱”方法。(与讽刺新闻杂志无关——可能。)
另一种选择是从半正定的 Wishart 分布中采样,然后将方差除以留下相关矩阵。Wishart/Inverse Wishart 过程的一些缺点在层次模型中的逆 Wishart 先验的缺点中进行了讨论
(1) H.乔。“基于偏相关生成随机相关矩阵。” 多元分析杂志,97 (2006),第 2177-2189 页
(2) 丹尼尔·莱万多夫斯基、多罗塔·库罗威卡、哈里·乔。“基于藤蔓和扩展洋葱法生成随机相关矩阵。” 多元分析杂志,第 100 卷,第 9 期,2009 年,1989-2001 页
(3) S. Ghosh,SG 亨德森。“随着维度的增加,用于相关随机向量生成的 norta 方法的行为。” ACM Transactions on Modeling and Computer Simulation (TOMACS),13 (3) (2003),第 276-294 页