估计因子分析中项目的特定方差 - 如何达到理论最大值?

机器算法验证 主成分分析 因子分析 协方差矩阵
2022-04-05 18:08:57

(备注:这是一个“学术”问题——我正在审查我对因子分析程序的实施;我不是在为实际调查/实际数据等寻找好的近似值。)

有不同的方法可以估计具有行和列我知道使用的倒数的对角线的倒数肯定是负定的),它将导致剩余矩阵的海伍德情况/负定;中要删除的最大可能部分,半正定。这给出了该项目特定方差的一定总和(CmDCCDD1/rCD/rs1=sum(D/r))。
另一种方法是获取最小主轴,取特征值,然后将其他轴范数为相同的长度并在的对角线上我们得到(相等)项目特定差异。请注意,再次降低了排名,因此删除了“所有个体方差” - 但是,所有项目特定方差的总和通常远小于 在那之后,两种不同的解决方案已经导致不同数量的整体项目特定方差被移除,我尝试了更多不同的方法,一个给出了AmλmBk=Akλm/λkBBTCBBTs2s1
s3这甚至大于s1

现在有了一些具有不同值的进一步方法,自然会出现问题: sj

问:有没有一种特定的方法,可以提取协方差矩阵的个体方差的最大可能和,如果有特殊的方法,它是如何定义的?


为了看到这些方法之间的差异不仅仅是可以忽略的,我添加了一个带有一些测试协方差矩阵的示例。
概述,4种方法的比较:

在此处输入图像描述

细节1:
在此处输入图像描述

细节2:我很惊讶接近最大值的形状有这样一个尖峰——我希望这里有一些平滑的“正常曲线的顶部”:
在此处输入图像描述

1个回答

不确定我的回答是否相关,也许我所说的对你来说不是新闻。它是关于因子分析中社区的起始值

实际上,在完成 FA之前,您无法估计变量的真正共同性(以及唯一性) 。这是因为公共性与提取的因子m的数量有关。Principal Axes中,提取社区的因子分析方法正在被迭代训练(就像训练狗一样)以最大程度地恢复成对系数 - 相关性或协方差 - m个因子。

要估计社区的起始值,可以使用几种方法,您可能知道:

  • 变量与其余变量之间的平方多重相关系数被认为是对变量公共性起始值的最佳猜测。该值是“真实”、结果、社区的下限。1
  • 该值的另一​​个可能猜测是变量与其余变量的最大或平均绝对相关/协方差。
  • 尽管如此,有时使用的另一个猜测值是重测信度(相关/协方差)系数这将是“真正的”社区的上限。
  • 在特定情况下,使用用户定义的初始值(例如,从文献中借用的公共值)。

1仔细观察。如果是分析的相关或协方差矩阵,并且您制作对角矩阵,其中对角元素是的对角元素的倒数,则矩阵的“图像协方差矩阵” (原文如此!“协方差”,无论是协方差还是相关)。它的对角线条目是中的“图像” (实际上,这些图像是RDR1DR1D2D+RRRRRD)

如果是相关矩阵,则图像是平方多重相关系数(变量对所有其他变量的依赖性)。如果是协方差矩阵,则图像是多个相关系数的平方乘以相应的变量方差。这些值 - 图像 - 在这两种情况下都用作起始社区RR

好奇的旁注:矩阵的“反图像协方差矩阵” 如果将其转换为“反图像相关矩阵”(以通常的方式,例如转换相关中的协方差,),那么非对角线元素作为结果是偏相关系数的负数(在所有其他变量控制的两个变量之间)。在因子分析中可选地使用偏相关系数来计算采样充分性 (KMO) 的 Kaiser-Meyer-Olkin 度量。DR1DRrij=covij/(σiσj)

另请参阅