任何人都可以在下面定义的末尾给我一些关于声明（最后一句话）的信息。“当相关矩阵为奇异时可以使用它”是什么意思？这句话来自SPSS关于因子分析的帮助菜单。
主成分分析。一种因子提取方法，用于形成观察变量的不相关线性组合。第一个分量具有最大方差。连续的分量逐渐解释了方差的较小部分，并且彼此不相关。主成分分析用于获得初始因子解。当相关矩阵是奇异的时可以使用它。
我已经知道，与其他因子提取方法不同，PCA 在提取因子时使用数据的总方差。它与此有关吗？
奇异相关矩阵和PCA有什么关系？
机器算法验证
spss
主成分分析
因子分析
单数
2022-04-01 20:02:31
2个回答
引文及其最后一句话说明了以下内容。
奇异矩阵是行或列线性相互依赖的矩阵。大多数因子分析提取方法要求分析的相关性或协方差矩阵是非奇异的。它必须是严格正定的。其原因是在分析的各个阶段（初步、提取、评分），因子分析算法解决了矩阵的真正逆矩阵或需要其行列式。最小残差 (minres) 方法可以在提取时使用奇异矩阵，但在 SPSS 中不存在。
PCA 不是迭代的，也不是真正的因子分析。它的提取阶段是完整相关矩阵的单特征分解，不需要矩阵是满秩的。只要不是，最后一个或几个特征值就会完全为零，而不是小正数。零特征值意味着对应的维度（分量）的方差为 0，因此不存在。就这样; 它不妨碍提取，也不排除计算组件分数。因此，您可以对奇异的多重共线性数据进行 PCA。有时 PCA 专门用于消除多重共线性。
它与相关矩阵的数学性质有关。简单来说，PCA 本质上是给定相关矩阵的正交变换，它可以是可逆的，也可以是奇异的（即没有逆矩阵）。