这是一个很好的问题，但不幸的是（或者幸运的是？）我最近才在相关线程中写了一个很长的答案，几乎完全解决了你的问题。我会请你看看那里，看看是否能回答你的问题。

非常简单，如果我们只关注 PCA 和 FA 载荷，那么不同之处在于 PCA 找到来重构样本协方差（或相关）矩阵尽可能接近：而 FA 发现仅重建协方差（或相关）矩阵的非对角线部分我的意思是 FA 不关心在对角线上有什么值，它只关心非对角线部分。$\mathbf W$$\mathbf W$$\mathbf C$

$$\mathbf C \approx \mathbf W \mathbf W^\top,$$ $\mathbf W$ $$\mathrm{offdiag}\{\mathbf C\} \approx \mathbf W \mathbf W^\top.$$ $\mathbf W \mathbf W^\top$

考虑到这一点，您的问题的答案就很容易看到了。如果变量的数量（ mathbf C的非对角线部分几乎是整个矩阵（对角线的大小和整个矩阵的大小，所以对角线只有 )，因此我们可以预期 PCA 可以很好地逼近 FA。如果对角线值相当小，那么它们对 PCA 的作用也不大，并且 PCA 最终接近 FA，正如上面@ttnphns 所说。$n$$\mathbf C$$\mathbf C$$n$$n^2$$1/n \to 0$

另一方面，如果要么很小，要么强烈地受对角线支配（特别是如果它在对角线上有非常不同的值），那么 PCA 将不得不使也偏向于再现对角线，并且所以最终会与FA完全不同。此线程中给出了一个示例：$\mathbf C$$\mathbf W$

• 为什么 PCA 和因子分析在此示例中返回不同的结果？