在与 Ebony 交换评论之后（请参阅 Whiber 的回答）。我收集到在 Ebony 的应用程序中，$p$比 n 大得多，$n$本身就非常大。在这种情况下，计算特征分解的复杂性是$O(n^3)$的数量级。我想到了两个解决方案：

1. 部分分解：假设$p$非常大，可能不需要完整的特征分解。如果只需要$k$个最大的特征值（和相应的向量），大概可以通过接近$O(nk^2)$的复杂度获得它们。这样的算法可以解决您的问题吗？

2. 完全分解：在这种情况下，最好从大小为 n_0 的观察值中抽取J样本，并计算 pca 分解。反过来，这将为您值，可用于建立总体值的抽样分布（并且意味着将是总体特征值/向量的良好估计量）。Given the complexity, this could be made to be much faster (by appropriately choosing ). 第二个好处是这个过程可以在个内核/计算机上并行运行，从而产生$J$$n_0$$n$$J$$J$$n^3$$n_0$$m$$O(jm^{-1}n_0^3)$

什么计算节省？PCA 计算基于协方差（或相关）矩阵，其大小取决于变量的数量，而不是数据点的数量。协方差矩阵的计算速度很快。即使您重复进行 PCA（例如，作为模拟的一部分），从 1000 个数据点减少到 500 个数据点甚至不会减少 50% 的时间。

这与模型选择问题没有什么不同，模型选择问题的目标是接近数据的“真实维度”。您可以尝试交叉验证方法，例如 5 倍 CV 与 500 个数据点。这将为您提供一个合理的样本外数据泛化误差度量。以下论文对相关方法进行了很好的调查和回顾：

• 主成分分析中的交叉验证方法：比较(Diana, Tommassi, 2002)

我从未这样做过，但我的直觉表明答案将取决于 500 个数据点的协方差矩阵与样本外数据“不同”的程度。如果样本外协方差矩阵非常不同，那么显然这些点的投影矩阵将不同于从样本内数据中出现的投影矩阵。因此，就样本内和样本外数据的协方差矩阵“相似”而言，结果应该大致相同。

上述直觉建议您应该仔细选择 500 个样本内点，以便生成的协方差矩阵对于样本内和样本外尽可能相同。