对于离散数据，两者都是相同的 - 找到一组正交方向，使沿它们的数据的方差（能量）最大化。有时那些被称为自然轴的。
由于我们正在处理方差，因此两者都是从数据的协方差矩阵中计算出来的。

您可能会遇到甚至可能在相关矩阵上定义 KL 的地方。

无论如何，处理它们时的一些细微差别：

1. 通常在处理连续函数时，人们使用术语 KL。PCA 保留在离散数据中（尽管数学家可能在所有情况下都使用 PCA，因为他们也对连续数据具有 SVD）。
2. PCA 用于任何离散数据，其中 KL 是专门在考虑随机变量的情况下形成的。

在实践中，当一个人拥有离散数据并试图找到最大化数据能量的方向（降维、压缩等）时，两者都是相同的。