PCA(通过特征分解)或 SVD 在去相关机器学习模型的预测变量方面是否更好?

数据挖掘 机器学习 无监督学习 主成分分析
2022-02-22 00:33:20

是否有任何理由认为 SVD 在解相关机器学习模型的预测变量方面优于 PCA(通过特征分解)?

1个回答

据我所知,您的问题的答案是否定的。关于寻找不同变量的相关性,它们的工作方式相同。它们都捕获线性关联,而不捕获非线性关联。它们之间的区别主要在于数值计算,这使得 SVD 比传统的 PCA 更方便。我建议看看这个答案和这个解释。

最后,让我们讨论一下使用 SVD 的数值优势。在计算机上实际计算 PCA 的基本方法是直接执行的特征值分解。事实证明,这样做会引入一些潜在的严重数值问题,这些问题可以通过使用 SVD 来避免。XTX