使用Kaiser Rule选择主成分个数的优缺点

机器算法验证 主成分分析 因子分析 降维
2022-03-13 19:38:57

Kaiser 规则(仅选择特征值 >1 的 PC,参见例如 Wikipedia 上的此处)是选择要保留的主成分数量的合理方法吗?它的优点和缺点是什么?

1个回答

该规则的优点是易于计算,特别是如果您生活在 1950 年代,并且无法使用快速计算机。

缺点......好吧,我要引用 Preacher 和 MacCallum 在他们的论文“修复 Tom Swift 的电动因子分析机”中的话。整篇论文值得一读,可在此处获取:http ://www.quantpsy.org/pubs/preacher_maccallum_2003.pdf

Gorsuch (1983) 指出,许多研究人员将 Kaiser 标准解释为要保留的实际因子数,而不是因子数的下限。此外,其他研究人员发现,该标准低估(Cattell & Vogelmann,1977;Cliff,1988;Humphreys,1964)或高估(Browne,1968;Cattell & Vogelmann,1977;Horn,1965;Lee & Comrey,1979;Linn , 1968; Revelle & Rocklin, 1979; Yeomans & Golder, 1982; Zwick & Velicer, 1982) 应保留的因子数量。还证明了 Kaiser 标准建议的因子数量取决于变量的数量(Gorsuch, 1983; Yeomans & Golder, 1982; Zwick & Velicer, 1982),因子的可靠性(Cliff, 1988, 1992), 或关于 MV 因子比和社区范围(Tucker, Koopman, & Linn,1969)。因此,一般结论是几乎没有理由使用 Kaiser 标准来决定要保留多少因子。......几乎没有理论证据支持它,相反的证据充足,更好的替代品被忽略了。”