这一般是不可能的。如果是一个多元输入，而是一个对应的输出。没有先验理由说明和之间的最佳线性关系应该是前个PC 的函数。$\boldsymbol x_i \in R^N$$\boldsymbol y_i$$y$$\boldsymbol x$$k$

一个反例是假设是的标准基向量。假设数据构造为其中是标准法线，。在任何体面的样本大小都不会是选择某些的主要基向量之一。因此，PCR 会丢弃有用的信息，因为它基于一种不关注的方法（即关注您试图回归的事物）。$\boldsymbol e_j$$\mathbb R^N$$\boldsymbol x = \sum_{i=1}^N \frac{z_i}{i} \boldsymbol e_i$$z_i$$y_i = z_i \boldsymbol \beta' \boldsymbol e_N$$\boldsymbol e_N$$k<N$$y_i$

另一方面，岭回归实际上是一种回归技术。