让我们使用以下符号：$(x_1, ...x_9)$是您尝试预测的前 9 个变量$y$，你的第十个变量。

我将尝试解决看起来像 PCA 的误解，然后给你一些方法来预测哪些变量$x_i$最重要的是预测$y$

主成分分析

您从 PCA 获得的返回功能不是原始功能！

PCA 转换$(x_1, ..., x_9)$进入$(x'_1, ..., x'_9)$其中每个$x'_i$是一个特定的组合$(x_1, ..., x_9)$这样对于任何$i, i'$,$x_i$和$x_i'$是线性不相关的（即正交的）。此外，这样做使得每个$x_i$解释了训练数据集方差的某一部分。事实上，大多数实现排序$x'_1, ..., x'_9$这样第一个是解释方差最多的那个，然后是第二个，...

因此，您最终拥有了第一个变量$x'_1$解释了很多你的预测$y$. 但是这个$x'_i$是一个特殊的组合$(x_1, ..., x_9)$.

获取特征重要性

至于断言哪个变量$x_i$解释$y$最好的，一个人可能会使用不同的方法。顺便提一下，特征重要性不是绝对的；它依赖于你用来解决这个问题的技术（或估计器）。这是一个非详尽的可能性列表：

• 线性相关是一个好的开始
• 与RandomForestClassifier（或RandomForestRegressor取决于$y$) 的sklearn.ensemble，您可以使用feature_importances_方法来获取在树节点处使用最多的一个。注意：它适用于任何决策树估计器。
• 使用标准线性或逻辑回归（与 Lasso、Ridge 等相同），您可以检查哪个变量具有更高的系数（不要忘记标准化您的输入变量 $(x_1, ..., x_9)$ )

我不知道它是如何使用神经网络完成的，但如果有人有提示会很高兴。

PCA 的输出不是每个属性的值。这是你得到的特征值。因此，第一个值是方差最大的方向，或者如果您愿意，也可以是第一个分量。该组件是属性的组合。

不需要重复已经写过的内容，检查这个问题。