在介绍 RFE 的论文中引用 Guyon的话：

这个 [RFE] 迭代过程是后向特征消除的一个实例（Kohavi，2000 和其中的参考资料）

事实上，在引入 RFE 时，Guyon 使用了支持向量机，并提出了两种不同的方法来对单个预测变量进行排序。
同时，Kohavi 测试了树分类器和朴素贝叶斯的反向消除——因此特征的评分方法不同。

总而言之，这两种方法是一样的——从一个包含所有预测变量的模型开始，然后根据一些评分函数（线性回归的 Z 分数，基于树的方法的 Gini 等）将它们一一移除，使用最大化某些目标指标（AIC，或测试性能）的目标。