您是否应该在特征选择中使用与模型相同的算法

数据挖掘 机器学习 特征工程
2022-02-01 18:27:28

我的问题是你应该在特征选择中使用与你的模型相同的算法吗?

如果我使用 KNN 模型进行分类,我是否应该在运行特征选择时也使用 KNN 算法?还是用于特征选择和 lightGBM 模型的 lightGBM 算法?

或者是否有一个最佳的特征选择算法,您可以将这些特征与任何模型一起使用?

我知道有几种不同的特征工程技术我只是不知道哪些技术应该与不同的机器学习算法一起使用。

1个回答

是 - 您可以对特征选择和预测使用相同的算法。最常见的例子是 L1 回归和基于树的算法。这些算法都使用相同的拟合机制找到最重要的特征并预测目标。

这些算法和您的示例之间的区别在于,这些算法同时执行两个步骤,并且您的示例是顺序的。

没有一种最佳的特征选择算法也可以与其他模型一起用于预测。不同的算法将在不同的数据集上表现更好。