有多种特征选择技术。最常见的技术根据它们为目标带来的信息量对单个特征进行排名，例如信息增益或条件熵。

基于单个特征的技术是有效的（即快速）并且通常有助于降低维度和提高性能。但它们不一定是最优的，因为它们不能同时考虑特征子集的贡献。例如，他们可能会选择几个彼此之间高度相关的特征，即使只选择其中一个就足够了。

为了考虑特征如何相互作用，理想情况下，可以使用每个可能的特征子集训练和测试模型，然后选择最好的模型。然而，完全探索个子集很少可行，但可以使用一些优化方法，例如使用遗传学习进行特征选择。$2^N$

请注意，还有特征提取技术。在这种情况下，不会保留特征的原始语义，因为整个特征集都被转换为新的表示。