我一直在研究集成学习,我遇到了这样的疑问,即与其他集成学习算法(如投票分类器 a)不同,我们能否只使用一个带提升的分类器。
我们可以只用一个分类器使用像 Adaboost 和梯度提升这样的提升算法吗
数据挖掘
机器学习
助推
集成学习
2022-02-21 19:42:10
1个回答
Boosting 通常只使用一种算法作为它的基础学习器(几乎完全是决策树)。但是,您可以使用一组混合算法作为基础学习器。
像这样的东西:
Boosting round 0: Add decision tree
Boosting round 1: Add neural network
Boosting round 2: Add KNN
Boosting round 3: Add decision tree
...
您只看到使用相同算法进行提升的原因可能只是因为它效果更好。我推测,当并行和组合训练时,使用多种算法带来的多样性更加突出。在 boosting 中,基础学习者是按顺序训练的。
其它你可能感兴趣的问题