弱学习器和弱分类器之间有什么区别吗?

数据挖掘 机器学习 决策树 xgboost 监督学习 集成建模
2021-09-29 18:07:28

在阅读有关决策树集成Gradient BoostingAdaBoost等的信息时。

我发现了以下两个概念weak learnerweak classifier

他们是一样的吗?

如果有什么不同,那是什么?

1个回答

弱学习器可以是分类或回归算法:

Boosting (Schapire and Freund 2012) 是一种贪心算法,用于拟合方程 16.3 中形式的自适应基函数模型,其中 φ由称为弱学习器或基础学习器的算法生成。该算法通过将弱学习器顺序应用到数据的加权版本来工作,其中更多的权重被赋予早期轮次错误分类的示例。 这种弱学习器可以是任何分类或回归算法,但通常使用 CART 模型。

资料来源:“机器学习 - 概率视角”;墨菲;2012

所以弱分类器只是一个弱学习器,它是一个分类器。