AdaBoost.M2、AdaBoost.M1、Gentle AdaBoost、RealAdaboost 和 Original Adaboost 有什么区别?

机器算法验证 分类 数据挖掘 助推
2022-03-22 11:43:22

我知道在温柔和 ada 之间已经提出了一些问题,但我想知道温柔和其他人。

例如,我看到两部不同的作品谈论 AdaBoost.M1 和 AdaBoost.M2,另一部作品只涉及 Gentle、Real 和原始 Adaboost。

在我看来,Gentle 是温柔、真实和原创中最新最好的一款;并且M2优于M1。

我不确定(.M1 和 .M2)与 Gentle、Real 和 Original 之间有什么区别。

R 中有一个名为ada的包,它建立在 Real、Gentle 和 Original Adaboost 之上,但由于它既不涉及 .M1 也不涉及 .M2,我无法比较哪个更好。

1个回答

可以在 Artur Ferreira 的论文“监督和半监督学习的 Boosting Algorithms 调查”中找到对几种变体的调查。

通常,原始 AdaBoost 返回二进制值类,它是几个组合模型的集成符号结果。

Real AdaBoost 返回类成员的实值概率。

论文中涵盖了其他变体,但在普通文献中很少提及。据我了解,Gentle Adaboost 产生了一个更稳定的集成模型。AdaBoost.M1 和 AdaBoost.M2 模型是多类分类的扩展(M2 克服了 M1 中分类器的最大错误权重的限制)。 “使用新的提升算法进行实验”,Yoav Freund 和 Robert E. Schapire。