随机森林与 Adaboost

机器算法验证 机器学习 随机森林 助推
2022-03-19 03:12:59

在论文Random Forests (Breiman, 1999) 的第 7 节中,作者陈述了以下猜想:“Adaboost 是一个随机森林”。

有没有人证明或反驳这一点?1999 年为证明或反驳这个帖子做了什么?

1个回答

有趣的问题。从那时起,已经完成了通过几种不同的策略来解释 ada boost 的大量工作。

我做了一个快速的文献搜索,这篇有点奇怪的论文似乎是关于这个主题的最新论文,并且还回顾了 Leo Breiman 和其他人的一系列调解工作:

http://arxiv.org/pdf/1212.1108.pdf

我不知道他们的结果是否有效,但他们声称未能证明 Breiman 的猜想,但证明了它的弱化版本,声称 adaboost 是测量保持但不一定是遍历的。

他们还提供了一些经验证据,表明 adaboost 实际上有时会过拟合。

我认为这表明 adaboost 可能与随机森林有关,但并不完全(或不总是)与 Breiman 猜想的方式相同?