正如@aginensky 在评论线程中提到的那样，不可能进入作者的脑海，但 BRT 很可能只是对gbm建模过程的更清晰描述，请原谅我陈述了明显的、增强的分类和回归树。既然你问过提升、梯度和回归树，这里是我对这些术语的简单英语解释。仅供参考，CV 不是一种提升方法，而是一种通过重复采样帮助识别最佳模型参数的方法。有关该过程的一些出色解释，请参见此处。

Boosting是一种集成方法。集成方法是指一组方法，通过这些方法通过聚合来自多个单独模型的预测来做出最终预测。Boosting、Bagging 和 Stacking 是一些广泛实施的集成方法。堆叠涉及单独拟合许多不同的模型（您自己选择的任何结构），然后将它们组合成一个线性模型。这是通过根据因变量拟合各个模型的预测来完成的。LOOCV SSE 通常用于确定回归系数，每个模型都被视为基函数（在我看来，这与 GAM 非常非常相似）。同样，装袋涉及将许多结构相似的模型拟合到自举样本。冒着再次说明显而易见的风险，堆叠和装袋是并行集成方法。

然而，Boosting是一种顺序方法。Friedman 和 Ridgeway 都在他们的论文中描述了算法过程，所以我不会在这里插入它，但是简单的英语（并且有些简化）版本是你一个接一个地拟合一个模型，每个后续模型都试图最小化由前一个模型的误差加权的残差（收缩参数是分配给上一次迭代中每个预测的残差误差的权重，你能负担得起的越小越好）。在抽象意义上，您可以将提升视为一个非常类似于人类的学习过程，我们将过去的经验应用于我们必须执行的任务的新迭代。

现在，整个事情的梯度部分来自用于确定用于预测的最佳模型数量（在文档中称为迭代gbm）以避免过度拟合的方法。

正如您从上图中所看到的（这是一个分类应用程序，但回归也是如此），CV 误差一开始会急剧下降，因为算法会选择那些在变平之前会导致 CV 误差最大下降的模型当整体开始过度拟合时，再次向上爬。最佳迭代次数是对应于CV误差函数的拐点（函数梯度等于0）的迭代次数，用蓝色虚线方便地表示。

Ridgeway 的gbm实现使用分类和回归树，虽然我不能声称能读懂他的想法，但我可以想象，可以拟合树的速度和易用性（更不用说它们对数据恶作剧的鲁棒性）对他选择的建模技术。话虽如此，虽然我可能是错的，但我无法想象一个严格的理论原因为什么几乎任何其他建模技术都无法实现。再说一次，我不能声称知道里奇韦的想法，但我想象的一般化的部分gbm的名字是指众多潜在的应用。该软件包可用于执行回归（线性、泊松和分位数）、二项式（使用许多不同的损失函数）和多项式分类，以及生存分析（或至少风险函数计算，如果 coxph 分布有任何指示）。

Elith 的论文似乎有点熟悉（我想我去年夏天在研究 gbm 友好的可视化方法时遇到了它），如果记忆正确，它的特色是gbm库的扩展，专注于回归的自动模型调整（如高斯分布，而不是二项式）应用程序和改进的绘图生成。我想 RBT 命名法有助于阐明建模技术的性质，而 GBM 更通用。

希望这有助于澄清一些事情。