在 R 或 MATLAB 中校准提升决策树

机器算法验证 r 分类 matlab
2022-03-23 13:19:22

监督学习算法的实证比较(ICML 2006) 中,作者(Rich Caruana 和 Alexandru Niculescu-Mizil)评估了几种分类算法(支持向量机、人工神经网络、KNN、随机森林、决策树等),并报告了校准的增强树在八个不同的指标(F-score、ROC 面积、平均精度、交叉熵等)中被评为最佳学习算法。

我想在我的一个项目中测试校准的增强决策树,并且想知道是否有人可以为此建议一个好的 R 包或 MATLAB 库。

我对 R 比较陌生,尽管我对 MATLAB 和 Python 有丰富的经验。我已经阅读了 R 的gbmtreerpart ,但我不确定这些包是否实现了校准提升决策树,或者是否还有其他实现它们。

谢谢

1个回答

关于 R,我会投票支持gbm包;有一个小插图提供了一个很好的概述:Generalized Boosted Models: A guide to the gbm package如果您正在寻找 ML 算法的统一接口,我推荐caret包,它具有内置的数据预处理、重采样和模型性能比较评估工具。增强树的其他包在其随附的插图之一的表 1 中报告,模型调整、预测和性能功能JSS 论文第 10-11 页中还有一个为提升树调整参数的示例。

注意:我没有检查,但你也可以查看Weka(有一个 R 接口,RWeka)。