在我看来，这意味着每棵树只采用一个特征，并基于它产生一个阶跃函数。
在 n_estimators 非常大且 max_depth=1 的限制下，xgboost 会变成线性模型吗？
在我的数据集上，gridsearch 发现 max_depth 为 1，所以我想知道是否应该构建一个线性模型。
xgboost max_depth=1 的极限代表什么？
数据挖掘
xgboost
2021-09-21 13:09:02
1个回答
决策树模型是从 x 到 y 的非线性映射，其中 XGBoost（或 LightGBM）是一种逐级决策树集成算法，因此您的模型在max_depth = 1时仍然是非线性的。但是max_depth = 1很可能会阻止您的算法使您的模型变得足够复杂以从数据中捕获复杂的模式，因为您只允许树的一个拆分。Max_depth 用于防止过拟合，避免树长得很深。
我建议您查看 XGBoost 文档，因为在超参数调整过程中，树参数之间具有很强的相关性：https ://xgboost.readthedocs.io/en/latest/parameter.html
其它你可能感兴趣的问题