我们如何为决策树的非常稀疏的特征预处理数据?
来自决策树的这个Turi 文档
它提到了这一点:
为什么选择决策树?不同类型的模型有不同的优势。决策树模型非常擅长处理具有数值特征的表格数据,或少于数百个类别的分类特征。与线性模型不同,决策树能够捕获特征和目标之间的非线性交互。
一个重要的注意事项是,基于树的模型不是为处理非常稀疏的特征而设计的。在处理稀疏输入数据(例如大维度的分类特征)时,我们既可以对稀疏特征进行预处理以生成数值统计,也可以切换到更适合此类场景的线性模型。
如果我们有一个非常稀疏的分类列(许多 0),那么对于该类别,我们可以为每一行转换什么类型的数字统计信息?