我认为对于基于树的算法来说必不可少的特征工程是：

• 模块化算术计算：例如将时间戳转换为星期几或一天中的时间。如果您的模型需要知道每个月的第三个星期一发生了什么事情，那么从时间戳中确定这一点几乎是不可能的。

• 同样，从可用数据中创建新功能可以大大提高您的预测能力。这就是领域知识非常重要的地方——如果您知道或认为您知道一种关系，那么您可以包含描述该关系的变量。这是因为基于树的方法只能创建水平或垂直的拆分（即与您的数据正交）。

• 降维通常通过特征选择或特征转换来执行。通过特征选择减少维度可能对您提到的模型没有太大帮助，但是算法可能会或可能不会从特征转换（例如主成分分析）中受益，具体取决于过程中丢失了多少信息。唯一确定的方法是探索特征转换是否提供更好的性能。