我不同意其他评论。

首先，我认为没有必要为决策树规范化数据。决策树通过为每个不同的数据划分计算分数（通常是熵）来工作$(X\leq x_i,X>x_i)$. 对不改变数据顺序的数据应用转换没有区别。

随机森林只是一堆决策树，所以它不会改变这个基本原理。

神经网络是另一回事。首先，就预测而言，它没有区别。神经网络可以很容易地对抗你的归一化，因为它只是缩放权重并改变偏差。最大的问题在于训练。

如果你使用像弹性反向传播这样的算法来估计神经网络的权重，那么它没有区别。原因是因为它使用梯度的符号，而不是它的大小，当在最小化误差的方向上改变权重时。neuralnet顺便说一下，这是 R 中包的默认算法。

什么时候会有所作为？当您使用带有 sigmoid 激活函数的传统反向传播时，它可能会使 sigmoid 导数饱和。

考虑 sigmoid 函数（绿色）及其导数（蓝色）：

如果你不规范化你的数据会发生什么是你的数据乘以随机权重，你会得到类似的东西 $s'(9999)=0$. sigmoid 的导数（大约）为零，并且训练过程不会继续进行。你最终得到的神经网络只是一个具有随机权重的神经网络（没有训练）。

这是否有助于我们了解最好的归一化函数是什么？但是当然！首先，使用以数据为中心的归一化至关重要，因为大多数实现将偏差初始化为零。我会在 -0.5 和 0.5 之间标准化，$\frac{X-\min{X}}{\max{X}-\min{X}}-0.5$. 但标准分数也不错。

实际的归一化不是很关键，因为它只影响优化过程的初始迭代。只要它居中并且您的大部分数据都低于 1，那么这可能意味着您必须使用稍微更少或更多的迭代来获得相同的结果。但结果是一样的，只要你避免我提到的饱和问题。

这里没有讨论的东西是正则化。如果您在目标函数中使用正则化，则标准化数据的方式将影响生成的模型。我假设您已经对此很熟悉了。如果您知道一个变量更容易导致过度拟合，那么您对数据的规范化应该考虑到这一点。这当然完全独立于所使用的神经网络。

1. 没有明确的答案。我建议使用不同的方法扩展您的数据，然后使用相同的模型来预测您的保留集的结果（RF 在这里可以正常工作）。这至少应该向您展示哪种缩放方法最适合您的预测问题。
2. 您无需为随机森林扩展数据
3. 只要从一开始就一直按比例缩放，各个范围就不应该成为问题。这只是说明变量之间存在差异，只是比以前更紧凑。
4. 是 的 - 您的所有数据都应该使用相同的方法进行缩放。否则，转换后的数据集中的值可能与数据本身无关，而是与用于缩放的算法有关。

希望这会有所帮助。