这正是您应该期望看到的。

你会看到与普通回归模型完全相同的东西；如果模型的大于 0，则残差与响应相关。这是与残差不相关的拟合值。$R^2$

具体来说，每个回归都捕获了预测变量解释的这样做意味着与残差不相关——因为如果它不是不相关的，就会有可以捕获的未捕获的变化。由于捕获了可以在回归模型中捕获的所有内容，因此残差必须与实际值相关：$y$$\hat{y}$$x$$x$$y$

$\text{Cov}(y,y-\hat{y}) = \text{Cov}(y-\hat{y},y-\hat{y})+ \text{Cov}(\hat{y},y-\hat{y})= \text{Var}(y-\hat{y})+0=\sigma^2$

- 由于该协方差是正的，因此相关性将是。

正则化在某种程度上改变了事情，但出现了相同的相关性。

[模型未捕获的分量，即使它只是纯噪声，显然与自身相关。这就是我们在这里看到的全部]$y$

这种相关性将存在于每一个回归中，因此相关性将延续到整个随机森林。

这里没有什么可修复的，它实际上应该这样做。即使您完全符合生成数据的模型，您也会看到它。

 x = rbeta(1000,1.8,1.8)*20+5     # make some x variable
 y = 0.8+0.3*x+rnorm(1000,0,1.5)  # simulate a regression model
 lmfit = lm(y~x)                  # fit the true regression model
 plot(y,lmfit$residual)           # voila!                             $
 cor(y,lmfit$residual)

$\qquad$

对于此示例，您将看到 70% 附近的相关性。

事实上，如果你增加噪声项的方差（其他条件相同），相关性更强。尝试以上噪音更大的方法：

 y = 0.8+0.3*x+rnorm(1000,0,2.5)  # simulate a regression model

看看会发生什么！

您可能会想问另一个问题来解释您试图解决的原始问题，因为您选择如何解决它可能并不理想（很难从这里判断出来）。