尽管您的问题似乎是基于使用增强的回归树算法（XGBRegressor，我没有经验），但您的问题似乎是标准线性回归中也面临的一些问题，我的大部分答案都基于此。如何进行取决于您要完成的工作。首先，需要澄清几个问题。

首先，如果回归模型的参数是线性的，则它通常被认为是线性的。在这个术语中，预测变量或结果/目标变量的非线性变换本身不会使模型成为非线性的。由于您显然使用的是增强回归树而不是经典的线性回归，因此尚不清楚线性/非线性区别是否真的适用。

其次，目标变量不需要在标准线性回归中具有对称分布，尽管这有助于回归树。正如您对残差图的适当关注所表明的那样，残差的分布很重要。

第三，整个数据集的 RMSE（这似乎是您所展示的）可能不是衡量模型质量的最佳方法。特别是如果您打算使用该模型来预测新案例，则交叉验证或引导可以提供对此类未来性能的更好估计。

现在回答你的问题：

1. 线性和对数转换价格的回归尝试不同的事情：第一个尝试最小化绝对值（例如，美元）的误差，第二个尝试最小化相对/分数的误差（例如，预测价格的百分比误差）。您的应用程序关心哪种类型的错误？如果您更关心小数误差，则应使用对数变换，并且您不必担心从对数尺度进行反向变换时绝对误差会显得更大。但是，无论您选择哪种比例，您都应该始终注意残差。

2. 目标变量的偏度是标准线性回归中的一个问题，前提是某些预测变量也适当偏斜，以便残差不偏斜。通常需要转换预测变量和目标变量来满足线性回归的假设并产生表现良好的残差。使用基于树的回归方法，使用目标变量的平均值来选择树的截止值，可以推荐消除目标变量中的偏度；ISLR的作者在他们的回归树示例中为此目的进行了对数变换（第 304 页及以下）。对数转换意味着残差将是分数而不是绝对值，这似乎对这些类型的数据有意义。

3. 您应该始终注意残差图。

4. 将非转换价格回归的 RMSE 与对数转换价格回归的指数 RMSE 进行比较并不总是很有用。在您的对数转换分析中，对数（分数）刻度绝对误差最大的情况也是绝对预测价格最低的情况。这种情况将对对数转换尺度中的 RMSE 误差做出很大贡献（与其他几个低价案例一样），但在非转换价格的回归中，绝对值对 RMSE 的贡献可能非常小。这可能解释了你的观察。

就如何进行而言，价格的对数转换看起来很有用，但您的模型不能很好地处理一些最低价的价格。您可能需要结合您对基础主题的知识，例如，这些案例是否有一些特殊之处（除了它们不太适合）使它们不适合包含在模型中（例如，您可能需要排除家庭成员之间收取的所有租金，这可能低于市场租金，或其他补贴单位的租金（如果有），或者某些预测变量的转换是否可能会提高绩效。为提升选择不同的调整参数可能会有所帮助。同样，您应该在整个数据集上考虑与 RMSE 不同的模型质量度量。

最后，经典的线性回归方法在许多情况下可以胜过基于树的方法。您可以尝试通过适当的基于知识的预测和目标变量值转换的标准线性回归，并使用交叉验证或自举式回归来验证您的建模方法。