非线性回归的残差图

机器算法验证 非线性回归 模型比较 残差
2022-04-02 14:10:53

我有几个关于非线性回归模型性能的问题。

  1. 非线性回归模型的残差是否也应该随机分布(如线性回归)?
  2. 我正在比较两个非线性回归模型(非嵌套)。我可以为此目的使用哪些模型性能指标?我的理解是比较 RSS、RSE、残差图、自相关和残差正态图。
  3. 模型具有不同的 Y 轴。所以我尝试标准化变量,然后重新估计 RSS、RSE。这是正确的方法吗?应该用标准化变量估计/绘制哪些其他模型性能度量?
1个回答
  1. 非线性回归模型的残差是否也应该随机分布(如线性回归)?

是的。误差项是相同的,残差代表估计的误差。模型的拟合将在残差中引入一些结构,并且非线性模型的形式与线性模型的形式不同,但采用一阶泰勒近似,非线性模型由线性近似模型,因此只要一阶泰勒近似是合理的,即使该结构也将趋于类似于接近最优值的线性模型的结构。

2. 我正在比较两个非线性回归模型(非嵌套)。我可以为此目的使用哪些模型性能指标?我的理解是比较 RSS、RSE、残差图、自相关和残差正态图。

您可以使用这些东西比较适合相同数据的两个不同模型,但您应该查看的内容取决于您目前的目的需要什么样的性能。

请注意,当您比较 RSS 时,更多的参数往往会使 RSS 更小;您无法真正将它们与具有不同自由度的模型进行比较。与 MSE 或 RMSE 类似。(您最好比较 AIC 或 BIC,但我不会将它们用作模型选择的基础 - 您需要正确考虑样本外错误,否则您最终会遇到使用测量模型性能的相同数据)

3.模型有不同的Y轴。

如果响应变量不同,则无法真正比​​较模型。

所以我尝试标准化变量,然后重新估计 RSS、RSE。这是正确的方法吗?

正确的方法究竟是什么?