如果可以使用线性回归来拟合数据的任何类型的曲率,为什么还需要非线性回归?

机器算法验证 回归 线性模型 非线性回归 模型比较 多项式
2022-04-10 23:49:12

多项式回归拟合数据的非线性模型。但作为一个统计估计问题,在回归函数的意义上它仍然是线性的h(Θ,X)在未知参数中是线性的Θ.

当我们使用多项式回归时,我们实际上为我们的线性模型提供了额外的特征,比如X2或者XY. 但同样的成功,你可以给你的模型功能,比如log(X)或者exp(X),然后应用最小二乘。因此,您可以将任何类型的曲率拟合到您的数据中。

我的问题是:为什么非线性回归假设一个更一般的函数假设空间 - 一个包含线性回归可以获得的函数假设空间?我的意思是,如果线性回归本身(例如,具有多项式或对数特征)可以拟合数据的任何曲率,为什么我们认为非线性回归可以比线性回归拟合更多类型的曲率?

1个回答
  1. 简约典范

如果您有一条正弦曲线,则可以通过其级数展开将其近似为任意精度。

我可能宁愿估计两个参数E[y]=Asin(Bx)比长级数展开中的许多参数。

请注意,因为B在非线性正弦函数内部,您无法使用正弦基函数创建估计频率正弦曲线;你必须选择一个B,而不是从数据中估计。

  1. 解释

非线性方程中的参数可以有感兴趣的解释。在上述等式中,A是幅度和B与频率有关。也许您可以使用一个近似正弦曲线的长多项式来获得频率和幅度,但它们直接来自非线性方程。