为什么将多项式回归简化为线性回归?

数据挖掘 回归 线性回归
2022-02-27 17:51:06

进入机器学习领域,具有合理的统计学背景并了解线性代数(矩阵乘法等)的基本原理 - 但我很难弄清楚为什么减少多项式回归有效。

例如,假设我们有这个功能:

y= β0+β1x1+β2x22

根据我在 4 个视频和 6 篇文章中看到的内容,我们可以使用以下替换:

  • x2= 1
  • x3=x
  • x4=x2

要创建以下模型: y= β0+β1x1+ (β2x2+β3x3+β4x4)

然后,很好 - 我们可以将其作为正常的多元线性回归来解决,一切都很好。

但是为什么,为什么会这样呢?我真的找不到对此的解释。

谢谢!

1个回答

我真的不明白你的问题陈述。您可以简单地将平方项添加到任何线性模型。说你有yx并且您想对多项式函数进行建模,您可以编写如下模型:

y=β0+β1x1+β2x12+u.

以矩阵形式,这看起来像

y=Xβ+u.

一个带有一些数字的例子会这样写:

(5876)= (1882144213321662)β+u.

你可以像这样解决这个问题β^=(XX)1Xy, 在哪里β^是线性回归模型的系数。