在线性回归中,我们将多项式拟合到一组数据点。在 Bishop 的模式识别和机器学习一书中,有一些拟合是曲线或直线的例子。如果曲线是线性的,我有点困惑。术语线性意味着拟合应该是线性函数或1次多项式,即直线。但是在许多资源中,显示了拟合可以是 3,9 次多项式等的示例。那么,这些高阶多项式是线性的吗?
“曲线”是否被视为“线性”?
数据挖掘
线性回归
术语
2021-10-13 10:47:22
3个回答
统计学中的多项式回归(对于 n 次多项式)是线性回归的一个特例。让我们举一个平方函数的例子:
1. y = w*x
这在权重(w)和数据(x)方面都是线性的。
2. y = w*(x^2) OR y = w*z ; where z = x^2
这在权重(w)方面仍然是线性的,并且仍然被视为转换数据 (z)的线性回归。虽然y和x之间的建模关系肯定是非线性的。
正如您在上面注意到的:(1)和(2)中的共同点是线性回归的权重/系数的线性关系。
线性回归中的线性意味着参数中的线性。
它指的是您正在估计的参数之间的关系(例如, )和因变量(例如, )。因此, 是线性的,但是 不是。
这与自变量的幂无关。
在一些例子中,拟合是曲线或直线。
拟合可以是一条曲线,可以包含更高的自变量幂,并且参数是线性的 - 贝塔。
如果不使用特征 x,而是使用它的正方形,则会得到一条曲线。它是其变量的线性函数,但您可以输入变量的平方或立方,从而使图形显示为曲线。从这个意义上说,它仍然是线性的,而本质上它是一条多项式曲线。