“曲线”是否被视为“线性”?

数据挖掘 线性回归 术语
2021-10-13 10:47:22

在线性回归中,我们将多项式拟合到一组数据点。在 Bishop 的模式识别和机器学习一书中,有一些拟合是曲线或直线的例子。如果曲线是线性的,我有点困惑。术语线性意味着拟合应该是线性函数或1次多项式,即直线。但是在许多资源中,显示了拟合可以是 3,9 次多项式等的示例。那么,这些高阶多项式是线性的吗?

3个回答

统计学中的多项式回归(对于 n 次多项式)是线性回归的一个特例。让我们举一个平方函数的例子:

1. y = w*x           

这在权重(w)和数据(x)方面都是线性的

2. y = w*(x^2)    OR        y = w*z ; where z = x^2     

这在权重(w)方面仍然是线性的,并且仍然被视为转换数据 (z)的线性回归。虽然yx之间的建模关系肯定是非线性的。

正如您在上面注意到的:(1)(2)中的共同点是线性回归的权重/系数的线性关系。

线性回归中的线性意味着参数中的线性。

它指的是您正在估计的参数之间的关系(例如, β)和因变量(例如, yi)。因此,y=exβ+ϵ 是线性的,但是 y=eβx+ϵ 不是。

这与自变量的幂无关。

在一些例子中,拟合是曲线或直线。

拟合可以是一条曲线,可以包含更高的自变量幂,并且参数是线性的 - 贝塔。

如果不使用特征 x,而是使用它的正方形,则会得到一条曲线。它是其变量的线性函数,但您可以输入变量的平方或立方,从而使图形显示为曲线。从这个意义上说,它仍然是线性的,而本质上它是一条多项式曲线。