线性回归解释

机器算法验证 回归
2022-03-21 04:13:16

在解释简单的线性回归时,对于许多示例来说明穿过某个散点图的直线是不是有点误导?这似乎表明线性回归仅在您的自变量和因变量具有某种直线关系时才有效,而线性回归中的“线性”实际上是指模型参数中的线性,对吗?

3个回答

好吧,它在预测变量中也是线性的。

例如,如果您拟合二次方程,您可能会说“看,不是线性的!”......但它确实如此!如果上回归中肯定是线性的它在您给出的预测变量中是线性的。x1=xx2=x2x1x2(1,x1,x2)

如果你回归中仍然是线性的x1=sin(πx)x2=cos(πx)(1,x1,x2)

等等。

通过明智地选择您的,您可以使用它来拟合曲线,但它在您给出的内容中仍然是线性的。x

即使是局部多项式(内核类型)拟合实际上在预测变量中也是线性的。你可以把整个事情写成一个大的线性模型。

如果(在 X 的列中)或中显然是线性的E(y)=XβXβXβ

但是,是的,参数中的线性是线性回归中的“线性”“意味着”。

当回归可以拟合曲线时,基本表示总是绘制直线关系,这是否至少在一定程度上具有误导性?也许,但你几乎必须从线条开始。

没错,线性回归线性模型中的“线性”实际上代表参数中的线性这意味着您正在估计的参数是coefficients

然而,值得一提的 )建模的曲线外观函数实际上是一个多元回归模型,即使我们将模型绘制在二维散点图上即使我们认为是同一个基础变量。但是,当位于适当的空间时,它确实是一条直线/平面。 Y=β0+β1X1+β2X12X1X12

在 3 维图中也很难看到它,因为之间的关系是曲线的。但是想象一下一个切开可乐罐的完美平面;从飞机的角度来看,飞机与罐壁相交的线是直的。如果你可以安排它,让你通过平面看到这个完美的边缘,你会看到这个函数是线性的。 X1X12

更新:我在这里的回答中有一个例子:为什么多项式回归被认为是多元线性回归的特例?

好吧,简单的线性回归通常是指只有一个预测变量的模型,所以关系是线性的(如果你转换一个变量,那么转换后的变量之间的关系仍然是线性的)。

许多曲线关系使用多项式或样条建模,从简单的线性回归变为多元线性回归。

虽然当我教简单的线性回归时,我也尝试做一个预告片说曲线关系也可以建模,但是学生必须回来参加另一门统计学课程来学习细节(或者他们应该咨询统计学家以适应这些楷模)。