机器算法验证 - 基于单特征线性模型的双特征线性模型的 R^2值范围？R2R2R2R2 - 吾爱随笔录

机器算法验证自习线性模型

2022-04-13 10:02:30

我在一次采访中被问到这个问题。您有两个功能，和。你在每个特征上拟合一个简单的线性模型，所以 $x_1$ $x_2$

\underset{model 1}{\underset{⏟}{y = x_{1} β}}, \underset{model 2}{\underset{⏟}{y = x_{2} β}} .

$\underbrace{y = x_1 \beta}_{\text{model 1}}, \qquad \underbrace{y = x_2 \beta}_{\text{model 2}}.$

您计算每个模型的值并发现每个模型的为。现在您在这两个特征上都拟合了一个模型 $R^2$ $R^2$ $0.1$

y = x_{1} β_{1} + x_{2} β_{2} .

$y = x_1 \beta_1 + x_2 \beta_2.$

取什么范围的值？我被难住了，很好奇如何推理。 $R^2$

1个回答

解决这个问题的一个简单方法是从几何角度考虑它。

首先，我们立即知道答案在 [0.1, 1] 范围内，然后让我们检查它是否紧密。

注意回归是将的列空间。 $y$ $x$

如果向量和几乎是完全线性相关的，很容易看出的投影几乎和以前一样，因此几乎是 0.1。 $x_1$ $x_2$ $y$ $R^2$

如果位于两个向量和的子空间中（这确实有可能发生，您可以先将其视为 3-dim 空间，然后它适用于一般 n-dim 空间），那么我们立即知道为 1。 $y$ $x_1$ $x_2$ $R^2$

因此答案应该是 (0.1, 1]。

其它你可能感兴趣的问题