机器算法验证 - R 的平方总是大于 1 - 吾爱随笔录

我正在尝试使用以下目标函数（LASSO）实现一个解决线性回归问题的算法：

min_{β} \frac{1}{2} | | y - X β | |_{2}^{2} + λ | | β | |_{1}

$\min_\beta \frac{1}{2}||y-X\beta||_2^2 + \lambda ||\beta||_1$

对于在不时添加或更改的几个约束条件下的各种和是我的训练数据，它们已标准化为均值为 0，并标准化为具有单位。对于我解决的所有回归问题（记住我不时添加一些约束），我想在验证集上计算样本外以比较模型。验证集也已标准化，但我使用了训练集的平均值，而验证集没有标准化。 $\lambda$ $y$ $X$ $l_2$ $R^2$

当我以下列方式计算 $R^2$ 时，我收到大于 1 的值：

R^{2} = \frac{\sum_{i = 1}^{n} (\hat{y_{i}} - \bar{y_{i}})^{2}}{\sum_{i = 1}^{n} (y_{i} - \bar{y_{i}})^{2}}

$R^2= \frac{\sum_{i=1}^n(\hat{y_i}-\bar{y_i})^2}{\sum_{i=1}^n (y_i - \bar{y_i})^2}$

由于训练集被标准化为具有 0 均值，并且训练集的均值用于计算 $R^2$ ，因此上述术语简化为：

R^{2} = \frac{\sum_{i = 1}^{n} (\hat{y_{i}})^{2}}{\sum_{i = 1}^{n} (y_{i})^{2}}

$R^2= \frac{\sum_{i=1}^n(\hat{y_i})^2}{\sum_{i=1}^n (y_i )^2}$

我所有的 $R^2$ 值都高于 1（大约 1.5 到 1.6）。即使我在训练集上使用相同的计算，该值也会超过 1（请注意，在训练集的情况下，分母等于 1，因为训练集被标准化为具有单位 $l_2$ 。

我感觉到这里出了点问题，但我没能找到错误。我想也许这个 $R^2$ 的标准计算不适用于我的 LASSO 目标函数。如果是这种情况，这里计算 $R^2$ 的正确方法是什么？