套索引入的偏差可以改变系数的符号吗?

机器算法验证 回归 解释 回归系数 套索 正则化
2022-04-04 20:43:30

L1 惩罚回归在回归模型中引入了偏差,但会降低方差。当引入这种偏差时,是否有可能B改变标志?这将极大地影响解释,其中常规回归可能会告诉您增加x增加y经过B,但也许使用套索增加x减少y经过B

1个回答

是的,系数的符号可以改变。作为参考,在Tibshirani (1995) 的原始论文中,它说 LASSO 估计和最小二乘解的符号可能不同(p270 最后一段)。