大于 OLS 系数或改变符号的岭回归系数λλ

机器算法验证 解释 回归系数 岭回归
2022-02-28 23:18:27

运行岭回归时,如何解释在最小二乘法下最终大于相应系数的系数(对于某些值λ)? 岭回归不应该单调收缩系数吗?

在相关说明中,如何解释在岭回归期间符号发生变化的系数(即,岭迹在岭迹图上从负交叉到正)?

1个回答

作为λ从零开始增加各种系数变化的贡献以适应优化,允许值增加和符号变化。查看 Ryan Tibshirani 的岭回归图 (PDF) ,说明您的两个问题(图 17、19)。