了解岭回归结果

机器算法验证 岭回归
2022-03-27 02:58:40

我是岭回归的新手。当我应用线性岭回归时，我得到了以下结果：

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0

问题：

  • 可以为零GCV吗？
  • 它到底是什么意思？
  • 我的模型有问题吗？
  • 我怎样才能找到R2的值myridge？
2个回答

使用惩罚包或glmnet包可能会更好；两者都实现了套索或弹性网络，因此结合了套索（特征选择）和岭回归（处理共线变量）的属性。处罚也确实脊。这两个包比MASSlm.ridge()包中的功能更全面。

反正，λ=0意味着零惩罚，因此最小二乘估计是最优的，因为它们具有最低的 GCV（广义交叉验证）分数。但是，您可能没有允许足够大的罚款；换句话说，最小二乘估计是一小组λ你看过的价值观。绘制脊路径（系数的值作为λ看看痕迹是否稳定。如果不是，请增加范围λ评估的值。

您获得 0 GCV 的原因是您使用了：

myridge = lm.ridge(y ~ ma + sa + lka + cb + ltb , temp, lamda = seq(0,0.1,0.001))

代替

myridge = lm.ridge(y ~ ma + sa + lka + cb + ltb , temp, lambda = seq(0,0.1,0.001))

其它你可能感兴趣的问题
上一篇您如何计算 MLE 转换的标准误？ 下一篇如何计算截断或修剪的平均值？