我一直在使用 R 包glmnet
进行惩罚回归。作为其中的一部分,该软件包不会产生置信区间或具有回归系数的 p 值。glm
这与所有提供置信区间和 p 值的非惩罚回归函数不同。为什么通常不报告此类系数的 p 值?
为什么置信区间和 p 值不报告为惩罚回归系数的默认值
机器算法验证
置信区间
p 值
套索
岭回归
网络
2022-03-12 10:58:26
1个回答
聚会有点晚了,但万一有人在未来偶然发现这个问题。. . .
最佳答案:查看惩罚R 包的小插图第 6 节(“L1 和 L2 惩罚回归模型”Jelle Goeman,Rosa Meijer,Nimisha Chaturvedi,包版本 0.9-47),https://cran.r- project.org/web/packages/penalized/vignettes/penalized.pdf。
当我们使用惩罚回归时,我们不会得到系数的 CI 或标准误差,因为它们没有意义。普通线性回归或逻辑回归或其他任何方法都提供了系数的无偏估计。那么,围绕该点估计的 CI 可以给出点估计如何围绕系数的真实值分布的一些指示。然而,惩罚回归使用偏差-方差权衡来为我们提供具有较低方差但有偏差的系数估计。围绕有偏估计报告 CI 将给出一个不切实际的乐观指标,表明系数的真实值与点估计的接近程度。
(“惩罚回归、标准误差和贝叶斯套索”Minjung Kyung、Jeff Gill、Malay Ghosh 和 George Casella,贝叶斯分析(2010) 第 369 - 411 页,讨论了惩罚回归和,如果我理解正确,他们不会留下深刻印象。https ://doi.org/10.1214/10-BA607 (Wayback 机器链接))
其它你可能感兴趣的问题