在带有设计矩阵的岭回归中, 结果, 固定正则化参数, 和错误, 岭回归系数的计算(又名解决方案) 和它们的方差-协方差矩阵是:
的计算依赖于将视为一个常数值,这使得成为常数。因此,我们可以应用恒等式和来推导。
但是,当使用和时(对于我的应用程序通过交叉验证),和变得随机。如何以处理通过交叉验证选择
在带有设计矩阵的岭回归中, 结果, 固定正则化参数, 和错误, 岭回归系数的计算(又名解决方案) 和它们的方差-协方差矩阵是:
的计算依赖于将视为一个常数值,这使得成为常数。因此,我们可以应用恒等式和来推导。
但是,当使用和时(对于我的应用程序通过交叉验证),和变得随机。如何以处理通过交叉验证选择
我猜这些方程是最大似然解。参数的 MLE 将似然函数的二阶导数的逆矩阵作为其方差-协方差矩阵。这意味着 var data,。如果包含 lambda 参数,则此偏导数不会改变。您在B和 lambda之间引入了协方差。您通过交叉验证而不是 MLE 优化 lambda 的事实并没有改变 beta 的故事。