有效自由度

机器算法验证 回归 自由程度
2022-03-07 15:28:59

我们可以在核回归的情况下使用帽子矩阵的轨迹来计算有效自由度吗?我们获得帽子矩阵的地方,H 为:

H=y^y+其中是预测的响应值,是 y 的伪y^y+y

1个回答

如果满足获得有效自由度将是相当标准的Hy^=Hytr(H)

请参阅 Hastie 和 Tibshirani 的Generalized Additive Models,Hastie 等人的 Elements of Statistical Learning(第 2 版)第 5 章(在关于自由​​度和平滑矩阵的部分)中也有类似的处理。ESL II 那部分的讨论是关于平滑样条曲线的有效自由度,但正如他们所说的那样(他们专门讨论 eq 5.16 中给出的广义自由度的这种定义)“这个非常有用的定义允许我们一种更直观的方法来参数化平滑样条,实际上还有许多其他平滑器,以一致的方式"; 然后他们提到有许多可能的理由,他们继续给出一些可能的理由。另见方程 7.6 和附近的文本。

更广泛地看 Ye (1998) “On Measurement and Correcting the Effects of Data Mining and Model Selection”,JASA 93(441):120-131,作者建议使用 作为各种模型的自由度,您可以为其获取一组数据并计算对于可以写成帽子矩阵形式的轨迹iy^iyiyy^y^=HyH