斯坦因悖论在使用时是否仍然成立l1l1规范而不是l2l2规范?

机器算法验证 悖论 斯坦斯现象
2022-02-09 04:14:19

斯坦因悖论表明,当同时估计三个或更多参数时,存在比单独处理参数的任何方法平均更准确(即具有较低的预期均方误差)的组合估计量。

这是一个非常违反直觉的结果。如果不使用l2范数(预期均方误差),我们使用l1范数(预期的平均绝对误差)?

1个回答

Stein 悖论适用于所有损失函数,甚至更糟糕的是,对特定损失函数的可接纳性可能意味着对任何其他损失的不可接纳性。

有关正式处理,请参见 [1] 中的第 8.8 节(收缩估计器)。

[1] 范德法特,AW 渐近统计。英国剑桥;美国纽约州纽约:剑桥大学出版社,1998 年。