为什么我们要稳定方差?

机器算法验证 方差 数理统计
2022-01-25 13:22:26

我在阅读Kaggle Essay Eval 方法时遇到了方差稳定转换他们使用方差稳定变换来变换 kappa 值,然后再取平均值,然后再将它们变换回来。即使在阅读了我无法理解的关于方差稳定变换的 wiki 之后,为什么我们实际上要稳定方差?我们从中得到什么好处?

1个回答

这是一个答案:通常,进行统计推断的最有效方法是当你的数据是独立同分布时,如果不是,你会从不同的观察中获得不同数量的信息,这样效率会降低。另一种看法是,如果您可以在推理中添加额外的信息(即,通过方差稳定变换,方差的函数形式),您通常会提高估计的准确性,至少是渐近的。在非常小的样本中,为方差建模而烦恼可能会增加您的小样本偏差。这是一种计量经济学 GMM 类型的论证:如果你添加额外的矩,你的渐近方差不会上升;并且您的有限样本偏差随着过度识别的自由度而增加。

基数给出了另一个答案:如果你的渐近方差表达式中有一个未知的方差,那么收敛到渐近分布的速度会更慢,你必须以某种方式估计这个方差。预先透视您的数据或统计数据通常有助于提高渐近近似的准确性。