我的统计学教授分配了这个问题:“显示平方误差损失的预期预测误差 (EPE)带估算器假设是固定的并且可以写成偏差和方差的组合。换句话说,证明
我想出了 3 种方法来得出这种关系,但所有这些方法都取决于以下假设:和是独立的,或者至少它们的协方差为零。例如,这允许我使用. 这个假设对我来说很直观,因为两者之间没有必要的联系和估计值(毕竟,估计器可能是一个随机数生成器)。但我正在努力以严格的方式证明独立性假设的合理性。有人可以推动我理解吗?
我的统计学教授分配了这个问题:“显示平方误差损失的预期预测误差 (EPE)带估算器假设是固定的并且可以写成偏差和方差的组合。换句话说,证明
我想出了 3 种方法来得出这种关系,但所有这些方法都取决于以下假设:和是独立的,或者至少它们的协方差为零。例如,这允许我使用. 这个假设对我来说很直观,因为两者之间没有必要的联系和估计值(毕竟,估计器可能是一个随机数生成器)。但我正在努力以严格的方式证明独立性假设的合理性。有人可以推动我理解吗?
这里有一个提示:考虑,并记住然后不是随机的。此外,正如@GeoMatt22 指出的那样,您需要,我们通过 iid 错误得到。
(基本上我认为你可能让这比它需要的更复杂,它真的只是归结为我的暗示)
关于是否, 通常我们的预测不仅仅是函数但也所以他们不能独立。例如,在线性回归中,我们的拟合值所以当然不是这样的一般来说。
更新
我认为问题在于我们都对什么有点粗心' 是。我们观察数据在我们的数据中, 以便是一个函数,, 和为了. 我们现在观察到一个新点我们假设. 这是关键:这个新点有它自己的错误这与进入的所有内容无关通过通常的独立同分布错误假设。因此对于绝对不是这样的; 但是新点的错误确实是不相关的。