机器算法验证 - 均值平方的无偏正估计量 - 吾爱随笔录

机器算法验证意思是无偏估计器

2022-03-06 07:00:50

的分布中访问 iid 样本，并且我们想要估计。 $\mu, \sigma^2$ $\mu^2$

我们如何构建这个数量的无偏、始终为正的估计量？

取样本均值的平方是有偏差的，并且会高估数量，尤其是。如果接近 0 并且很大。 $\tilde{\mu}^2$ $\mu$ $\sigma^2$

这可能是一个微不足道的问题，但我的谷歌技能让我失望，因为estimator of mean-squared只有回报mean-squarred-error estimators

如果它使事情变得更容易，则可以假设基础分布是高斯分布。

解决方案：

2个回答

不可能产生一个既无偏又总是对为正的估计量。 $\mu^2$

如果真实均值为 0，则估计器必须期望返回 0，但不允许输出负数，因此也不允许输出正数，因为它会产生偏差。因此，无论样本如何，该数量的无偏、始终为正的估计量必须始终在均值为 0 时返回正确答案，这似乎是不可能的。

knrumsey 的回答显示了如何纠正样本均方估计量的偏差以获得的无偏估计。 $\mu^2$

请注意，样本均值也是正态分布的，均值和方差。这意味着 $\bar{X}$ $\mu$ $\sigma^2/n$

E ({\bar{X}}^{2}) = E (\bar{X})^{2} + Var (\bar{X}) = μ^{2} + \frac{σ^{2}}{n}

$\operatorname E(\bar{X}^2) = \operatorname E(\bar{X})^2 + \operatorname{Var}(\bar{X}) = \mu^2 + \frac{\sigma^2}n$

如果您只关心无偏估计，则可以使用样本方差对无偏这一事实。这意味着估计量对于是无偏的。 $\sigma^2$

\hat{μ^{2}} = {\bar{X}}^{2} - \frac{S^{2}}{n}

$\widehat{\mu^2} = \bar{X}^2 - \frac{S^2}n$

μ^{2}

$\mu^2$

其它你可能感兴趣的问题