偏见是常客概念还是贝叶斯概念?

机器算法验证 贝叶斯 偏见 常客
2022-04-05 23:25:59

我知道偏差是这个估计器的期望值与被估计参数的真实值之间的差异。在经典方法中,参数具有一个特定的真实值,而在贝叶斯方法中,参数值(固定但)是从概率分布中选择的。

但它是贝叶斯还是常客概念?

1个回答

假设数据有一个模型Y这取决于一个参数θ并且,对于特定的实验,参数有一个真实值,θ0. 你开发了一个估算器θ^=θ^(Y),即估计量是数据的函数Y. 那么偏差是

bias(θ^)=EY|θ0[θ^(Y)θ0]
其中对数据的随机性采取期望Y对于给定的参数真值θ0(并且期望的下标试图明确这一点)。当我们谈论对数据可能实现的期望时,这是一个常客概念。

在上面的描述中,我没有提到估计器是如何产生的。该估计器可以是矩量法、最大似然法、贝叶斯法或其他估计器。因此,估计量的偏差概念是常客,但估计量本身可能来自贝叶斯分析。