渐近无偏性和一致性有什么区别?

机器算法验证 数理统计 偏见 无偏估计器 估计者 一致性
2022-03-08 22:45:41

每个都暗示另一个吗?如果不是,一个是否意味着另一个?为什么/为什么不?

出现此问题是为了回应对我在此处发布的答案的评论。

尽管谷歌搜索相关术语并没有产生任何似乎特别有用的东西,但我确实注意到了数学 stackexchange 上的答案。但是,我认为这个问题也适合这个网站。

阅读评论后编辑

相对于 math.stackexchange 的答案,我追求的是更深入的内容,涵盖了评论线程 @whuber linked中处理的一些问题。此外,正如我所看到的,math.stackexchange 问题表明一致性并不意味着渐近无偏见,但并没有解释太多原因。那里的 OP 也理所当然地认为渐近无偏见并不意味着一致性,因此到目前为止唯一的回答者没有解决为什么会这样。

1个回答

math.se 的相关帖子中,回答者认为渐近无偏性的定义是limnE(θ^nθ)=0

直觉上,我不同意:“无偏性”是我们首先学习的与分布(有限样本)相关的术语。考虑到与渐近分布相关的“渐近无偏性”似乎更自然。事实上,这就是Lehmann & Casella 在“Theory of Point Estimation (1998, 2nd ed) do, p. 438 Definition 2.1 (simplified notation) 中所做的:

Ifkn(θ^nθ)dH

对于一些序列和一些随机变量的期望值为零,则估计量knHθ^nH

鉴于这个定义,我们可以认为一致性意味着渐近无偏性,因为

θ^npθθ^nθp0θ^nθd0

...并且等于零的退化分布具有等于零的期望值(这里的序列是一个序列)。kn

但我怀疑这并不是真的有用,它只是允许退化随机变量的渐近无偏性定义的副产品。本质上,我们想知道,如果我们有一个包含收敛到非退化 rv 的估计量的表达式,一致性是否仍然意味着渐近无偏。

在本书的前面(第 431 页定义 1.2),作者将属性 称为“限制中的无偏性”,它并没有符合渐近无偏性。limnE(θ^nθ)=0

一致性发生在任何时候——

  • 估计量在极限中是无偏的,并且
  • 估计方差的序列变为零(这意味着首先存在方差)。

这些构成了充分但非必要的条件

对于与非零方差的一致性相关的复杂性(有点令人难以置信),请访问这篇文章