似然比检验的规律性条件是什么

机器算法验证 最大似然 假设 渐近的 似然比
2022-01-29 11:03:32

谁能告诉我似然比检验的渐近分布的规律性条件是什么?

我到处看,都写着“在规律性条件下”或“在概率规律性下”。具体条件是什么?存在第一和第二对数似然导数并且信息矩阵不为零?还是完全不同的东西?

1个回答

所需的规律性条件在大多数中级教科书中都有列出,与mle没有什么不同。以下涉及单参数情况,但它们对多参数一的扩展很简单。

条件 1:pdf 是不同的,即θθf(xi;θ)f(xi;θ)

请注意,此条件实质上表明该参数标识了 pdf。

条件 2:都有共同的支持θ

这意味着支持不依赖于θ

条件 3:点,即实参数,是某个集合θ0Ω

出现在区间端点的可能性。θ

这三个共同保证在真实参数处的可能性最大化,然后求解方程θ0θ^

l(θ)θ=0

是一致的。

条件 4:pdf的函数是二次可微的f(x;θ)θ

条件 5:积分可以在积分符号下作为f(x;θ) dxθ

我们需要最后两个来推导出在 mle 收敛理论中起核心作用的 Fisher 信息。

对于一些作者来说,这些就足够了,但如果我们要彻底,我们还需要一个最终条件来确保 mle 的渐近正态性。

条件 6:pdf的函数是可微分的三倍此外,对于所有,存在一个常数和一个函数使得f(x;θ)θθΩcM(x)

|3logf(x;θ)θ3|M(x)

对于所有和所有Eθ0[M(X)]<|θθ0|<cxX

的二阶泰勒展开的余数在概率上是有界的,因此渐近没有问题。θ0

你是这么想的吗?