随着观察次数增加的似然函数

机器算法验证 分布 最大似然 可能性 渐近的 指数族
2022-04-02 08:19:19

如果我们有 iid 观察,那么作为的似然函数会发生什么?nXp(|θ)p(x1,,xn|θ)n

我绘制了几个的乘积,当我使用更多乘积时,它变得更平坦、更分散。的增加次观察的可能性越来越分散,这通常是真的吗?N(0,1)nn

例如,假设似然在指数族中,其形式为

p(x1,,xn|θ)=i=1nh(xi)exp{θ(i=1nT(xi))nA(θ)}

在这种情况下,我无法想象随着增加会发生什么。n

1个回答

这是我的统计建模课程中的三张幻灯片,说明了为什么平均对数似然函数集中在iid 观察n

在此处输入图像描述

在此处输入图像描述

在此处输入图像描述

第二张图片表示随着增加的这个函数稳定在它的(熵)限制函数 Ln(θ;x)1/nn

explogp(x|θ)dF(x)