充分统计的最小维度

机器算法验证 可能性 数理统计 指数族 充分统计 费希尔信息
2022-03-24 06:48:46

假设我们有一个参数k-方面。比如说,对于N(u,θ)都是未知的,那么参数是二维的,并且n独立同分布观察。

是否有可能找到一个维度小于的足够统计量k? 例如,对于正态分布,最小的足够统计量被证明是(样本均值,样本方差),因此正态分布是不可能的,但我想知道这是否普遍成立。

1个回答

由于固定维度的充分性仅出现在指数族(Darmois-Pitman-Koopman 引理)中,除了具有不同支持的分布(如 Uniform),让我们考虑一个带参数的指数族θ和密度[反对一个固定的主导措施]

fθ(x)=exp{i=1kai(θ)Ti(x)ψ(θ)}
假设函数ai线性独立于最大支持θ(即,范围θ的密度是可积的),与该密度相关的模型可以重新参数化为α=(α1,,αk)在(至少)参数空间中变化
A={α=(α1,,αk);θΘ,αi=ai(θ)}
至少,因为参数空间可以自然地扩展到它的自然极限。
A={α=(α1,,αk);exp{i=1kαiTi(x)}dλ(x)<},
并且函数Ti在支持上也是线性独立的XX, 统计量
T=(T1(X),,Tk(X)
足够且有密度
gα(t)=exp{i=1kαitiμ(α)}
反对适当的主导措施。因此,在指数族的自然空间(可能大于原始参数空间)上,充分统计量与参数具有相同的维度。尽管域的变化T(x)可以受到非线性关系的约束,存在一个样本大小,之后维度约束消失。

一种完全不同的方法,避免指数族,由

Edward W. Barrankin 和 Melvin Katz, Jr.
最小维度
Sankhyā 的充分统计:印度统计杂志卷。21,第 3/4 期(1959 年 8 月),第 217-246 页

他们显示以下结果

在此处输入图像描述

在哪里r是充分统计量的维数Tρ(x0)是对数似然的二阶导数的(局部)秩θx[定义有点过于复杂,无法在此处复制]。