指数族的定义

机器算法验证 可能性 分布 广义线性模型 指数分布
2022-03-31 19:19:47

我正在阅读这些讲义,并使用指数分布族遇到了 GLM 的定义。后者似乎有点模棱两可,所以我检查过它在其他来源中确实是一样的,所以这是我的问题。

有人说上的分布来自指数族,如果它的密度 (PDF)概率质量函数 (PMF) 可以表示如下: 我的困惑出现了:在这种情况下,我们如何才能同等对待 PDF 和 PMF。当然,可以正式地进行 - PDF 和 PMF 只是分别针对 Lebesgue 测度和计数测度的概率分布的 Radon-Nikodym 导数的特例。然而,指数族的定义似乎并没有真正照顾到这些事情。例如,形状R

(1)p(y|θ)=b(y)exp(θT(y)a(θ)).
p(1)可以解释为 PDF 和 PMF,导致完全不同的概率分布。这并不是说可以很好地解释为与 Lebesgue 或计数不同的其他度量的 RN 导数,从而为这个定义增加了更多的模糊性。我错过了什么吗?p

1个回答

我不确定除了支持之外你还缺少什么:指数族是用密度或质量函数支持定义的。Ω

您可以在以下文章中找到指数族的测度理论定义:Shao, J. (2003)。数理统计。施普林格。http://books.google.ca/books?id=cyqTPotl7QcC

他写:

有限测度支配的 参数族称为 指数族当且仅当{Pθ:θΘ}σν(Ω,F)

dPθdν=exp([T(ω)]η(θ)ξ(θ))h(ω),ωΩ,

其中是指数函数,是具有固定正整数的随机 向量,是从的函数,是非负 Borel 函数在exp(x)=exTppηΘRph(Ω,F)ξ(θ)=log(Ω>e[T(ω)]η(θ)h(ω)dν(ω))

(我改变了他的符号,将点积写成而不是他的,这在我看来更像是一个外积。)xyxy

我认为那么可能是您在 pmf 的情况下的计数度量,或者对于 pdf 等的 Lebesgue 度量。ν