机器算法验证 - 有界方差和的中心极限定理？ - 吾爱随笔录

有界方差和的中心极限定理？

机器算法验证中心极限定理

2022-03-26 13:24:41

我有一系列有界独立随机变量满足 ,。我在网上找到的大多数版本的中心极限定理都需要才能应用。是否有一些极限定理可以给我 $X_1,...,X_n,...$ $\sum_{i=1}^{\infty} \mathbb{E}[X_i] < \infty$ $\sum_{i=1}^{\infty} Var[X_i] < \infty$ $\sum_{i=1}^{\infty} Var[X_i] = +\infty$

P r [\frac{\sum_{i = 1}^{N} X_{i} - E [X_{i}]}{\sqrt{\sum_{i = 1}^{N} V a r [X_{i}]}} \leq y] .

$Pr[\frac{\sum_{i=1}^{N}{X_i}-\mathbb{E}[X_i]}{\sqrt{\sum_{i=1}^{N} Var[X_i]}}\leq y].$

中心极限定理不适用有什么原因吗？

1个回答

试探性地，如果方差的总和不是无限的，则在总和中存在一些关于某些单个变量的残余形状信息。例如，如果那么构成的限制随机变量和的形状（尾部、矩等）对极限分布的形状有影响。

v a r [X_{1}] = ϵ \sum_{i} v a r [X_{i}]

$\mathrm{var}[X_1]=\epsilon\sum_i \mathrm{var}[X_i]$

X_{1}

$X_1$

ϵ > 0

$\epsilon>0$

X_{i}

$X_i$

ϵ

$\epsilon$

思考为什么会出现问题的一种方法是 Levy-Cramér 定理，它说如果和是独立的且不是恒定的，并且具有正态分布，则和都具有正态分布。 $Y_1$ $Y_2$ $Y_1+Y_2$ $Y_1$ $Y_2$

现在将设为，设为序列其余部分的总和。如果，则和是非常量独立随机变量。除非它们都是正常的，否则它们的总和不是正常的——因此该系列的总和不是正常的。是无限的，你可以看到这个论点是常数。 $Y_1$ $X_1$ $Y_2$ $\sum_i \mathrm{var}[X_i]=S^2<\infty$ $Y_1$ $Y_2$ $S^2$ $Y_1/S$

在特殊情况下，您可以根据时刻来考虑这一点。例如，假设是正常的，但具有非零偏度。那么将具有非零偏度。Levy-Cramér 论证做同样的事情，只是更笼统。 $Y_2$ $Y_1$ $Y_1+Y_2$

[如果只有有限的许多是非零的，Levy-Cramér 论证要直接得多，因为具有非零方差的那些立即必须是正常的，但这是一个特殊情况] $\mathrm{var}[X_i]$

其它你可能感兴趣的问题

上一篇直觉为什么 LDA 是朴素贝叶斯的特例下一篇单面测试的定义