中心极限定理的动态系统视图?

机器算法验证 可能性 数理统计 收敛 中心极限定理 卷积
2022-01-21 11:01:12

(最初发布在 MSE 上。)

我已经看到许多关于经典中心极限定理的启发式讨论将正态分布(或任何稳定分布)称为概率密度空间中的“吸引子”。例如,考虑维基百科处理顶部的这些句子:

在更一般的用法中,中心极限定理是概率论中一组弱收敛定理中的任何一个。它们都表达了这样一个事实,即许多独立且同分布 (iid) 随机变量的总和,或者具有特定依赖类型的随机变量,将倾向于根据一小组吸引子分布中的一个进行分布当独立同分布变量的方差有限时,吸引子分布是正态分布。

这种动态系统语言非常具有启发性。Feller 在他的第二卷中对 CLT 的处理也谈到了“吸引力”(我想知道这是否是语言的来源),而 Yuval Flimus 在这篇笔记中甚至谈到了“吸引力盆地”。(我不认为他真正的意思是“吸引力盆的确切形式是可以预先推断出来的”,而是“吸引子的确切形式是可以预先推断出来的”;仍然,语言是存在的。)我的问题是:这些可以动态类比要精确吗?我不知道它们在哪本书中——尽管许多书确实强调正态分布在卷积下的稳定性(以及傅里叶变换下的稳定性)是特殊的。这基本上告诉我们法线很重要,因为它是一个固定点。CLT 更进一步,告诉我们它不仅仅是一个固定点,而是一个吸引子。

为了使这幅几何图更精确,我设想将相空间作为一个合适的无限维函数空间(概率密度空间),并将进化算子与初始条件重复卷积。但我不知道制作这张照片所涉及的技术细节,也不知道它是否值得追求。

我猜想,由于我找不到明确采用这种方法的治疗方法,所以我认为它可以完成或者它会很有趣的感觉一定有问题。如果是这样的话,我想听听为什么。

编辑:在 Math Stack Exchange 和 MathOverflow 中存在三个读者可能感兴趣的类似问题:

3个回答

在 Kjetil 的回答鼓励下对文献进行了一些挖掘之后,除了 Y. Sinai 的书之外,我发现了一些确实认真对待 CLT 的几何/动力系统方法的参考资料。我正在为可能感兴趣的其他人发布我发现的内容,但我仍然希望从专家那里听到这种观点的价值。

最显着的影响似乎来自查尔斯·斯坦的作品。但对我的问题最直接的回答似乎来自 Hamedani 和 Walter,他们对分布函数的空间进行了度量,并表明卷积会产生收缩,从而产生作为唯一不动点的正态分布。


添加于 2018 年 10 月 19 日。

这种观点的另一个来源是 Oliver Knill 的概率和随机过程与应用程序,p。11(重点补充):

马尔可夫过程经常被马尔可夫算子的不动点所吸引。这样的固定点称为静止状态。它们描述了平衡,并且通常是具有最大熵的度量。一个例子是马尔可夫算子P,它分配给概率密度fy的概率密度fY+X¯在哪里Y+X¯是随机变量Y+X归一化,使其具有均值0和方差1. 对于初始函数f=1, 功能Pn(fX)是分布Sn的归一化总和nIID 随机变量Xi. 这个马尔可夫算子有一个独特的平衡点,即标准正态分布。它在具有方差的实线上的所有分布中具有最大熵1和意思0. 中心极限定理告诉马尔可夫算子P 如果一个人在分布上采用较弱的收敛拓扑,则正态分布作为一个唯一的吸引不动点L1. 这也适用于其他情况。例如,对于圆值随机变量,均匀分布使熵最大化。因此,以均匀分布为极限分布的圆值随机变量存在中心极限定理也就不足为奇了。

Y Sinai (Springer) 的“概率论入门课程”一文以这种方式讨论了 CLT。

http://www.springer.com/us/book/9783662028452

这个想法是(从记忆中......)

1) 正态分布最大化熵(在具有固定方差的分布中) 2) 平均算子A(x1,x2)=x1+x22保持方差并增加熵……剩下的就是技术。因此,您将获得算子迭代的动态系统设置。

好问题;我经常想知道这一点。在我们的论文动态吸引力对稳定过程中解释了一个有点相关的想法,安。研究所。H.庞加莱普罗巴布。统计学家。第 48 卷,第 2 期,2012 年,第 551-578 页(Albert Fisher 和 Marina Talet)参见https://www.ime.usp.br/~afisher/ 这个想法是将列维关于稳定过程(包括高斯)的“吸引力域”的概率概念转化为实际的动力学。我们这样做是为了完全稳定的过程,而不仅仅是为了稳定的分布,因为这些自相似过程的缩放特性具有动态解释:它是无限熵的伯努利流。然后,在吸引力域中具有增量的随机游走会收敛到这一点,因为步行路径是该流程的通用点。我们本身不使用收缩映射,但看看类似的东西是否有用是一个有趣的问题。(我们的定理证明了对数密度很小;定期变化的情况特别棘手,我们必须应用适当的时间变化)。

使用流程的优点是有一个实际的流程。对于高斯分布,这不仅是傅里叶变换的固定点,而且是卷积算子(适当重新缩放)的固定点。第一个很有趣,但迭代没有任何帮助,因为它是一种内卷:应用它两次会让你回来。卷积真的很有意义,因为这只是随机游走的分布。然而,它是一个半群动作,从动力学的角度来看,它没有流动那么甜。