退化的单变量高斯

机器算法验证 正态分布
2022-03-06 10:58:34

我正在观看有关高斯分布的视频,它将退化的单变量高斯定义为方差为零的高斯。但是,我真的很难理解如何为此定义高斯。

高斯在整条线上应该是非零的。因此,在退化的情况下,情况并非如此,因为它会为零,除非在某个点。是否有一些可以定义的限制情况?

最重要的是,在公式中将方差设为零当然是行不通的。所以,我假设它是这样的,但找不到任何好的解释。

1个回答

这个问题在两个不同的数学意义上使用“高斯”(这就是它的分辨率):首先作为分布,然后 - 在第二段的开头 - 作为概率密度函数。但是,退化的高斯没有 PDF。因此,我们应该根据一个无论如何都保证存在的对象来可视化分布;即累积分布函数。退化高斯(均值)的 CDF在值跃升至 ,对定义或限制值没有任何困难。μ01μ


高斯密度确实随着标准偏差的减小而“退化”,因为它在平均值处变得任意大并在其他地方缩小到零,如这些标准偏差为(为了更好的可视化,垂直轴在第三个分布的峰值处被截断;最后一个最窄的峰值(以蓝色显示)延伸到以上。)1,1/4,1/16,1/6425

PDF 绘图

峰必须变得非常大以补偿缩小的宽度,因为 PDF 通过面积表示概率,并且根据概率公理的要求,只有当曲线在另一个(垂直)中变大时,总面积才等于方向。有关进一步的解释,请参阅超过 1 的概率分布值是可以的。处没有明确定义的限制,但所有其他数字的限制为零。无论我们关心在 --even " " 处赋予限制的值是什么 -- 该限制函数下的面积为零,因此它不能是任何分布的 PDF。1μμ+

相反,CDF 在小标准偏差的限制下接近一条明确的曲线,这在这四个分布的 CDF 的相应图中很明显:

CDF 图

颜色以与上图相同的方式对应于分布。标准差为的分布的 CDF(以蓝色显示)在周围非常短的空间内跃升至在零标准偏差的极限中,跳跃将是瞬时的:极限曲线在所有小于的值处为零,在所有大于本身的限制曲线的值1/6401μμ1μμ1/2. 这很好理解;相关定理并没有断言限制 CDF 有跳跃的点处的限制值是正确的。)这个跳跃代表了一个“原子”在所有概率都集中。限制函数确定了一个有效的概率分布,但是现在,因为它将所有概率定位在一组可数的点(即单个点)内,所以它是离散的而不是连续的。通常我们会使用它的概率质量函数(在处等于)。μ1μ