机器算法验证 - 拉普拉斯分布，一般来说，解释一个未定义的时刻 - 吾爱随笔录

机器算法验证分布时刻力矩生成函数

2022-04-11 08:11:35

我正在研究拉普拉斯分布的分布特性，并且我试图获得一些直觉，而不仅仅是绘制具有未定义时刻意味着什么的分布。

在维基百科中，您可以看到 mgf 仅针对，因此当拉普拉斯分布的方差增加到 1 时，您将丢失包括均值在内的所有矩。这有关系吗？直觉是什么？例如，第四个时刻可能会爆炸，但分布看起来仍然一般。如果你有分布，那么有一个明确的时刻有什么好处？ $|t| < 1/b$

如果我有一些适合拉普拉斯分布的数据非常适合非常高的 b，我应该担心吗？如果对于两个数据集，其中 b 在一个数据集中接近 1，但在另一个数据集中较小，我是否更有信心使用 ab 生成更多矩的数据集？

任何想法将不胜感激。如果我以错误的方式思考这个问题，请告诉我。

1个回答

我错误地使用了矩生成函数，这导致了我对拉普拉斯分布的误解。

矩生成函数是。 $M_X(\theta) = \text{E}(e^{\theta X})$

当你用它来找到时刻时，你导数： $n^{\text{th}}$ $n^{\text{th}}$ $\theta=0$

\frac{d^{n} (M_{X} (θ))}{d (θ)^{n}} |_{θ = 0} .

$\frac{d^{n}(M_X(\theta))}{d(\theta)^{n}} |_{\theta=0}\quad\text{.}$

的泰勒级数展开证明。当你取第 n 阶导数时，前导项中不会有，但高阶项会有。这允许您设置并使用矩生成函数来产生矩。 $E(e^{\theta X})$ $\theta$ $\theta$ $\theta=0$

所以对于拉普拉斯我们有（来自维基百科） $E(e^{\theta X}) = e^{\mu\theta}/(1-b^{2}\theta^{2})$

$E(X) = d^{1}(M_X(\theta))/d(\theta)^{1} = (e^{\theta\mu} (\mu + b^2 \theta (2 - \theta \mu)))/(-1 + b^2 \theta^2)^2$

如果您对此进行评估，那么您会得到的预期。 $\theta=0$ $E(X) = \mu$

现在我的问题的第二部分是试图理解未定义的时刻。未定义矩的含义意味着尝试通过匹配矩来估计分布参数通常需要更高级的技术（例如最大化对数似然）。

对于没有定义时刻的 Cauchy 分布，有一个很好的讨论，请参见http://en.wikipedia.org/wiki/Cauchy_distribution

作为一个附加的想法，在 Python 中有一个名为 sympy 的符号代数包，它使用符号代数使评估时刻变得非常简单。有一些简单的公式可以将非中心矩转换为中心矩，让您可以相当轻松地计算许多分布的偏度和峰度。

其它你可能感兴趣的问题