机器算法验证 - 改进离散均匀分布的切比雪夫型界 - 吾爱随笔录 - 问答

改进离散均匀分布的切比雪夫型界

机器算法验证模拟蒙特卡洛均匀分布概率不等式界限

2022-03-23 09:22:32

我从具有均值和方差个样本。我想找到的绝对误差大于提供的的概率。我可以使用切比雪夫不等式来限制这个概率：然而，蒙特卡洛模拟表明这必然是非常松散的。这个特定的分布是否有更严格的界限？ $N$ $X$ $\mu$ $\sigma_X^2$ $\bar{\mu}$ $N$ $\varepsilon>0$

P (| μ - \bar{μ} | > ε) \leq \frac{σ_{X}^{2}}{N ε^{2}} .

$P(|\mu - \bar{\mu}|>\varepsilon)\leq\frac{\sigma_X^2}{N\varepsilon^2}.$

1个回答

如果您知道随机变量是有界的，那么您就会对随机变量了解很多，并且 Chebyshev 和 Markov 不等式通常不会很紧。

更好的不等式是霍夫丁不等式（考虑一般情况而不是二项式版本）。这隐含地考虑到您拥有所有更高的时刻（因为 RV 在有限支持下是有限的）但是很好，因为它不需要任何支持信息，并且说您以指数速度达到平均水平。

例如，如果您的 RV 受限于 $[-1,1]$ （请注意，它不必离散）然后你可以说以下 $\epsilon>0$

P (| μ - \bar{μ} | \geq ϵ) \leq 2 \exp (- \frac{n ϵ^{2}}{2})

$\mathbb{P}(|\mu - \bar{\mu}| \geq \epsilon) \leq 2 \exp\bigg(-\frac{n\epsilon^2}{2}\bigg)$

我不相信通过尝试计算离散知识可以变得更好，因为所有值都可能位于导致更高方差的端点（换句话说，最坏的情况可能是离散情况）。

其它你可能感兴趣的问题

上一篇我们如何将与概率成比例的值转换为伯努利概率？下一篇将 ARIMA 模型与回归相结合