马尔可夫、切比雪夫不等式严格的随机变量

机器算法验证 可能性 分布 随机变量 概率不等式
2022-03-27 06:04:28

我对构建马尔可夫或切比雪夫不等式严格的随机变量感兴趣。

一个简单的例子是下面的随机变量。

P(X=1)=P(X=1)=0.5. 它的均值为零,方差为 1,P(|X|1)=1. 对于这个随机变量 chebyshev 是紧的(保持相等)。

P(|X|1)Var(X)12=1

马尔可夫和切比雪夫是否有更有趣的(​​非均匀)随机变量?一些例子会很棒。

2个回答

Chebyshev 界限的极限情况所适用的分布类别是众所周知的(并且不那么难以简单猜测)。归一化为均值0和方差1, 它是

Z={k,with probability 12k20,with probability 11k2k,with probability 12k2

这是(按比例缩放)在 Wikipedia 页面上针对Chebyshev 不等式给出的解决方案。

[您可以编写一系列分布(通过放置ϵ>0中心的概率更高,从端点均匀地去除相同的概率)严格满足不等式并尽可能接近极限情况。]

任何其他解决方案都可以通过以下位置和尺度变化获得:让X=μ+σZ.

对于马尔可夫不等式,让Y=|Z|所以你有概率11/k2在 0 和1/k2k. (可以在此处引入比例参数,但不能引入位置偏移参数)

切比雪夫和马尔科夫极限情况

矩不等式——实际上还有许多其他类似的不等式——往往以离散分布作为其极限情况。

我相信在完全遵循切比雪夫界限的整个实轴上获得连续分布可能是不可能的。

假设连续分布的均值和标准差为 0 和 1,或者通过重新缩放来实现。然后要求P(X∣>x)=1/x2. 为简单起见,考虑x>0; 负值将被对称定义。那么分布的CDF为11/x2. 所以pdf,cdf的导数,是2/x3. 显然,这必须仅定义为x>0因为不连续。事实上,这甚至不可能在任何地方都是正确的,或者 pdf 的积分不是有限的。相反,如果要避免不连续性(例如 pdf cat 只是 0x∣<α) pdf 必须是分段的,等于x3为了x∣≥α.

然而,这种分布不符合假设——它没有有限的方差。为了获得具有有限方差的实轴上的连续分布,期望值为xx2必须是有限的。检查逆多项式,尾巴像x3导致有限E[x], 但未定义E[x2]因为这涉及具有渐近对数行为的积分。

所以,切比雪夫的界不能完全满足。你可以要求P(X∣>x)=x(2+ϵ)对于任意小ϵ, 然而。pdf的尾部就像x(3+ϵ)并且有一个定义的方差1/ϵ.

如果你愿意让分布只存在于真实线上的一部分,但仍然是连续的,那么定义pdf(x)=2/x3为了ϵ<∣x∣<Λ效劳于

ϵ=2(11e)
Λ=ϵ=2(e1)
或其任何线性缩放 - 但这基本上是0.887<|x|<1.39,范围不大。并且这个限制是否仍然符合最初的动机值得怀疑。