涉及两个自变量的方差

机器算法验证 方差 随机变量
2022-03-31 06:48:11

您好,我有两个自变量 P 和 Q。它们都是非负数。现在我在它们上定义了两个新变量:

第一个变量由于 P 和 Q 是独立的,所以

R1=αP+(1α)Q.
Var(R1)=α2Var(P)+(1α)2Var(Q)

第二个变量 R2 是一种复合变量:我们得到 P的概率为,得到 Q 的概率为α1α 。我将方差计算为

Var(R2)=αE(P2)+(1α)E(Q2)(αE(P)+(1α)E(Q))2

我的直觉是我想知道是否有人可以帮助证明上述直觉?

Var(R2)Var(R1).

这是一个例子。这意味着有 0.5 概率得到 10 和 0.5 概率得到 0。令然后我们得到P=Q=(10,0.5;0,0.5)α=0.5R1=(10,0.25;5,0.5;0,0.25)R2=(10,0.5;0,0.5)Var(R1)=12.5Var(R2)=25

我尝试了其他几个示例,它们都表明Var(R2)>Var(R1)

1个回答

不等式应遵循总方差定律另外,我假设,否则构造没有意义。α[0,1]

我们需要对您的复合变量进行更正式的定义。是一个独立的二进制变量,其中 ,,因此我们可以定义(我假设这就是你的意思)。ZP(Z=1)=αP(Z=0)=1αR2:=ZP+(1Z)Q

我们为条件的总方差定律来的方差。我将在上使用下标来表示条件期望/方差。R2ZEVar

Var(R2)=EZ[VarZ(R2)]+VarZ(EZ[R2])

我们想要一个足够大的方差下限,我们可以将第二项丢弃为然后,我们可以写出这两个可能值的第一个期望值。回想一下,如果我们以条件,则0Z=1Z=0Z=1R2=P

Var(R2)EZ[VarZ(R2)]=αVar(P)+(1α)Var(Q)

因此,我们的下界是的混合。方差进行比较,我们注意到对于,这意味着Var(P)Var(Q)R1α[0,1]αα2(1α)(1α)2

Var(R2)Var(R1).

虽然粗略,但这应该是理解界限背后的直觉的简单方法。