协变和独立?

机器算法验证 独立 协方差
2022-01-26 01:16:38

我从教科书中读到并不能保证 X 和 Y 是独立的。但如果它们是独立的,它们的协方差必须为 0。我还想不出任何合适的例子;有人可以提供一个吗?cov(X,Y)=0

4个回答

简单的例子:让是一个随机变量,它是,概率为 0.5。然后让是一个随机变量,如果随机概率为 0.5 X1+1YY=0X=1Y1+1X=1

显然是高度依赖的(因为知道可以让我完全知道),但它们的协方差为零:它们的均值为零,并且XYYX

E[XY]=(1)0P(X=1)+11P(X=1,Y=1)+1(1)P(X=1,Y=1)=0.

或更一般地,对所有 X 取任意分布和任意使得即联合分布围绕轴对称),并且您将始终具有零协方差。 ,你就会有非独立性即,条件并不都等于边际。或同上围绕轴对称。P(X)P(Y|X)P(Y=a|X)=P(Y=a|X)XxP(Y|X)P(Y)y

这是我经常给学生举的例子。采用的随机变量,例如,均值为零的正常随机变量。很明显是相关的,但是XE[X]=0E[X3]=0Y=X2XY

Cov(X,Y)=E[XY]E[X]E[Y]=E[X3]=0.

下图(来源Wikipedia)在第三行有许多示例,特别是第一个和第四个示例具有很强的依赖关系,但相关性为 0(和协方差为 0)。

在此处输入图像描述

其他一些示例,考虑形成圆形或椭圆形的数据点,协方差为 0,但知道 x 可以将 y 缩小为 2 个值。或者正方形或矩形中的数据。此外,形成 X 或 V 或 ^ 或 < 或 > 的数据都将给出协方差 0,但不是独立的。如果 y = sin(x)(或 cos)且 x 覆盖整数倍的周期,则 cov 将等于 0,但知道 x 你知道 y 或至少 |y| 在椭圆、x、< 和 > 情况下。