机器算法验证 - 为什么相关系数是有限的依赖性度量？ - 吾爱随笔录 - 问答

为什么相关系数是有限的依赖性度量？

机器算法验证相关性自相关互相关

2022-04-07 01:07:15

引用 Kevin Murphy 在他的书“机器学习 - 概率视角”中的话，相关性是“一种非常有限的依赖度量”。他在介绍互信息的概念之前谈到了这一点。

为什么相关系数是“有限的依赖性度量”？是否有一些与其计算相关的假设？

2个回答

这在Wikipedia entry for Correlation and Dependence中有解释。相关性基本上衡量两个变量与它们之间的线性关系的接近程度。现在考虑 $X \sim U(-1, 1)$ 和 $Y = X^2$ 。那么如果你知道 $X$ ，你就知道 $Y$ ，如果你知道 $Y$ ，你就知道 $X$ 的符号。因此它们不是独立的。然而，一个简单的计算表明它们的相关性为 0。

一个简单的例子。上的任何对称分布，随机变量与其平方之间的相关性为零。这是变量及其平方的均值： $x$ $x^2$ $\mathbb{R}$

μ = \int x d F (x) = 0

$\mu=\int x dF(x)=0$

σ^{2} = \int x^{2} d F (x)

$\sigma^2=\int x^2 dF(x)$

让我们计算 Pearson 相关性：

ρ = \frac{\int x x^{2} d F (x)}{μ σ^{2}} = \frac{\int x^{3} d F (x)}{μ σ^{2}} = \frac{0}{μ σ^{2}} = 0

$\rho=\frac{\int x x^2 dF(x)}{\mu \sigma^2}=\frac{\int x^3 dF(x)}{\mu \sigma^2}=\frac{0}{\mu \sigma^2}=0$

但是，如果我知道的一切。这是一个例子，其中相关性并不能揭示两个变量之间的关系有多强。 $x$ $x^2$

其它你可能感兴趣的问题

上一篇Yeo-Johnson 和对数变换下一篇如何使用机器学习检测图像中对象的确切大小？