机器算法验证 - 使用相关性作为距离度量（用于层次聚类） - 吾爱随笔录

使用相关性作为距离度量（用于层次聚类）

机器算法验证相关性聚类距离层次聚类

2022-02-06 10:18:41

我想对我的数据进行分层聚类，但我不想使用欧几里得距离，而是想使用相关性。此外，由于相关系数的范围从 -1 到 1，在我的研究中，-1 和 1 都表示“共同调节”，我将 -1 和 1 都视为 d = 0。所以我的计算是 $\ d = 1-|r|$

我在一个单独的问题（关于 k-means 聚类）中读到，您应该使用余弦定理将r转换为真正的欧几里得d ： $d = \sqrt{2(1-r)}$

将相关性转换为层次聚类距离的最准确方法是什么？

1个回答

层次聚类的要求

层次聚类可以与任意相似性和相异性度量一起使用。（大多数工具都期望有差异，但允许负值 - 由您决定是否首选小值或大值。）。

只有基于质心或方差的方法（例如 Ward 方法）是特殊的，并且应该与平方欧几里得一起使用。（要了解原因，请仔细研究这些联系。）

单联动、平均联动、完全联动影响不大，仍然是成对差异的最小/平均/最大。

相关性作为距离度量

如果您预处理数据（ $n$ 观察， $p$ 特征），使得每个特征都有 $\mu=0$ 和 $\sigma=1$ （这不允许恒定特征！），然后相关性降低为余弦：

Corr (X, Y) = \frac{Cov (X, Y)}{σ_{X} σ_{Y}} = \frac{E [(X - μ_{X}) (Y - μ_{Y})]}{σ_{X} σ_{Y}} = E [X Y] = \frac{1}{n} ⟨ X, Y ⟩

$\text{Corr} (X,Y) = \frac{\text{Cov}(X, Y)} {\sigma_X \sigma_Y} = \frac{\mathbb{E} \left[ (X - \mu_X) (Y - \mu_Y) \right]} {\sigma_X \sigma_Y} = \mathbb{E} [XY] = \frac1n \left<X, Y\right>$

在相同条件下，平方欧几里得距离也减少为余弦：

d_{Euclid}^{2} (X, Y) = \sum (X_{i} - Y_{i})^{2} = \sum X_{i}^{2} + \sum Y_{i}^{2} - 2 \sum X_{i} Y_{i} = 2 n - 2 ⟨ X, Y ⟩ = 2 n [1 - Corr (X, Y)]

$d_\text{Euclid}^2(X,Y) = \sum (X_i - Y_i)^2 = \sum X_i^2 + \sum Y_i^2 - 2 \sum X_i Y_i \\ = 2n - 2\left<X, Y\right> = 2n \left[1 - \text{Corr}(X, Y)\right]$

因此，除非您的数据是退化的，否则使用相关性进行层次聚类应该是可以的。只需如上所述对其进行预处理，然后使用平方欧几里德距离。

其它你可能感兴趣的问题

上一篇对于分类数据，是否存在没有相关变量的集群？下一篇基于轮廓似然构造置信区间