机器算法验证 - K-means 作为 Soft K-means 算法的极限 - 吾爱随笔录

我遇到了以下练习

证明当刚度变为时，软均值算法变得与原始硬均值算法相同，除了没有指定点的均值的行为方式。描述这些手段做什么而不是坐着不动。 $\beta$ $\infty$ $K$ $K$

符号如下：

点通过责任 r_k $\mathbb{x}^{(n)}$ $k$

r_{k}^{(n)} = \frac{\exp (- β d (m^{(k)}, x^{(n)}))}{\sum_{i} \exp (- β d (m^{(i)}, x^{(n)}))}

$r_k^{(n)}=\frac{\exp{(-\beta d(m^{(k)},\mathbb{x}^{(n)}))}}{\sum_i \exp{(-\beta d(m^{(i)},\mathbb{x}^{(n)}))}}$

其中是第个聚类点，。然后的更新完成 $m^{(k)}$ $k$ $d(x,y) =\frac{1}{2}\sum_i (x_i-y_i)^2$ $m^{(k)}$

m^{(k)} = \frac{\sum_{i} r_{k}^{(i)} x^{(i)}}{\sum_{i} r_{k}^{(i)}}

$m^{(k)}=\frac{\sum_i r_k^{(i)}\mathbb{x}^{(i)}}{\sum_i r_k^{(i)}}$

随着刚度变为，我看到软均值变为硬均值。 $\beta$ $\infty$ $K$ $K$

问题的第二部分是询问在硬均值的上下文中没有分配点的均值，因此不会移动。然而，使用软意味着它们会移动，但有谁知道它们在几何上做了什么？ $K$ $K$