机器算法验证 - 使用卡方距离比较两个直方图 - 吾爱随笔录

使用卡方距离比较两个直方图

机器算法验证卡方检验距离图像处理直方图对应分析

2022-01-28 03:49:52

我想比较两张人脸图像。我计算了他们的 LBP 直方图。所以现在我需要比较这两个直方图并得到一些东西来说明这些直方图有多少相等（0 - 100%）。

解决此任务的方法有很多，但 LBP 方法的作者强调（Face Description with Local Binary Patterns: Application to Face Recognition. 2004）卡方距离比直方图交集和对数似然统计表现更好。

作者还展示了卡方距离的公式：

\sum_{i = 1}^{n} \frac{(x_{i} - y_{i})^{2}}{(x_{i} + y_{i})}

$\sum_{i=1}^{n} \cfrac{(x_i - y_i)^2} {(x_i + y_i)}$

其中是 bin 的数量，是第一个 bin 的值，是第二个 bin 的值。 $n$ $x_i$ $y_i$

在一些研究中（例如 The Quadratic-Chi Histogram Distance Family）我看到卡方距离的公式是：

\frac{1}{2} \sum_{i = 1}^{n} \frac{(x_{i} - y_{i})^{2}}{(x_{i} + y_{i})}

$\cfrac{1}{2}\sum_{i=1}^{n} \cfrac{(x_i - y_i)^2} {(x_i + y_i)}$

还有http://www.itl.nist.gov/div898/handbook/eda/section3/eda35f.htm我看到卡方距离的公式是：

\sum_{i = 1}^{n} \frac{(x_{i} - y_{i})^{2}}{y_{i}}

$\sum_{i=1}^{n} \cfrac{(x_i - y_i)^2} {y_i}$

我坚持了下来。我有几个问题：

我应该使用什么表达方式？
我应该如何解释差异的结果？我知道等于 0 的差异意味着两个直方图相等，但是我怎么知道两个直方图何时完全不同？我需要使用卡方表吗？还是我需要使用阈值？基本上我想将差异映射到百分比。
为什么这三种表达方式不同？

4个回答

@Silverfish 要求对 PolatAlemdar 的答案进行扩展，但没有给出，所以我将在此处尝试对其进行扩展。

为什么叫卡方距离？列联表的卡方检验基于所以想法是保持这种形式并将其用作距离测量。这给出了 OP 的第三个公式，被解释为观察值，被解释为期望值，这解释了 PolatAlemdar 的评论“它用于离散概率分布”，例如在拟合优度测试中。这第三种形式不是距离函数，因为它在变量和中是不对称的。对于直方图比较，我们需要一个在和

χ^{2} = \sum_{cells} \frac{(O_{i} - E_{i})^{2}}{E_{i}}

$\chi^2 = \sum_{\text{cells}} \frac{(O_i-E_i)^2}{E_i}$

x_{i}

$x_i$

y_{i}

$y_i$

x

$x$

y

$y$

x

$x$

y

$y$ ，前两种形式给出了这个。它们之间的区别只是一个常数因子，只要您始终选择一种形式，这并不重要（尽管如果您想与不对称形式进行比较，注意这些公式与平方欧式距离的相似性，即不是巧合，卡方距离是一种加权欧式距离。因此，OP 中的公式通常放在根号下以获得距离。下面我们就按照这个来。

\frac{1}{2}

$\frac12$

\frac{1}{2}

$\frac12$

卡方距离也用于对应分析。要查看与此处使用的表格的关系，让行和列的列联表的单元格。将行总数表示为，将列总数表示为。行之间的卡方距离由对于只有两行（两个直方图）的情况，这些恢复了 OP 的第一个公式（以根符号为模）。 $x_{ij}$ $R$ $C$ $x_{+j}=\sum_i x_{ij}$ $x_{i+}=\sum_j x_{ij}$ $l,k$

χ^{2} (l, k) = \sqrt{\sum_{j} \frac{1}{x_{+ j}} {(\frac{x_{l j}}{x_{l +}} - \frac{x_{k j}}{x_{k +}})}^{2}}

$\chi^2(l,k) = \sqrt{\sum_j \frac1{x_{+j}}\left(\frac{x_{lj}}{x_{l+}}-\frac{x_{kj}}{x_{k+}} \right)^2 }$

EDIT

在下面的评论中回答问题：一本对卡方距离进行了长时间讨论的书是 Michael Greenacre (Chapman & Hall) 的“CORRESPONDENCE ANALYSIS in PRACTICE (Second Edition)”。这是一个成熟的名称，因为它与列联表使用的 chisquare 相似。它有什么分布？我从来没有研究过，但可能（在某些条件下......）它大约会有一些卡方分布。证明应该类似于列联表，大多数关于对应分析的文献都没有进入分布理论。一篇具有一些可能相关的理论的论文是ALTERNATIVE METHODS TO MULTIPLE CORRESPONDENCE ANALYSIS IN RECONSTRUCTION THE RELEVANT INFORMATION IN A BURT'S TABLE。对于本网站上的其他一些相关帖子。

我发现这个链接非常有用： http ://docs.opencv.org/2.4/doc/tutorials/imgproc/histograms/histogram_comparison/histogram_comparison.html

我不太清楚为什么，但 OpenCV 使用您列出的第三个公式进行卡方直方图比较。

就含义而言，我不确定任何测量算法会给你一个有界的范围，比如 0% 到 100%。换句话说，您可以确定两张图像是相同的：相关值为 1.0 或卡方值为 0.0；但是很难对两张图像的差异进行限制：想象比较一张全白图像和一张全黑图像，数值要么是无穷大，要么可能是非数字。

事实上，你可以使用任何你认为对你的情况正确的东西。最后一个不同。它用于离散概率分布，因为如果交换和，最后一个将是对称的。 $x$ $y$

另外两个用于计算直方图相似度。

根据 OP 的要求，百分比值（对于等式 1）：

$p = \frac{\chi * S * 100}{N}$

其中：是差异百分比 (0..100)。是等式 1 的结果是直方图中的 bin 数量。是 bin 中的最大可能值。 $p$ $\chi$ $N$ $S$

按要求补充：

计算这个方程可以得到与完整直方图的差异百分比。计算这两个直方图，然后从另一个中减去一个，可以得到百分比差异。

其它你可能感兴趣的问题

上一篇高召回率 - 不平衡数据集的低精度下一篇“半监督学习”——这是过拟合吗？