我正在尝试基于Kozachenko 和 Leonenko的最近邻居来实现熵估计，但我遇到了一个我无法解决的问题。

这个想法是在一个新的集合中工作$\epsilon=${$\epsilon_{1},...\epsilon_{N}$} 代替 {$x_{1},...,x_{N}$} 在哪里$\epsilon(i)$是之间的距离$x_{i}$和它最近的邻居。

其估计量公式为：

$\hat H(X)=-\psi(1)+\psi(N)+\sum\limits_{i=1}^N \log(\epsilon(i))$ 在哪里$\psi$是二伽马函数。

但如果两个$x_{i}$相等或如果$X$是一个常数变量，那么一个$\epsilon_{i}=0$和$\hat H(X)=-\infty$.

文章中没有处理这些情况，我不知道如何调整公式。不计算空$\epsilon_{i}$总而言之不是一个好主意。

有人有想法吗？