一个向量的概率$x$取自$p(x)$在某些地区$R$的样本空间由下式给出$P = \int_{R} p(x')dx'$. 给定从分布中抽取的一组 N 个向量；很明显，这 N 个向量的概率 k 落在$R$是（谁）给的$P(k) = \binom{N}{k} p^{k} (1-p)^{N-k}$. 根据二项式 pmf 的属性，该比率的均值和方差$\frac{k}{N}$是${E}[\frac{k}{N}] = P$和${var}[\frac{k}{N}] = \frac{P(1-P)}{N}$. 因此，作为$N \rightarrow \infty$分布变得更加明确，方差更小。因此，我们可以期望从落在该区域内的点的平均分数中获得对概率 P 的适当估计$R$. 因此$P \cong \frac{k}{N}$,

现在考虑如果该地区$R$很小，使得$p(x)$内变化不大，则$\int_{R} p(x')dx' \cong p(x)V$. 将此结果与上述结果相结合。我们看到$p(x) \cong \frac{k}{NV}$.

这就是您找到的公式的来源。因此，如果我们想改进$p(x)$ 我们应该让 V 接近 0。然而，那么 $R$会变得如此之小，以至于我们找不到任何例子。因此，我们实际上只有两种选择。我们必须让 V 足够大才能在$R$ 或小到足以使 p(x) 在 $R$.

基本方法包括使用 KDE（parzen 窗口）或 kNN。KDE 固定 V，而 kNN 固定 k。无论哪种方式，只要 V 随 N 缩小而 k 随 N 增长，两种方法都可以随着 N 的增加收敛到真实概率密度。

图片中使用的公式只是满足此要求的任意示例。