为了构建 ROC 曲线和 AUC（曲线下面积），您必须有一个二元分类器，它在分类时为您提供分布（或至少一个分数），而不是分类标签。举个例子，假设你有一个二元分类模型，有类$c1$ 和 $c2$. 对于给定的实例，您的分类器必须返回一个分数$c1$ 另一个为 $c2$. 如果这个分数是类似概率的（优选的），而不是类似的东西$p(c1)$, $p(c2)$会工作。用简单的英语翻译为“我（模型）将此实例分类为$c1$ 有概率 $p(c1)$， 并作为 $c2$ 有概率 $p(c2)=1-p(c1)$”。

这适用于所有类型的分类器，不仅适用于决策树。有了这些分数，您就可以通过改变阈值来计算 ROC 或 AUC$p(c1)$ 值，从最小值到最大值。

现在，如果您有一个决策树的实现，并且您想要更改该实现以返回分数而不是标签，您必须计算这些值。决策树最常用的方法是使用叶节点中类的比例。因此，例如，您已经构建了一个决策树，并且当您预测一个实例的类时，您会到达一个叶节点，该叶节点（从学习阶段存储）10 个类实例$c1$ 和 15 个类实例 $c2$，您可以使用比率作为分数。因此，在我们的示例中，您将返回$p(c1) = 10 / (10+15) = 0.4$ 类概率 $c1$ 和 $p(c2) = 15/(10+15)=0.6$ 上课的概率 $c2$.

为了进一步阅读 ROC 曲线，我发现最好的和鼓舞人心的信息来源是 Tom Fawcett 的一篇名为《ROC 分析简介》的论文，它在这个主题上是金子。