交叉熵等价于（直到一个常数）Kullback Leibler Divergence ，它具有基于信息论的解释：（非常粗略地）它是通过预测值的分布表示真实标签而“丢失”的信息量（以“nats”（e）或“bits”（2）为单位，取决于对数的底数）。我认为它作为“口语”解释或以比特为单位思考并不是很有用。

通常，您会计算更多可解释的指标，例如准确性，并检查它们以及损失以了解性能。

但是，您可以使用损失并将其与简单的基线进行比较（例如，模型仅预测标签的平均值或仅预测多数类），从而获得相对性能估计。