怎么会有一个不能写成平均值的损失/成本/误差函数?

数据挖掘 神经网络 损失函数
2022-02-19 14:03:19

在这本在线书籍中查看这个短语: https ://hyp.is/GsHrloyvEeaYQ093X053Wg/neuralnetworksanddeeplearning.com/chap2.html

它指的是二次成本函数 (RSS) 可以写为每个单独训练示例的平均值。

因此,如果单个训练示例的成本是 Cx = (1/2) * ||ya||^2

你可以有 C = (1/n) * Σ(Cx)

你能举一个不能写成平均值的错误/成本函数的例子吗?

1个回答

一个例子是 KL 散度,它量化了实际密度和预测密度之间的差异:

CF=P(x)logP(x)Q(x)