已归一化概率的 Softmax 函数结果

数据挖掘 美国有线电视新闻网 正常化 软最大
2022-03-04 10:35:21

softmax 函数的目的不是对概率进行归一化以使它们的总和为 1 吗?因此,当我们将此方法应用于已经标准化的数字时,它会改变它们。这些新结果说明了什么?既然都变了,那么靠谱吗?

from scipy import special
scipy.special.softmax([0.4,0.6])

给出:

 array([0.450166, 0.549834])
1个回答

求和为 1 只是 softmax 函数的一个属性。

softmax 函数取每个值的指数并将其除以所有值的指数之和。正如您在示例中看到的那样,这倾向于将值聚集到平均值。

虽然 softmax 的输出看起来和闻起来像概率,但它们的值实际上并不对应于从该分布中采样的可能性。最好将它们视为您预测的信心。