进行分类时,输出层的范围应该是多少?

人工智能 神经网络 分类 激活函数 监督学习
2021-11-06 08:07:58

我正在研究 MLP 神经网络,使用监督学习(2 类和多类分类问题)。对于隐藏层,我正在使用tanh(产生范围内的输出[1,1]),对于输出层,softmax(给出之间的概率分布)01)。当我使用监督学习时,我的目标输出应该在 0 到 1 之间,或者11(因为tanh功能),还是没关系?

损失函数是二次的(MSE)。

2个回答

对于这个特定的分类问题,我建议您使用输出范围为 [0,1] 的 softmax 函数。
所有输出的总和应该为 1,因此使用 softmax 函数的一个优势是您可以获得网络在此分类中的置信度的百分比。

旁注:正如 DuttaA 所评论的,交叉熵损失是比二次均方误差更好的损失函数。

您的目标应该与您的输出函数在同一范围内,否则您的损失函数将不准确,通过监督学习您尝试减少输出对目标的损失,因此在这种情况下,您的目标应该是真实/最佳概率分布对于那组输入数据。我来自中西部,所以在这里“不能把苹果和橘子比较”;)