何时以及如何使用混合损失函数进行反向传播?

人工智能 卷积神经网络 反向传播 目标函数
2021-11-08 11:45:41

我试图了解与卷积神经网络一起使用的最佳损失函数。我开始知道我们可以混合两个损失函数任何机构都可以分享它是在什么情况下完成的以及如何完成的?

1个回答

混合损失函数是非常可能的。例如,在神经风格迁移的情况下,有风格损失和内容损失。它们都通过网络反向传播。用于反向传播的最终损失是损失的加权和。在风格迁移的情况下,确保生成的图像不仅模仿风格图像的风格,而且保持原始内容。有时还有第三种损失,称为变异损失。这也适用于权重并求和。请注意,权重是一个超参数,在训练期间不会更改。此外,损失不应该衡量相同的目的,而是要一起优化的不同目的。使用 PyTorch 的示例代码:

loss1 = torch.nn.MSELoss(a,b)
loss2 = torch.nn.MSELoss(b,c)
loss = loss1 * alpha + loss2 * beta