如何在 VGG 网络中进行权重归一化以进行样式迁移?

机器算法验证 机器学习 卷积神经网络
2022-04-06 12:07:43

我们正在重新实现Gatys 等人的风格迁移算法。使用卷积神经网络的图像风格转移那里有许多示例实现,但除了作者之外,几乎每个人都使用具有预训练权重的标准网络。在第 2 节 - 深度图像表示中有以下段落:

我们通过缩放权重对网络进行归一化,使得每个卷积滤波器在图像和位置上的平均激活值等于 1。这种重新缩放可以在不改变其输出的情况下对 VGG 网络进行,因为它只包含校正线性激活函数,没有归一化或特征图池化。

我想知道这在实践中意味着什么 - 是捕获 imagenet(训练集)中所有图像的激活图,然后根据所有图像的这些总和调整 relu 权重,每个过滤器元素的所有位置?如果它根本与训练数据无关,不知道如何解释它。

1个回答

“-是捕获imagenet(训练集)中所有图像的激活图,然后根据所有图像的这些总和调整relu权重,每个过滤器元素的所有位置?”

我想你的猜测是正确的。我遇到了他们使用的归一化网络,并检查了它的激活矩阵的几个图像。他们的平均值往往低于 1。归一化模型由作者公开:http: //bethgelab.org/media/uploads/deeptextures/vgg_normalised.caffemodel

我希望这个链接有帮助。