如何使用预训练的权重来初始化自定义 CNN?

数据挖掘 深度学习 美国有线电视新闻网
2022-02-22 01:02:02

从这篇论文中可以看出,由 VGG 初始化的 U_Net 比从头开始训练的 U_Net 获得了更好的结果。现在我想构建一个自定义的 u_net,它具有 [32,64,128,256] 与 vgg.features 不同(我尝试在没有预训练权重和自定义 U_Net 的情况下将 U_Net 与 VGG 架构一起使用,它们都得到相同的 Iou 分数。这个表示示例架构适合我的数据。)如何从 VGG 获得初始化权重?据我所知,知识蒸馏可以帮助我获得一个简单的网络,其权重可以用于我的 u-net 的初始化,例如 ([32,64,128,256])。但是 ImageNet 数据集上的知识蒸馏会浪费时间,是否有另一种方法来初始化“较小的”U-Net([32,64,128,256])?

0个回答
没有发现任何回复~