在相同数据集上训练/微调预训练模型但尺寸缩小(例如,缩小 70%)是否会提高推理速度?更一般地说,在较小的图像上训练 CNN 会提高推理速度吗?
数据集图像大小和推理速度
数据挖掘
机器学习
神经网络
深度学习
美国有线电视新闻网
2021-09-29 19:12:30
2个回答
正如你所说的那样,答案是否定的。
模型通常具有固定的输入和输出大小(RNN 除外,它并不真正用于图像)。这意味着您不能将较小的图像输入到网络中。如果看起来您正在这样做,那是因为网络正在自动调整大小或将您的小图像填充到模型输入大小。在这些情况下,模型的时间性能将相当稳定。
如果您要使用较小的图像输入尺寸训练相同的模型,那么您可以正确地说推理(和训练)时间会比较大的图像输入尺寸模型更快。在大多数情况下,您还可以将预训练的权重从较大的模型加载到较小的模型中。
请注意,您正在考虑的内容会改变输入分辨率,因此特征也会改变,从而降低模型的损失性能。
是 - 较小的图像意味着要相乘的矩阵较小,并且会减少预测时间。确切的数量是一个经验性问题,可以通过基准测试来回答。
但是,速度提升可能没有意义。有许多方法可以提高预测速度(例如,切换架构、蒸馏和降低精度),这些方法比较小的图像尺寸具有更大的效果。