在训练阶段之后,在 GPU 或 CPU 上运行神经网络更好吗?

数据挖掘 神经网络 深度学习 显卡
2021-09-17 11:12:13

我的理解是 GPU 在运行神经网络方面效率更高,但最近有人向我建议,GPU 仅在训练阶段需要。一旦经过训练,在 CPU 上运行它们实际上会更有效。

这是真的?

1个回答

这取决于许多因素,例如神经网络架构(CNN 往往比 GPU 上的 RNN 优化得更好)以及您提供多少测试样本作为神经网络的输入(当给定一批样本而不是单个样本)。

例如,这是一个在不同的基于 CNN 的架构上比较 CPU 和 GPU 的基准在这种情况下,CPU 上的前向传递要慢得多:

在此处输入图像描述

仅供参考:基于神经网络库的基准来比较不同 GPU 之间的性能