我的理解是 GPU 在运行神经网络方面效率更高,但最近有人向我建议,GPU 仅在训练阶段需要。一旦经过训练,在 CPU 上运行它们实际上会更有效。
这是真的?
我的理解是 GPU 在运行神经网络方面效率更高,但最近有人向我建议,GPU 仅在训练阶段需要。一旦经过训练,在 CPU 上运行它们实际上会更有效。
这是真的?
这取决于许多因素,例如神经网络架构(CNN 往往比 GPU 上的 RNN 优化得更好)以及您提供多少测试样本作为神经网络的输入(当给定一批样本而不是单个样本)。
例如,这是一个在不同的基于 CNN 的架构上比较 CPU 和 GPU 的基准。在这种情况下,CPU 上的前向传递要慢得多: