如果我们用于计算的总能量预算等于人脑能量预算（ 12.6 瓦） ，我们现在可以运行多大的人工神经网络（使用完整的训练反向传播周期或仅评估网络输出）？
假设每秒一个周期，这似乎与生物神经元的放电率大致匹配。
如果我们用于计算的总能量预算等于人脑能量预算，我们现在可以运行多大的人工神经网络？
人工智能
神经网络
2021-10-28 00:01:24
2个回答
12.6 瓦的 1.26 亿个人工神经元，采用 IBM 的 True North
早在 2014 年，IBM 的 True North芯片就以不到 100mW 的功率推动了 100 万个神经元。
所以这大约是 1.26 亿个 12.6 瓦的人工神经元。
一只老鼠有 7000 万个神经元。
IBM 相信他们可以以“仅”4kW 的功率构建人脑规模的 True North 大型机。
一旦 3D 晶体管上市，我认为我们会很快赶上动物大脑的效率。
如果您将自己限制在 12.6 瓦，您将不会做太多事情。只需查找现代 GPU 的功耗，查看人们正在训练的网络规模，然后按比例缩小。作为参考，现代 GPU 在大量使用下似乎消耗 52-309 瓦。
显然，能源效率是人类大脑仍然远远领先于人工神经网络的一个领域。
其它你可能感兴趣的问题