有兴趣在设计和训练深度神经网络方面获得一些“动手”经验的业余爱好者,是否有可能为此目的使用普通笔记本电脑(没有 GPU),或者在没有强大的计算机/集群/GPU 的合理时间?
更具体地说,笔记本电脑的 CPU 是 Intel Core i7 5500U 第 5 代,具有 8GB RAM。
现在,由于我没有具体说明我想解决什么问题,我将以不同的方式提出我的问题:您建议我尝试使用我的硬件实现哪些深层架构,以便实现以下目标:获得有关如何以及何时使用过去 10 年引入的技术的直觉和知识,这些技术对于深度网络的兴起至关重要(例如对初始化、辍学、rmsprop 的理解,仅举几例)。
我阅读了这些技术,但当然如果不亲自尝试它们,我将不确切知道如何以及何时以有效的方式实施这些技术。另一方面,我担心如果我尝试使用不够强大的PC,那么我自己的学习速度会很慢,说我获得了更好的理解是没有意义的。如果我尝试在浅网络上使用这些技术,也许我不会建立正确的直觉。
我想象(我的)学习的过程如下:我实现了一个神经网络,让它练习长达几个小时,看看我有什么,然后重复这个过程。如果我每天这样做一两次,如果在 6 个月后我将获得与该领域的专业人士应该知道的相当的实用知识,我会很高兴。