我应该如何学习深度学习？

机器算法验证 机器学习 深度学习
2022-04-03 08:56:49

这可能是一个相当广泛的问题，但我想知道我是否可以利用这个网站上人们的智慧。

所以我最近开始学习深度学习。我从零开始编写了一个简单的前馈网络，学习了如何使用 Tensorflow 中的各种正则化技术编写 MLP 和 CNN。

我已经开始阅读论文，这时我才意识到还有很多东西要学，我有点不知所措。

此外，在研究 RMB 时，我读到它们现在几乎不用于预训练，而是使用批量标准化，所以我不想研究已经过时的东西！

由于我正在自学，对于在 MLP、CNN 和 RMB 之后应该优先考虑哪些深度学习领域，有什么建议吗？或者这个问题太难回答了，我想下一个最好的问题是如果你可以再做一次深度学习，你会如何学习？

2个回答

这本书是一个很好的起点，您可以在线下载。

快速回顾和起点：

  • 如果您正在寻找图像处理，CNN 是一个不错的选择，而且您似乎已经在使用它了。
  • 对于语音识别 - 你可以看看 RNN（循环神经网络）。基本上，您也可以将它们用于图像和视频。并且（原文如此！）您可以使用 CNN 来处理音频（特别是如果它使用 FFT 进行预处理以获得 2D 频谱）
  • NLP 也使用 RNN。为了提取特征，您可以查看Word2Vec。此外，编码器-解码器架构正在用于机器翻译。
  • （主动研究，不用于生产）用于统计推断和无监督学习（异常检测等） - 你可以看看自动编码器和 RBM。自动编码器特别用作因子分析的替代方法：因子分析与自动编码器
  • 深度学习也有助于强化学习：https ://www.cs.toronto.edu/~vmnih/docs/dqn.pdf
  • 推荐系统也使用深度学习。

TensorFlow 模型（它们通常是最先进的）：https ://github.com/tensorflow/models

少量 Java 示例以补充 TensorFlow 中的示例：https ://github.com/deeplearning4j/dl4j-examples

深度学习是一个相当广泛的话题。我不能说你不能什么都学（人的能力是无限的），但在每个领域工作都没什么困难。
据我所知，您已经掌握了所有基本概念，因此是时候选择一个您想要应用知识或进行更多研究的领域了。
如果你想工作，请选择一个你想应用你的知识并从中学习的领域。自然语言处理、图像处理、对象识别、音频信号处理和更多领域。选择一个领域并构建一些有用的东西。
如果您想阅读更多内容并进行研究，每天都会进行新的实验/研究。您可以改进它们或开发您的新概念。GAN（生成对抗网络），使用强化学习和深度学习，深度梦想（Inceptionism: Going Deeper into Neural Networks），生成上下文感知编码器解码器和更多新事物。

其它你可能感兴趣的问题
上一篇局部平均序列的实线 下一篇加权最小二乘，为什么不使用1e2一世1ei2作为重量？