不确定这是否适合这个网站，但我正在开始我的计算机科学 MSE（应用数学学士学位）并希望获得强大的机器学习背景（我很可能会攻读博士学位）。我的子兴趣之一是神经网络。
ANN 的良好数学背景是什么？与机器学习的其他领域一样，我认为线性代数很重要，但其他哪些数学领域很重要？
我打算阅读Neural Networks: A Systematic Introduction或Neural Networks for Pattern Recognition。有没有人有任何意见或替代建议？
神经网络的数学背景
机器算法验证
机器学习
神经网络
数理统计
参考
2022-03-27 00:23:57
4个回答
在我看来，您提供的第二个参考资料仍然是关于 NN 的最佳书籍，尽管它可能有点过时并且不涉及深度架构等最近的发展。您将获得正确的基础知识，并熟悉机器学习的所有基本概念。
如果你通读这本书，你将需要线性代数、多元微积分和统计的基本概念（条件概率、贝叶斯定理和熟悉二项式分布）。在某些方面，它涉及变分法。不过，关于变分法的附录应该足够了。
数学部分可能至少包括高级代数、三角函数、线性代数和微积分。
但也要跳出框框思考。良好的编程技能也是必要的，包括扎实的算法基础（Coursera 有两门算法课程）和熟练使用 MatLab、Octave 或 R（以及灵活的编程语言，如 Java、C/C++ 或 Python）。我在回答您的问题时提到了这些，因为在我看来，它们是更多的“应用数学”技能——并且是在理论和应用实现之间进行转换的基础。
我参加了一些与机器学习相关的 Coursera 课程（并且同意另一张海报，即 Ng 教授的机器学习非常棒）和 NN。几个月前，Coursera 通过多伦多大学和 Geoffrey Hinton 举办了神经网络课程（不确定是否仍然可用）。一门很棒的课程，要求：微积分知识，熟练使用 Octave（类似开源 MatLab 的克隆），良好的算法设计（用于可扩展性）和线性代数。
您还可以（虽然不是数学本身）考虑诸如自然语言处理（用于特征提取等）、信息检索、统计/概率论以及机器学习的其他领域（以获得更多理论）等主题。最近的文章，如机器学习基础 (Mohri) 或机器学习简介 (Alpaydin) 可能有助于您弥合理论到实现的复杂性（在我看来，这可能是一个艰难的飞跃）——而且两者都有课文数学很重，尤其是基础课。
同样，我认为所有这些都与数学和神经网络有关，但在更广泛的意义上。
请参阅：http ://www.quora.com/Career-Advice/How-do-I-become-a-data-scientist 第二个答案。相当完整的路线图。
机器学习渐进介绍：学习斯坦福大学 Andrew Ng 的这门出色的机器学习 101 课程。我觉得它很棒吗？
一本非常好的书（不是真正的介绍性，但不要假设神经网络的先验知识）是 Brian Ripley：“Pattern Recognition and Neural Networks”，我想说它包含了它的大部分前言。拥有应用数学学士学位，您应该做好准备。