要添加到@Digio，我会推荐 Abu-Mostafa 的Learning From Data，其中包含足够的统计学习数学，让您兴奋并想要更多。

请注意，Andrew Ng 在斯坦福在线而不是 Coursera上有更多的数学课程。

推荐总是主观的，对我来说，我个人喜欢

统计学习的要素

凸优化

这两本书都是机器学习社区的经典书籍，免费提供。

相关问题可以在这里找到。

机器学习食谱/参考卡/备忘单？

尝试深入挖掘特定主题。Ngs 课程只涉及表面，但其他更具体的课程更多的是理论/数学。

贝叶斯网络/马尔可夫网络：

概率图模型是贝叶斯网络/马尔可夫网络的理论高级课程。这本书更具理论性。它充满了证据。

神经网络：

机器学习的神经网络也是一门相当理论的课程，因为它非常深刻。尽管如此，它并不像我上面提到的 PGM 课程那样数学化。

但是，如果您想了解机器学习本身的理论而不是算法，则可以阅读教科书。在这种情况下，请遵循@digio 的建议。

来自哥伦比亚的这个（存档的）edX 机器学习课程解释了很多基础数学。例如，它们从贝叶斯（最大后验概率）的角度展示了正则化线性回归和概率矩阵分解。

理解机器学习是一本（免费提供）教科书，采用计算学习理论方法，包含分类器 VC 维度的推导和计算/估计。