统计代数几何

机器算法验证 参考 代数统计
2022-03-06 08:49:58

我听说过代数几何在统计和机器学习中的用途。我想尝试了解一些关于这个主题的知识。我对代数几何几乎一无所知,但我有数学背景,而且我知道基本的群论、环域和一些交换代数。我的问题是:

  1. 我应该学习哪些与 Stats/ML 中的应用程序相关的代数几何概念(我想代数几何课程和书籍中通常教授的内容只有一部分有用)。

  2. 你能为有我背景的人推荐一些书籍/介绍性论文吗?我不是指 AG 的标准教科书,而是侧重于应用程序中使用的概念的东西。

2个回答

以下是标准参考列表:

以下是相关参考文献列表,虽然提供了用于该主题的方法的背景,但并未直接涉及代数统计:

有关该主题、过去和现在的课程网页:

这些清单几乎可以肯定绝不是全面的。

在此处输入图像描述

这本书肯定会产生影响,它为在统计学习理论中使用代数几何奠定了基础。许多广泛应用于信息科学的统计模型和学习机都有一个奇异的参数空间:混合模型、神经网络、HMM、贝叶斯网络和随机上下文无关文法是主要的例子。代数几何和奇点理论为研究这种非光滑模型提供了必要的工具。建立了四个主要公式:

  1. 对数似然函数可以使用奇异点的分辨率给出一个通用的标准形式,甚至应用于更复杂的模型;

  2. 边际似然或“证据”的渐近行为是基于 zeta 函数理论推导出来的;

  3. 推导出新的方法来根据训练误差估计贝叶斯和吉布斯估计中的泛化误差;

  4. 代数簇的经验过程理论阐明了最大似然法和后验法的泛化误差。