关于矩阵分解的基本论文

机器算法验证 矩阵分解 svd 数字
2022-02-14 15:34:39

我最近阅读了 Skillicorn 关于矩阵分解的书，有点失望，因为它是针对本科生读者的。我想（为我自己和其他人）编写一份关于矩阵分解的重要论文（调查，还有突破性论文）的简短参考书目。我想到的主要是关于 SVD/PCA（和健壮/稀疏变体）和 NNMF 的东西，因为这些是迄今为止最常用的。大家有什么建议/建议吗？我正在推迟我的答案，以免产生偏见。我会要求将每个答案限制为 2-3 篇论文。

PS：我将这两种分解称为数据分析中最常用的。当然 QR、Cholesky、LU 和极坐标在数值分析中非常重要。不过，这不是我问题的重点。

4个回答

你怎么知道 SVD 和 NMF 是迄今为止最常用的矩阵分解，而不是 LU、Cholesky 和 ​​QR？我个人最喜欢的“突破”必须是保证排名显示的 QR 算法，

  • Chan, Tony F. “揭示 QR 分解的排名”。线性代数及其应用第 88-89 卷，1987 年 4 月，第 67-82 页。DOI: 10.1016/0024-3795(87)90103-0

... 使用列旋转的 QR 早期概念的发展：

  • 布辛格，彼得；Golub, Gene H. (1965)。Householder 变换的线性最小二乘解。Numerische Mathematik第 7 卷，第 3 期，269-276，DOI：10.1007/BF01436084

一本（？）经典教科书是：

  • 戈卢布，基因 H。Van Loan, Charles F. (1996)。矩阵计算（第 3 版），约翰霍普金斯大学，ISBN 978-0-8018-5414-9。

（我知道你没有要教科书，但我无法抗拒）

编辑： 多用谷歌搜索发现一篇论文，其摘要表明我们可能有点跨江豚。我上面的文字来自“数值线性代数”（NLA）的角度；可能您更关心“应用统计/心理测量学”（AS/P）的观点？你能澄清一下吗？

对于 NNMF，Lee 和 Seung 描述了一种非常易于实现的迭代算法。实际上他们给出了两种类似的算法，一种用于最小化残差的 Frobenius 范数，另一种用于最小化近似和原始矩阵的 Kullback-Leibler 散度。

  • Daniel Lee，H. Sebastian Seung，非负矩阵分解算法，神经信息处理系统进展 13：2000 年会议论文集。麻省理工学院出版社。第 556-562 页。

也许，你会发现有趣的

  1. [学习矩阵分解] Nathan Srebro 博士论文，
  2. [大型推荐系统的各种矩阵分解方法的研究]，Gábor Takács et.al。和这里描述的几乎相同的技术

最后两个链接显示了如何在协作过滤中使用稀疏矩阵分解。但是，我相信类似 SGD 的因式分解算法在其他地方也很有用（至少它们非常容易编码）

其它你可能感兴趣的问题
上一篇数据库的质量保证和质量控制 (QA/QC) 指南 下一篇在生存分析中使用 logrank 与 Mantel-Haenszel 方法计算风险比的优缺点是什么？