张量网络(查看这篇论文以获得评论)是一种最初在凝聚态物理学中引入的用于模拟复杂量子系统的数值方法。粗略地说,这样的系统是由一个非常高维的张量来描述的(其中指数采用许多值随系统成分的数量呈指数增长),并且张量网络提供了后者作为外积和许多收缩的有效表示低维张量。
最近,一种特定类型的张量网络(在物理学中称为矩阵乘积状态)通过所谓的张量训练分解在机器学习中发现了有趣的应用(我不知道在这种情况下精确的规范参考,所以我将避免引用任何内容)。
现在,在过去的几年里,物理学界的一些作品似乎推动了张量网络在机器学习中的普遍使用(参见这篇论文,第二篇和第三篇以及这篇文章来自 Google AI 的上下文)。作为一名物理学家,我很高兴得知最初为物理学设计的工具可能会找到跨学科的应用。然而,与此同时,我的批判性思维告诉我,从机器学习研究社区的角度来看,这些结果可能看起来并不那么有趣。毕竟,机器学习现在是一个非常成熟的领域,它可能需要的不仅仅是对新机器学习模型的建议和对微不足道的数据集(如 MNIST 数据集)的基本基准测试——这就是论文在我谦虚中所做的基本工作意见 - 以吸引该地区的任何注意力。此外,据我所知,关于机器学习的张量分析技术(例如张量分解)已经存在相当多的知识,这可能会让人怀疑其贡献的原创性。
因此,我很想知道机器学习专家对这一研究方向的看法:这真的是一个有趣的研究方向,还是只是用一个不那么严肃的提议来应对当前的机器学习炒作?