关于稀疏优化的书籍/资源?

计算科学 参考请求 优化 机器学习
2021-12-22 21:38:38

我希望了解有关稀疏优化的更多信息并将其应用于机器学习问题。你能推荐一些关于这个主题的书籍/资源吗?理论和应用都很好。

2个回答

首先,为了澄清事情,您正在谈论解决表单的优化问题

minx1

受制于

Axb2δ

和相关表格,对吧?

在许多不同的应用中,问题被表述为受线性或最小二乘约束的向量的 1 范数的最小化。

理论研究的一个重要领域是证明解决最小化问题将恢复最稀疏解的条件。 L1

由于对这些问题的求解器的新需求,许多从事凸优化工作的人都被这个领域所吸引。他们开发的方法可用于许多不同的应用程序,对于大多数代码用户而言,求解器实际上是黑匣子。

目前尚不清楚您是否对稀疏优化在机器学习中的应用更感兴趣,还是对理论问题或实际解决由此产生的优化问题的方法更感兴趣。尽管相关的研究领域确实非常不相交。

作为一个起点,我建议在以下位置查看压缩感知资源列表:

http://dsp.rice.edu/cs

如果您可以提供更多关于您想了解的内容的详细信息,并让我了解您在优化和其他数学领域的背景,那么也许我可以建议更具体的参考资料。

听起来您对优化稀疏系统解决方案的迭代方法很感兴趣。如果是这样,您可以参考以下书籍:

http://www-users.cs.umn.edu/~saad/IterMethBook_2ndEd.pdf