假设我希望解决以下优化问题:
其中每个是一个凸集。此外,我可以访问投影运算符
是否有围绕p_i(\cdot)可以找到\mu的优化算法?
笔记:
- 集合的数量可能很大。当我尝试将标准 ADMM 技巧应用于此问题时,我最终需要空间,这太多了。
- 如果我将正则化器添加到问题中,那么它看起来像投影,我可以使用像Dykstra's algorithm这样的循环方法。但我真的很想在没有正则化的情况下解决这个问题。
假设我希望解决以下优化问题:
笔记:
请参阅最近关于随机梯度下降扩展的这篇论文,该论文可用于您的问题:
https://arxiv.org/abs/1511.03760
的目标值并在实现可行性后降低它来应用 Dykstra 算法(或任何其他在凸集上进行交替投影的算法)。