这种替代最小化算法的术语是什么?

计算科学 优化 迭代法 管理员
2021-12-15 01:21:50

假设模型是,在明确已知的情况下,我们将观察为找到每个样本显然,这是一个欠定逆问题。F(x1)G(x2)Z(x3)=yRNF,G,ZyybRNx1x2x3

我见过一些像这样的迭代算法,

  1. 的随机数开始x1x2,x3
  2. 选择,保持不变,将更改为使得x1x2x3x1x1

F(x1)G(x2)Z(x3)=yb

  1. 更新x1=x1

  2. 相同,但修复并更新x2x1x3x2=x2

  3. 重复,并重复整个过程几次,直到它不改变x3

  4. 最终结果作为逆问题的解。

我在计算机科学的不同领域多次看到这种哲学,只是希望知道它背后的大局是什么。喜欢ADMM吗?

1个回答

这种方法的通用名称是“块坐标下降”。重要的是要理解,如果没有额外的假设,就不能保证收敛。

ADMM 不仅仅是块坐标下降——它是一种更复杂的方法,在每次迭代中针对原始变量进行优化,然后调整拉格朗日乘数和惩罚参数。 xz