首先，我对这个领域很陌生，对于这个问题中的任何愚蠢内容，我提前原谅自己。

在压缩感知或去模糊领域，我有一个非线性优化问题的形式

$\min R(x)$st$Ax-b<\epsilon$

目前，我使用朗朗日形式和非线性共轭梯度法解决优化问题：

$f(x) = |Ax-b|^2 +\lambda R(x)$

随着渐变

$\nabla f(x) = 2A^TAx-A^Tb +\lambda \nabla R(x)$

$Ax$和的评估成本很高，因为它们包含非均匀 FFT。但是，我可以的点扩散函数卷积在笛卡尔网格上快速。$A^Tx$$A^TAx$$A^TA$

这样我可以快速计算梯度，但是对于非线性 CG 的线搜索，我仍然需要经常评估。我正在寻找一种只需要评估的非线性方法。$Ax$$A^TAx$

在第一次尝试中，有点类似于线性 CGNR，我尝试通过使用以下方法（仅在线搜索）来最小化正规方程的残差：

$f2(x) = |A^TAx-A^Tb|^2 +\lambda R(x)$

如果没有，这种方法显然会简化为线性 CGNR（带有不必要的线搜索）。$\lambda Rx$

该方法似乎收敛到一个解决方案。然而，它收敛到与非线性 CG 不同的解，因为需要调整$\lambda$

所以我的问题是：

1）这完全是胡说八道吗？;-)

2）有没有类似“非线性CGNR”的东西？

来解决我的非线性优化问题的合适方法？$A^TA$

的梯度是多少？$f2x()$