求解具有有限内存的稀疏最小二乘系统

计算科学 线性代数 迭代法 最小二乘
2021-12-15 07:02:55

这是过去决赛中的一个问题,我们无法弄清楚。采用最小二乘系统

minx||Axb||2,

其中ARmxnm<n和 A 是满秩。A 有O(n)个非零条目。假设你只有O(n)计算机内存。

  1. 建议一种算法来逼近最小二乘问题的解
  2. 预期的迭代次数和总计算成本是多少?
  3. 解 x 中的预期误差是多少?(为此问题提供适当的错误定义)

我们只了解了一点迭代方法,例如瑞利商、逆迭代、幂迭代和共轭梯度。这些似乎都没有帮助。任何想法将不胜感激。

编辑:我现在在想,如果我们取一个随机的 mm 列以便形成一个方阵,然后在这个问题上使用 CG 怎么办?然后用各种随机列来找到平均解决方案?

1个回答

您对的调用立即触发了我脑海中的多重网格方法。个未知数的算法,对于大类问题因此它也非常适合您的问题。O(N)Ax=bNO(N)

一般方法的步骤如下:

  • 计算残差
  • 将残差限制为粗网格
  • 解决粗系统
  • 将误差延长到更精细的网格
  • 更新近似值

所有这些方案都得到了很好的研究,并且存在许多方法。多重网格也是一个活跃的研究领域。看看这个介绍。