求解(一个− 1+ D)− 1v(A−1+D)−1v具有低秩 Cholesky 因子一个A

计算科学 线性代数 数值分析 凸优化
2021-12-12 05:53:56

我有一个大矩阵ARN×N这应该是正定的,但在数值上较低。代替A, 我有它的不完全 Cholesky 因子G, 这样AGG.A非常大,所以我无法将其保存在内存中,但是G足够小。我需要数值求解

(一个-1+D)-1v

在哪里D是具有正项的对角矩阵,并且v是一个向量。我想这样做而不形成ñ×ñ矩阵。如果没有进一步的近似,这可能吗?

上下文:这是 GP 下变分贝叶斯优化中的牛顿步骤。一个是一个 Gram 矩阵,如果需要,我可以评估任何值。)

使用矩阵求逆引理,我们可以将其重写为,

(一个-一个(D-1+一个)-1一个)G(G)-GG(D-1+一个)-1G(G)

但是,(D-1+一个)-1任期还是很麻烦。(也许它的低阶近似会有所帮助?)

编辑:如果我有不完整的 Cholesky一个-1=大号大号,事情会容易得多。在这种情况下,矩阵求逆引理给出,

(D-1-D-1大号(一世-大号D大号)-1大号D-1)

这都可以在低秩维度中计算。现在,注意伪逆G大号. 因此,一个 econ-SVDG会解决它。有没有更好的办法?

1个回答

YZ 找到了一个没有显式伪逆的更简单的解决方案。

使用矩阵求逆引理两次,他得到:

(A1+D)1v=GGvGGDGGv+GGDG(I+GDG)1GDGGv
which can be evaluated without forming the large N×N matrix.