我最近开始钻研别人的代码，其中有一部分我不太明白。代码的作者使用某种形式的预处理来加速优化。我想询问您是否熟悉这种预处理，并且可以推荐一些文献来阅读该方法。不幸的是，没有提供名称，因此我将在下面描述作者的方法。

假设我们在某个维空间个点的集合。这个空间是在某个多项式基础上定义的，我们有一个矩阵个点的坐标。我们现在想要优化一些目标函数用于固定和变量（长度为的向量）。我们使用准牛顿优化器，特别是BFGS来做到这一点。$N$$D$$\mathbb{R}^D$$N\times D$$\boldsymbol{B}$$N$$f(\theta,\boldsymbol{B})$$\boldsymbol{B}$$\theta$$D$

对于预处理，作者现在首先

1. 对矩阵元素进行平方，然后将其沿行（维）求和，并取结果向量的平方根。这会产生一个向量。$\boldsymbol{B}$$N$$D$$\psi_n$
2. 然后作者创建了一个对角方阵，其中作为对角线项。$\boldsymbol{D}^{-1}$$\frac{1}{\psi_n}$
3. 使用矩阵，作者得到一个矩阵。我假设这标准化了的尺寸。$\bf{D}^{-1}$$\boldsymbol{\Psi}=\boldsymbol{B} \cdot \boldsymbol{D}^{-1}$$\boldsymbol{B}$
4. 然后，作者对进行 QR 分解，只保留上三角矩阵$\bf{\Psi}$$N\times D$$\boldsymbol{R}$
5. 有了这个，我们作者计算了一个“预处理矩阵”。这个矩阵必须是。$\boldsymbol{A}=\boldsymbol{D}^{-1}\cdot \boldsymbol{R}^{-1}$$D\times N$

显然，这允许我们进行“正则化优化” =。他们的评论表明，这以某种方式使优化问题变得更加“球形”，从而减少了某些维度上的陡峭梯度。（显然，这使得算法更不容易爬上山脊，然后接近最优值。）优化后，正则化目标的结果可以通过重新缩放来转换回来。$f(\theta)$$f(A\cdot\theta^\top)=g(\theta^\top)$$\theta^*_r$$\theta^*=\boldsymbol{A}\cdot \theta^*_r$

你知道作者在这里使用的是什么方法吗？