我有一个迭代序列,用于优化基于 EM(期望最大化)算法的损失函数 ,其中是迭代次数: 其中是对角矩阵,和是半正定矩阵。的对角线元素的倒数。即,。
我想将此算法的收敛速度(根收敛速度)计算为。我假设它与泰勒展开、光谱半径和不动点定理有关。对于迭代方案,这是如何处理或完成的?
我有一个迭代序列,用于优化基于 EM(期望最大化)算法的损失函数 ,其中是迭代次数: 其中是对角矩阵,和是半正定矩阵。的对角线元素的倒数。即,。
我想将此算法的收敛速度(根收敛速度)计算为。我假设它与泰勒展开、光谱半径和不动点定理有关。对于迭代方案,这是如何处理或完成的?
这只是一个线性定点迭代
在哪里
此迭代的收敛速度是线性的,最坏情况收敛因子等于的谱半径(因此,如果,则该方法不收敛)。此外,如果并且具有幅度为 1 且不完全为 1 的任何特征值,则迭代也不会收敛。显然,如果和可以独立变化,则迭代通常不会收敛。请注意,如果,它总是收敛到 0。