由于某种梯度下降变化,我最近遇到了累积点的概念。找到了以下定义:
一个积累点是这样的,在 的任何邻域中都有无限个数列项.
我不确定我是否正确理解了上述定义。由于此时函数的梯度不必为零(),但在静止点处为零,如果静止点是函数最小化的迭代方法的结果,是否可以说静止点是累积点, 满足
在哪里是下一次迭代吗?
请注意,振荡的概念增加了混乱。即,它可能不认为,并且最小化方法在两者之间切换(如果终止是由)。在这种情况下如何定义累积点?(最后一个是受我遇到的聚类点定义的启发;因此,将理解这三者之间的联系:累积点、振荡、聚类点)
既然这里(定理 8.5)规定了一个收敛序列有一个且只有一个极限点(累加点),那么从振荡的情况下可以得出什么?换句话说,可以说这个序列实际上是不收敛的吗?