卷积神经网络中的“移位不变式”是什么意思?

机器算法验证 机器学习 神经网络 深度学习 术语 卷积神经网络
2022-04-05 01:41:26

我看到了一个描述特征检测器的术语,即移位不变。那什么意识?

论文:1989 年泛化和网络设计策略

2个回答

对于 CNN,我认为这意味着对输入图像的小*位移的不变性。例如在字符识别任务中,如果您通过移动(即向左/向右和向上/向下滑动图像)来训练系统,您将学习到一个更通用的检测器,它在困难的条件下工作,即当字符未完全对齐图像的中心。旋转、缩放等也采取了类似的预防措施。

我用谷歌搜索确定“小”并在这里看到了类似的讨论,这让我意识到 CNN 也可以抵抗大位移,因为池化过程将局部特征总结在一个较小的向量中(即代表整体),在图像中看到对象的位置并不重要。

移位不变性:这意味着如果我们及时移动输入(或移动向量中的条目),那么输出也会移动相同的量

http://pillowlab.princeton.edu/teaching/mathtools16/slides/lec22_LSIsystems.pdf