TL;博士
如果我们相信像卷积神经网络这样的视觉皮层功能,那么有一个问题让我摸不着头脑:脑力如何像卷积网络一样进行权重共享?
好,多解释
显然,左视觉皮层没有办法直接告诉右视觉皮层“嘿,我学到了一些新东西,复制我!!” (或者有吗?)。那么,如果学习到的特征在视野中是多样的,它如何保持平移不变性呢?
例如,您已经知道英文字符,您可以用双眼识别它们。现在你想学点中文,同时锻炼你的右脑,所以你闭上了右眼,记住了一个新的汉字。之后,您当然可以仅用右眼识别新角色。但是为什么?
答案可能是,对象/更高层次的特征检测发生在接收整个视野的更高层次的皮层中。可能还会发生一些迁移/一次性学习。但是,如果新生婴儿试图学习低级视觉特征,他/她肯定会面临体重分配问题。
一种可能的解释是,婴儿将接触大量数据并最终学习不变性。大量数据可以减少过拟合,但不能保证确定性收敛。如果我们在相同的数据集上训练相同的 CNN 模型,但是使用不同的随机生成器种子,那么相同的特征检测器很可能会出现在不同的通道中,或者不同的特征集会以线性重组的形式出现。
如果没有办法共享权重,大脑会在整个视野中学习很多不同的特征组合,它如何仍然能够始终如一地解决视觉不变性问题?