在神经网络进行图像识别的背景下,“排列不变”是什么意思?

机器算法验证 机器学习 神经网络 术语 卷积神经网络 定义
2022-01-20 13:59:23

我见过 MNIST 数字识别任务的术语“置换不变”版本。这是什么意思?

2个回答

在这种情况下,这是指模型不假定特征之间存在任何空间关系的事实。例如,对于多层感知器,您可以置换像素并且性能相同。对于假设邻域关系的卷积网络,情况并非如此。

一个函数f向量参数的x=(x1,,xn)是排列不变的,如果f如果我们置换x,也就是说,例如,当n=3

f((x1,x2,x3))=f((x2,x1,x3))=f((x3,x1,x2))
等等。