测试时去噪自动编码器权重

机器算法验证 机器学习 神经网络 深度学习 自动编码器 退出
2022-03-29 06:58:14

在训练去噪自动编码器时使用掩蔽噪声时,应在测试时增加与掩蔽率成正比的权重,如 Dropout?

1个回答

是的,假设噪声具有相同的性质(即,以一定的概率将每个输入设置为 0 p),同样的推理适用,您应该在测试时增加权重。相反,您可以在训练期间减少它们,由于非线性,这并不完全等效,但在实践中似乎也表现良好。

但是,如果噪声只是添加到输入的高斯噪声,则不应在测试时更改权重,因为高斯噪声不会影响输入的规模。