自动编码器和编码器-解码器有什么区别?

数据挖掘 神经网络 自动编码器
2021-09-26 04:12:05

我想知道自动编码器和编码器-解码器之间是否有区别。

2个回答

根据本文第 2.3

自动编码器是编码器-解码器模型的特殊情况,其中输入和输出相同。

论文的同一部分描述了编码器-解码器,如下所示:

编码器-解码器模型是一系列模型,它们学习通过两阶段网络将数据点从输入域映射到输出域:由编码函数 z = f(x) 表示的编码器将输入压缩为潜在空间表示;解码器 y = g(z) 旨在预测潜在空间表示的输出。

自动编码器是编码器-解码器模型的一种特殊情况。在自动编码器的情况下,输入和输出域是相同的(通常)。Autoencoder 的 Wikipedia 页面,提及,

完美执行复制任务的最简单方法是复制信号。相反,自动编码器通常被迫近似地重构输入,只保留副本中数据最相关的方面。

例如,它们用于对数据进行去噪。这种模型的输入是噪声输入,输出是去噪输入。你可以在这里找到一个例子

编码器-解码器模型也可以有不同的输入和输出域,例如神经机器翻译输入和输出具有不同的域,因为它们属于两种不同的语言并且也可以具有可变长度。