递归神经网络如何用于序列分类?

机器算法验证 机器学习 神经网络 循环神经网络
2022-02-07 07:20:17

RNN 可用于预测,或序列到序列映射。但是如何使用 RNN 进行分类呢?我的意思是,我们给整个序列一个标签。

2个回答

可以使用 RNN 将多个输入映射到单个输入(标签),如下图(来源)所示:

在此处输入图像描述

每个矩形都是一个向量,箭头代表函数(例如矩阵乘法)。输入向量为红色,输出向量为蓝色,绿色向量保持 RNN 的状态(稍后会详细介绍)。从左到右:(1)没有RNN的Vanilla模式处理,从固定大小的输入到固定大小的输出(例如图像分类)。(2) 序列输出(例如图像字幕获取图像并输出一个单词的句子)。(3) 序列输入(例如,给定句子被分类为表达积极或消极情绪的情绪分析)。(4) 序列输入和序列输出(例如机器翻译:RNN 读取英文句子,然后输出法文句子)。(5) 同步序列输入和输出(例如,我们希望标记视频的每一帧的视频分类)。

在简单 RNN 的情况下,将整个序列提供给您的网络,然后在最后一个序列元素处输出类标签(请参阅本文并参考该方法的早期示例)。在训练阶段,我们可以从最后一个序列元素到序列开始的时间反向传播误差。一般来说,这与 RNN 序列标记问题没有什么不同,我们只需要为序列的某些元素分配标签(或所有其他元素都被标记为 OTHER)。