端到端培训是什么意思?

人工智能 深度学习 训练 术语
2021-10-30 10:16:42

简而言之,在深度学习的背景下,端到端训练意味着什么?

3个回答

深度学习作为端到端框架的另一种解释是在深度学习中,不需要预处理或特征提取步骤。所以它只使用了一个处理步骤,即训练深度学习模型。在其他传统的机器学习方法中,通常需要一些分离的特征提取步骤。

在此处输入图像描述

例如在图像分类中,像 CNN 这样的深度学习框架可以接收原始图像,然后对其进行训练以直接对其进行分类。如果我们不使用深度学习,我们需要使用更多的步骤来提取一些特征,比如边缘检测、角点检测、颜色直方图等。

你也可以在这里观看 Andrew Ng 的解释

当您有两个或多个神经网络作为更大架构的组件时,这是相关的。以端到端的方式训练该架构意味着同时训练所有组件(即,将其训练为单个网络)。

我能想到的最好的例子是图像字幕架构。这些通常由两个网络组成:一个 CNN,其作用是从输入图像中提取特征;一个 RNN,它接受 CNN 的特征并生成输出说明。

您有两种培训选择:

  1. 首先,首先为一些任意任务(例如图像分类)训练 CNN,希望它学会如何提取特征。然后使用 CNN 从输入图像中提取特征,并将其用作输入来训练 RNN。此过程在两个完全独立的阶段中训练这两个组件

  2. 将整个架构视为单个网络,并将梯度反向传播到 CNN,以便也可以对其进行训练。该程序同时训练这两个组件这就是我们所说的端到端培训。

端到端意味着深度学习是唯一使用的东西。

很多人都怀疑它的可行性,我当然相信。我不会相信基于端到端 DL 的自动驾驶汽车。