我是深度学习的初学者,最近想了解 Wavenet 的结构。(有关更多信息,请参阅论文http://sergeiturukin.com/2017/03/02/wavenet.html)不过,我对整体架构有一些疑问。从图中可以看出,残差块是堆叠在一起的,我的第一个问题是,为什么要堆叠在一起?
此外,我不太确定跳过连接是如何工作的。据我了解,在一个非常深的神经网络中,我们使用skip-connection来跳过几层,以便在几层之后直接添加到结果中。在这种情况下,我们可以看到几个层跳过连接到处理结果的部分以产生输出。这是否意味着,在没有跳跃连接的情况下,我们必须从神经网络的底层到顶层才能产生输出?如果不是,那么在这种情况下,跳过连接如何工作?
最后,我对图表中的顶部箭头(围绕“残差”)有疑问。我对这个箭头试图做什么感到困惑,它对整个过程有何贡献?提前致谢!
