假设我们想要拟合一个函数$f(x)$. 我们可以尝试学习一个神经网络模型$F(\cdot)$以便$F(x) \approx f(x)$. 或者，在残差网络方法中，我们尝试学习一个神经网络模型$R(\cdot)$以便$x+R(x) \approx f(x)$.

为什么后者更容易学习？一般来说，没有任何根本原因必须如此。这取决于具体的数据集。然而，一种可能的直觉是，我们可能期望在某些情况下，$f(\cdot)$可能是近似线性的：即，作为一阶近似，$f(x) \approx x$可能是一个合理的一阶近似。然后我们要对误差项进行建模：即，假设$f(x)=x+r(x)$; 然后我们要建模$r(x)$. 在某些设置中，误差项$r(x)$可能比建模更简单或更小$f(x)$. 在这种情况下，残差网络架构可能会更好。

如果您愿意，您可以将其视为类似于泰勒级数近似。泰勒级数为$f(x)$是

认为$x$很小（即，$|x| \ll 1$）。然后$f(x) = c_0$是零阶近似；$f(x) = c_0 + c_1 x$是一阶近似；等等。在每一步，我们预计残差/误差项可能小于近似值。您可以将残差网络视为学习泰勒级数$f(x)$, 在特殊情况下 $c_0 = 0$ 和 $c_1 = 1$.

还有其他更复杂的解释/直觉，但希望这提供了一种可能的观点。