在训练神经网络时，您经常会看到显示神经网络变得更好的速度曲线。它通常生长得非常快，然后减慢到几乎水平。

是否有与这些曲线匹配的数学公式？

一些类似的曲线是：

$$y=1-e^{-x}$$

$$y=\frac{x}{1+x}$$

$$y=\tanh(x)$$

$$y=1+x-\sqrt{1+x^2}$$

这种形状有理论上的原因吗？