哪些特征使神经网络难以逼近函数？

直觉上，人们可能认为不均匀函数可能难以近似，但不均匀函数只包含一些高频项（在 sigmoid 的情况下很容易近似$\frac{1} {(1 + e ^ {-(w*x + b)})}$，通过增加$w$）。因此，不均匀的数据可能并不难近似。

所以我的问题是，是什么让函数真正难以近似？

注意：通过近似值，我并不是指可以通过改变训练方法（改变训练集大小、方法、优化器）来改变的东西。我所说的近似是指需要将 NN 的超参数（大小、结构等）更改为非常容易接近某个水平的事物。