我是机器学习的新手（所以请原谅我的命名法），并且不是 python 开发人员，我决定深入（没有双关语）用 C++ 编写我自己的框架。

在我目前的设计中，我为每个神经元/细胞赋予了具有不同激活功能的可能性。这是神经网络的合理设计吗？我看到的许多示例对给定层中的所有神经元都使用相同的激活函数。

是否有一个模型可能需要这个，或者一层中的所有神经元都应该使用相同的激活函数？我对同一模型中的不同层使用不同的激活函数是正确的，还是所有层在模型中都具有相同的激活函数？