是否有任何常用的激活函数（例如，取值$(0,.5)\cup (.5,1)$)? 最好用于分类？

为什么？我在谷歌上找常用的激活函数，发现所有的激活函数都是连续的。但是，我相信霍尼克的论文不需要这样做。

当我对自己进行一些测试时，在 MNIST 数据集上使用不连续的激活函数，结果很好。所以我很好奇是否有其他人使用过这种激活函数。