凸激活函数示例

数据挖掘 机器学习 神经网络 激活函数
2022-02-21 05:48:52

对于特定任务，我需要具有以下属性的凸激活函数：

  • f''(x) > 0
  • 0 <= f(x) <= 1
  • f(x) 是单调的
  • f(x) 不是“爆炸式”，即避免使用 f(x) = x² 等函数

我想到的唯一例子是 softplus 激活函数。你还有什么想法吗？

1个回答

没有这样的功能。

一个凸函数定义在所有R有界范围是常数。

Softplus 不受第二个项目符号要求的限制。

其它你可能感兴趣的问题
上一篇Bias 和 overfilling 和 underfitting 有什么区别？ 下一篇为什么我的训练准确率是 0.0？