您希望激活函数具有一些特征，并且立方根评价为 OK-ish：

• 非线性- 检查。

• 连续可微分——不。有问题$x=0$. 与 ReLU 等其他不连续函数不同，虽然梯度可以在接近零的情况下计算，但在接近时它可以任意高$x=0$， 因为$\frac{d}{dx}x^{\frac{1}{3}} = \frac{1}{3x^{\frac{2}{3}}}$

• 范围考虑——有限范围函数更稳定，大/无限范围函数更有效。与例如 tanh 相比，您可能需要降低学习率。

• 单调- 检查。

• 单调导数- 没有。

• 在原点附近近似同一性- 不，原点附近的近似值很差。

如果您查看当前成功的激活函数列表，您会看到一些也未能提供一个或多个理想特征，但仍被常规使用。

我会担心附近的高梯度$x=0$，但除此之外，我认为该功能可以正常工作。在学习过程中有时可能会不稳定，因为接近零的小变化会导致输出的大变化。在实践中，您可以通过剪裁它们来解决高梯度问题。如果原始计算返回的值大于$1$（或小于$-1$) 然后将梯度视为$1$（或者$-1$) 用于其余的反向传播。

找出该函数是否与其他更标准的激活函数竞争的唯一方法是在一些标准数据集上进行尝试并进行比较。