$\max(-y_i(w x_i), 0)$不是偏导的尊重$w$如果$w x_i=0$.

损失函数在某些点不可推导时是有问题的，但当它们在权重的某个区间内是平坦的（恒定的）时会更严重。

认为$y_i = 1$和$w x_i < 0$（即“假阴性”类型的错误）。

在这种情况下，函数$[y_i - \text{sign}(w x_i)]^2 = 4$. 所有区间的导数$w x_i < 0$为零，因此，学习算法无法确定是增加还是减少更好$w$.

在同样的情况下，$\max(-y_i(w x_i), 0) = - w x_i$, 偏导数是$-x_i$. 学习算法知道它必须增加$w$如果值$x_i>0$, 否则减少。这就是这个损失函数被认为比以前的更实用的真正原因。

如何解决问题$w x_i = 0$? 简单地说，如果你增加$w$结果是准确的$0$, 分配给它一个非常小的值,$w=\epsilon$. 其余情况的类似逻辑。

由于我们正在处理实值变量，因此几乎可以肯定函数的参数不会是$0$.

如果你非常关心这一点，你可以只使用子梯度（我们确实有这个函数的子梯度，所以没有问题）。