如果我们将绝对差异视为一个规范，那就是：

$loss(w) = |m_x(w) - t|$

然后$\nabla loss(w)$远非简单地等同于$\nabla m_x(w)$.

通过定义绝对值的导数（并使用链式法则），我们实际上得到：

$\nabla loss(w) = \frac{m_x(w) - t}{|m_x(w) - t|}. m_x'(w)$

这与 Aksakal 的回答相似，但我想确切说明我们得到的原因$\pm m_x'(w)$

不，一个适当的规范不会允许它存在。

即使是最简单的绝对值函数作为损失也将取决于$t$：$|m(w)-t|’=\pm m’(w)$，这里的符号取决于$t$.

TL;博士; 通常，您的损失函数将是$L(w|t,X)$, 所以一阶导数是$\partial L(w|t,X)/\partial w$，并且没有理由$t$从表达式中消失，除非你构造$L$仅用于此目的，例如您使$L$严格线性$w$. 然而，$L$不能只是您暗示的问题中的任何功能，即您有目标要命中的地方。

显然，损失不能是负数，因为在这类问题中你能做的最好的事情就是击中一个目标，那么就没有损失，即$L(w^*)=0$. 这意味着无论您选择什么损失函数，它都必须在最优值附近是非线性的$w^*$. 上面的绝对值范数的例子表明，即使是完全线性的损失函数$w$无处不在，但在某一点上仍将取决于$t$.