数据挖掘 - 关于求解支持向量机拉格朗日的一道数学题 - 吾爱随笔录

L (w, b, ξ, α, r) = \frac{1}{2} w^{T} w + C \sum_{i = 1}^{m} ξ_{i} - \sum_{i = 1}^{m} α_{i} [y^{(i)} (x^{T} w + b) - 1 + ξ_{i}] - \sum_{i = 1}^{m} r_{i} ξ_{i}

$\mathcal{L}(w,b,\xi,\alpha,r) = \frac12w^Tw+C\sum_{i=1}^m \xi_i-\sum_{i=1}^m \alpha_i[y^{(i)}(x^Tw+b)-1+\xi_i]-\sum_{i=1}^mr_i\xi_i$

这里，和是我们的拉格朗日乘数（约束为） $\alpha_i$ $r_i$ $\ge 0$

为了最大化 soft margin SVM 的拉格朗日（见上面的公式），我们将、和的导数分别设置为。 $w$ $\xi$ $b$ $0$

但是，如果我们先将 wrt的导数设置为零呢？这不会导致全部吗？这意味着只有当所有松弛项都为时才能达到最优解？但这似乎不对，不是吗？ $r$ $\xi$ $0$ $\xi$ $0$