支持向量回归的优化问题是（参见http://alex.smola.org/papers/2003/SmoSch03b.pdf）：

最小化：

$$\begin{align*} C\sum_{i=0}^{l}(\xi_{i} +\xi^{*}_{i})+ \frac{1}{2}\lVert w \rVert^{2} \end{align*}$$

受限于：

$$\begin{align*} & y_{i} - <w,x_{i}> - b \leq \epsilon + \xi_{i} \\ & <w,x_{i}> + b - y_{i} \leq \epsilon + \xi^{*}_{i} \\ & \xi_{i}, \xi^{*}_{i} \geq 0 \end{align*}$$

我不明白在哪里$\lVert w \rVert^{2}$来自。我明白如何$\lVert w \rVert^{2}$ 是在支持向量分类的情况下推导出来的（通过最大化边距），但不是在回归的情况下推导出来的。

论文说“目标是找到一个函数 $f(x)$ 最多有 $\epsilon$ 与实际获得的目标的偏差 $y_{i}$对于所有的训练数据，同时尽可能平坦。换句话说，我们不关心错误，只要它们小于$\epsilon$, 但不会接受任何大于此的偏差。”

但我不确定“平坦”是什么意思。

有人知道吗？