对于不平衡的数据集，我们通常会更改每个类别的错误分类惩罚。这称为类加权 SVM，它可以最小化以下内容：

$$\begin{align} \min_{\mathbf{w},b,\xi} &\quad \sum_{i=1}^N\sum_{j=1}^N \alpha_i \alpha_j y_i y_j \kappa(\mathbf{x}_i,\mathbf{x}_j) + C_{pos}\sum_{i\in \mathcal{P}} \xi_i + C_{neg}\sum_{i\in \mathcal{N}}\xi_i, \\ s.t. &\quad y_i\big(\sum_{j=1}^N \alpha_j y_j \kappa(\mathbf{x}_i, \mathbf{x}_j) + b\big) \geq 1-\xi_i,& i=1\ldots N \\ &\quad \xi_i \geq 0, & i=1\ldots N \end{align}$$

其中和表示正/负训练实例。在标准 SVM 中，我们只有一个值，而现在我们有 2 个。少数类的错误分类惩罚被选择为大于多数类的错误分类惩罚。$\mathcal{P}$$\mathcal{N}$$C$

这种方法很早就引入了，例如在 1997 年的一篇论文中提到：

埃德加·奥苏纳、罗伯特·弗洛因德和费德里科·吉罗西。支持向量机：训练和应用。技术报告 AIM-1602, 1997. ( pdf )

从本质上讲，这相当于对少数类进行过采样：例如，如果，这完全等同于在训练集中包含每个正数两次后$C_{pos} = 2 C_{neg}$$C=C_{neg}$

SVM 能够处理类频率不平衡的数据集。许多实现允许您对正类和负类的松弛惩罚 (C) 具有不同的值（这渐近等效于更改类频率）。我建议设置这些参数的值，以便在类频率是您期望在操作使用中看到的测试集上最大化泛化性能。

我是为此写论文的许多人之一，这是我的，我会看看我是否能找到更新/更好的东西。试试Veropoulos、Campbell 和 Cristianini (1999)。