机器算法验证 - SVM 类权重的先验选择 - 吾爱随笔录

机器算法验证机器学习支持向量机不平衡类

2022-03-26 20:00:17

我记得在某处看到/读到，对于具有不平衡数据的多类 SVM，有一种方法可以从训练数据中确定类权重（而不是 X 验证）。有谁知道这种方法是什么或它来自什么论文？

谢谢

1个回答

对于最小化目标函数的 SVM 您可以选择与班级规模成反比的和也就是说，如果您个训练样本- 在第 2 类中，请采用和使得 =。您可能需要稍后在实验中稍微调整它们，但这是一个很好的经验法则。

\frac{1}{2} | | w | |^{2} + C_{1} \sum_{ξ_{i} : y_{i} = - 1}^{l} ξ_{i} + C_{2} \sum_{ξ_{i} : y_{i} = 1}^{l} ξ_{i}

$\frac{1}{2}||w||^2 + C_1 \sum_{\xi_i: y_i=-1}^{l}\xi_i + C_2 \sum_{\xi_i: y_i=1}^{l}\xi_i$

C_{1}

$C_1$

C_{2}

$C_2$

l_{1}

$l_1$

l_{2}

$l_2$

C_{1}

$C_1$

C_{2}

$C_2$

C_{1} / C_{2}

$C_1/C_2$

l_{2} / l_{1}

$l_2/l_1$

如果您使用的是 LIBSVM 包，您可以使用标志 ''-w-1'' 和 "-w1"和 $C_1$ $C_2$

PS我刚刚注意到您询问了多类问题。好吧，也许您仍然会发现此答案很有用。

其它你可能感兴趣的问题