谁能向我解释分类 SVM 与其他分类器区别的优缺点?
SVM的优缺点
机器算法验证
机器学习
支持向量机
2022-01-31 09:15:17
1个回答
有四个主要优点:首先它有一个正则化参数,这让用户考虑避免过度拟合。其次,它使用内核技巧,因此您可以通过设计内核来建立有关该问题的专家知识。第三,支持向量机由凸优化问题(无局部最小值)定义,对于该问题有有效的方法(例如 SMO)。最后,它是测试错误率界限的近似值,其背后有大量理论表明它应该是一个好主意。
缺点是该理论只真正涵盖了给定正则化和核参数值的参数确定以及核的选择。在某种程度上,SVM 将过拟合问题从优化参数转移到了模型选择上。遗憾的是,内核模型可能对过度拟合模型选择标准非常敏感,请参阅
GC Cawley 和 NLC Talbot,模型选择中的过度拟合和性能评估中的后续选择偏差,机器学习研究杂志,2010 年。研究,第一卷。11,第 2079-2107 页,2010 年 7 月。( pdf )
但是请注意,这个问题并不是内核方法所独有的,大多数机器学习方法都有类似的问题。SVM 中使用的铰链损失导致稀疏性。但是,内核和正则化参数的最佳选择通常意味着您最终将所有数据都作为支持向量。如果您真的想要一个稀疏内核机器,请使用从一开始就设计为稀疏的东西(而不是有用的副产品),例如信息向量机。用于支持向量回归的损失函数没有明显的统计解释,通常可以将问题的专家知识编码在损失函数中,例如泊松或贝塔或高斯。同样,在许多分类问题中,您实际上需要类成员的概率,
这就是我能想到的所有东西。
其它你可能感兴趣的问题