具有多项式核的 SVM 的 VC 维数R2R2

机器算法验证 自习 分类 支持向量机 内核技巧 vc-维度
2022-03-25 07:08:35

具有多项式内核SVM的VC 维数是多少k(x,x)=(1+<x,x>R2)2对于二进制分类R2?

如果存在一组 v 点,则它将等于或大于 v,使得给定点的任何标记(-1 或 +1)都存在正确的分隔边界。

对于所有的 v 点集,它将严格小于 v iff,存在点的标签,使得没有正确的分隔边界。

在这种情况下,分隔边界是圆锥截面或直线,因此欢迎任何基于这些曲线而不是 SVM 的想法。

例如,让x=(x1,x2)R2. 它映射到R6使用某种ϕ而这个新空间中的超平面是原空间中的圆锥截面。所以我的猜测是线性分类器的 VC 维度R6,即 7。


实际上,答案是 6:超平面方程Rd

<w,x>Rd+b=0
在哪里wRdbR. 在这里,我们有b=1wR5, 不是R6.

3个回答

如果我没错的话:

[1+x,y]2=[1,2y1,y12,2y2,y22,2y1y2],[1,2x1,x12,2x2,x22,2x1x2]T

所以分离规则是线性的R6. 因此,VC-dim 为 7。

答案是 6。有关详细信息,请参阅上面的编辑。

VC 维数等于次数多项式的单项式数量的枚举组合kn变量,因此(n+kk). 在这里我们有k=2n=2因此 VC 维度是(42)=6.