正方形中二分法的最大数量是多少?

人工智能 机器学习 计算学习理论 vc-维度
2021-11-05 22:26:22

我是机器学习的新手。我正在阅读这篇关于 VC 维度的博文。

H由二维的所有假设组成h:R2{1,+1},在一些方框内为正,在其他地方为负。

一个例子。

在此处输入图像描述

我的问题:

  1. 4 个数据点的最大二分法数是多少?即计算mH(4)

  2. 看起来方块可以碎3点,但不能碎4点。VC一个正方形的VC维数是3。这背后的证明是什么?

1个回答
  • 4 个数据点的二分法数量显然是24=16. 根据这些幻灯片,统计学习中二分法的定义是:

对有限集合的不同“假设”N输入点。

这基本上意味着在输入点上具有独特行为的假设。两个或多个不同的假设可以在数据点上具有相同的行为(考虑一个正方形覆盖4数据点,更大的正方形也将覆盖4数据点。因此,它们是不同的假设,但具有相同的行为),因此强调了unique一词。

  • 轴对齐正方形的证明VC方面3可以在这里找到。这很简单,所以我不想在这里解释。