感知器版本

数据挖掘 机器学习 支持向量机 正则化 感知器
2022-03-13 22:53:20

如果我们像在 SVM 中一样将条件(用于执行更新)更改为(但没有添加正则化以最大化边距),与基本感知器(具有上述条件的感知器)有什么区别?ywx<0ywx<1ywx<0

1个回答

老问题,但如果有人仍然对答案感兴趣......

在感知器算法中,点的标签等于 1 或 -1。一个点的预测标签是目标是分离具有与 w 正交的超平面的点,使得标签为 1 的点位于一侧,标签为 -1 的点位于另一侧。在数学上,超平面的“边”分别由方程表征。是超平面本身的方程)。 因此正交的超平面的右侧)如果xywxwx>0wx<0wx=0
xw

  • y=1,或wx>0
  • y=1wx<0

在这两种情况下,正确标记的点对应于,而错误标记的点对应于 整个算法及其收敛性的证明都是基于这个简单的观察。ywx>0ywx0

如果我们将更新条件更改为,算法将无法找到分离的超平面。例如,考虑简单的数据集 ,ywx<1x1=(2,0),y1=1x2=(2,1),y2=1

  • 开始:w=(0,0)
  • 第 1 步:因此y1wx1=0<1ww+y1x1=(2,0)
  • 第 2 步:,不要更新y2wx2=4>1w
  • 第 3 步:,不要更新我们在没有更新的情况下遍历了所有点,因此退出循环。y1wx1=4>1ww
  • 结果:与正交的超平面是 y 轴,它显然没有将分开。w=(2,0)x1x2

TLDR;不同于的更新条件不为找到分离超平面提供任何保证。ywx0