如果我们像在 SVM 中一样将条件(用于执行更新)更改为(但没有添加正则化以最大化边距),与基本感知器(具有上述条件的感知器)有什么区别?
感知器版本
数据挖掘
机器学习
支持向量机
正则化
感知器
2022-03-13 22:53:20
1个回答
老问题,但如果有人仍然对答案感兴趣......
在感知器算法中,点的标签等于 1 或 -1。一个点的预测标签是。目标是分离具有与 w 正交的超平面的点,使得标签为 1 的点位于一侧,标签为 -1 的点位于另一侧。在数学上,超平面的“边”分别由方程和表征。(是超平面本身的方程)。
因此正交的超平面的右侧)如果
- 和,或
- 和
在这两种情况下,正确标记的点对应于,而错误标记的点对应于。
整个算法及其收敛性的证明都是基于这个简单的观察。
如果我们将更新条件更改为,算法将无法找到分离的超平面。例如,考虑简单的数据集 ,。
- 开始:。
- 第 1 步:因此
- 第 2 步:,不要更新。
- 第 3 步:,不要更新。我们在没有更新的情况下遍历了所有点,因此退出循环。
- 结果:与正交的超平面是 y 轴,它显然没有将与分开。
TLDR;不同于的更新条件不为找到分离超平面提供任何保证。
其它你可能感兴趣的问题