当我进行功能交叉时,究竟会发生什么?

机器算法验证 机器学习 数据转换 线性代数 非线性
2022-03-24 19:06:52

我正在学习机器学习课程,他们谈到了结合各种特征来创建合成特征来处理非线性数据。例如,在下图中,我没有进行任何特征交叉,并且模型不适合:没有特征交叉

但是如果我做一些特征交叉并创建/激活特征我得到这个:x12x22x1x2适合特征交叉

该模型现在适合。但为什么?特征交叉究竟做了什么使模型能够拟合非线性数据?

有人可以帮我理解吗?

1个回答

您的数据在原始空间中不是线性可分的。

但似乎它实际上可以与一个圆/椭圆分开(假设它在一个圆内以简化问题):假设对于某些如果那么一个点似乎是合理的是蓝色的。cx2+y2<c

这意味着如果您使用作为特征,您可以将线性分类器拟合到这些数据点并实际线性地分离类。x2,y2