什么是“特征空间”?

机器算法验证 机器学习 支持向量机 特征选择 大车 特征工程
2022-02-07 11:18:21

“特征空间”的定义是什么?

例如,在阅读有关 SVM 的内容时,我阅读了有关“映射到特征空间”的内容。在阅读有关 CART 的内容时,我阅读了有关“分区到特征空间”的内容。

我了解发生了什么,尤其是对于 CART,但我认为我错过了一些定义。

是否有“特征空间”的一般定义?

是否有一个定义可以让我更深入地了解 SVM 内核和/或 CART?

1个回答

特征空间

特征空间是指变量所在的维(不包括目标变量,如果存在)。该术语在 ML 文献中经常使用,因为 ML 中的任务是特征提取,因此我们将所有变量视为特征。例如,考虑以下数据集:n

目标

  1. Y经过一段时间测试后的汽车轮胎厚度

变量

  1. X1在测试中行驶的距离
  2. X2测试持续时间
  3. X3轮胎中化学物质C

特征空间是 mathbf{R}^3中的正象限,因为所有变量只能是正数。关于轮胎的领域知识可能表明车辆移动的速度很重要,因此我们生成另一个变量(这是特征提取部分):R3R3XX4

  • X4=X1X2测试期间车辆的速度。

这将我们的旧特征空间扩展到一个新的特征空间,即的正部分。R4

映射

此外,我们示例中的映射是一个函数,从ϕR3R4

ϕ(x1,x2,x3)=(x1,x2,x3,x1x2)