您缺少一件事，即我们不需要知道特征空间$\phi(\mathbf{x}_i)$中数据实例的图像这一事实。对于某些核函数，特征空间非常复杂/未知（例如某些图核）或无限维（例如 RBF 核）。

内核方法只需要能够计算特征空间中两个图像之间的内积，例如。我们不必知道特征空间就能计算其中的内积。这称为内核技巧。$\kappa(\mathbf{x}_i,\mathbf{x}_j)=\langle\phi(\mathbf{x}_i),\phi(\mathbf{x}_j)\rangle$

---

对于 SVM，具体来说，是特征空间中的分离超平面。您不能总是在输入空间中写下来。同样，对于 RBF 内核，驻留在无限维特征空间中。我们需要做的就是计算和测试实例在特征空间 ) 中的内积，即：$\mathbf{w}$$\mathbf{w}$$\mathbf{w}$$\mathbf{z}$$\phi(\mathbf{z}$

$$\langle\mathbf{w},\phi(\mathbf{z})\rangle = \sum_{i\in SV}\alpha_i y_i \kappa(\mathbf{x}_i,\mathbf{z}).$$

支持向量机利用了所谓的表示器定理，它指出生成的模型总是可以表示为一些训练实例（支持向量）和测试实例之间的内核评估的加权和。这实际上被所有内核方法所利用。

---

RBF 内核映射到无限维特征空间。有关这方面的文章，您可以查阅Chih-Jen Lin 的这些幻灯片，特别是幻灯片 10 和 11。对于一维：$x$

$$\phi_{RBF}(x) = e^{-\gamma x^2}\big[1,\sqrt{\frac{2\gamma}{1!}}x, \sqrt{\frac{(2\gamma)^2}{2!}}x^2, \sqrt{\frac{(2\gamma)^3}{3!}}x^3,\ldots\big]^T,$$

这是从指数函数的泰勒展开式得出的。