当您定义表格的直线时$y=mx+c$，你需要2分$(x_1,y_1)$和$(x_2,y_2)$, 求解 2 个变量$m$和$c$（您可以轻松地以图形方式对此进行可视化）。同样，形式的抛物线$y=ax^2+bx+c$将需要 3 个这样的点。

现在将其视为 ML 问题，您得到分数，您必须估计参数以使训练误差为 0（回归）。所以就像前一个案例一样，你有一堆$(x_i,y_i)$你必须拟合一条曲线，你必须选择它的自由度。这里$m,c,a,b$全部替换为更通用的$w$作为参数调用

如果你有$10$自由度和$10$您可以解决模型参数的数据点（明确的解决方案，即仅存在一个且一个唯一的解决方案）。然而，如果自由度较低，您将得到一个可能会错过一点的解决方案。例如，如果给你 3 分并要求用一条直线穿过它，你可能会也可能不会（取决于共线性）。在相反的情况下，如果您有更多的自由度，您可以获得单个参数的多个值。假设有一个额外的自由度，您可以将一个参数保持在某个固定值并解决上面提到的方程的其余部分，您可以为其余参数获得一些值。现在将相同的参数保持在不同的固定值并重复相同的过程，您会得到其他参数的一些不同值。

一般来说，这样看更容易：

如果假设你有 3 个自由度$y=w_2x_1^2+w_1x_1+w_0$和 3 个数据点$(x_1,y_1), (x_2,y_2), (x_3,y_3)$，可以得到方程组：

因此你得到一个线性方程组（注意：$x_i,y_i$这里是已知的）。这里唯一的未知数是$w_i$有多种方法可以解决。您可以将此扩展为$n$方程。