我很想知道是否可以在一组数据点上使用成本函数来找到任何给定数据集的“最优最小值”解决方案。

我知道对于按照直线回归线对称聚集的一组常规数据很容易找到合适的成本函数

例子：

但是如果数据形成一个时髦的形状，比如 x^2 或 3*x^3 等等……

如您所见，第二张图比第一张图嘈杂得多。

那你怎么办？它是相同的过程还是不同？你能找到任何一组数据点的最佳最小值吗？

我知道成本函数正在使用残差来形成最佳拟合，但我只是好奇它是否可以处理任何数据集。