SVR 参数范围的可能范围是多少?

数据挖掘 Python 回归 支持向量机 超参数
2022-03-03 11:15:14

我正在研究回归问题。在调整 SVR 的参数时,我得到以下值 c=100、gamma= 10 和 epsilon =100。我得到了 95% 的 r 平方。我的问题是这些参数值的理论范围是多少?

1个回答

我支持向量回归逆正则化参数C可以从区间中选择[0,). 其中C=0意味着我们正在大力规范化和C没有正则化。

参数ε也是从区间[0,). 其中ε=0强制回归惩罚不完全在回归线上的每个点。然而ε>0允许围绕回归的无差异边际,其中偏差不会被视为错误。

此外,还有松弛变量ξ0ξ^0. 如果一个点在无差异边际内,则它们为零。如果一个数据点位于无差异边际之上和之外,我们将有ξ>0如果一个数据点位于无差异边际之下和之外,我们将有ξ^<0.

我认为您在谈论时是指径向基函数的形式参数γ. 如果我们有

φ(xi,xj|γ)=exp[γ||xixj||2]

然后前面的减号)。对于,我们使内核更平坦为如果我们将得到一个非常峰值的内核。时为 1,其他地方几乎为零。γ(0,)γγ0φ1γxixi

您还应该查看实现这些参数的文档。可能会发生这些参数没有像您想象的那样实现(请参阅有关的注释)。γ