偏差与欠拟合相同,方差与过拟合相同吗?

机器算法验证 方差 偏见 过拟合 模型评估
2022-03-25 07:16:45

这可能是一个基本问题:偏差和欠拟合有什么区别?而且,类似地,方差和过拟合之间有什么区别?每对的术语是否意味着相同的事情?如果不是,有什么区别?

1个回答

它们的含义并不完全相同,但它们以下列方式相关:

  • 当模型捕获数据中的噪声和异常值以及基础模式时,就会发生过度拟合。这些模型通常具有高方差和低偏差。这些模型通常很复杂,例如容易过度拟合的决策树、SVM 或神经网络。

  • 当模型无法捕获数据的基本模式时,就会出现欠拟合。这些模型通常具有低方差和高偏差。这些模型通常很简单,无法捕捉线性和逻辑回归等数据中的复杂模式。