在机器学习中，术语偏差可以指至少 2 个相关概念

1. 模型的（可学习）参数，例如线性回归模型，它允许您学习移位函数。例如，在线性回归模型的情况下$y = f(x) = mx + b$, 偏差$b$允许您将直线上下移动：没有​​偏差，您将只能控制斜率$m$的直线。类似地，在神经网络中，您可以有一个执行输入的线性组合的神经元，然后它使用偏置项来移动直线，您也可以在应用激活函数后使用偏置，但这会有不同的效果。

2. 任何将学习算法（例如带有反向传播的梯度下降）引导到一组特定解决方案的东西。例如，如果您使用正则化，您就会使学习算法偏向于选择更平滑或更简单的函数。线性回归模型中的偏置项也是学习算法的一种偏置方式：你假设直线函数不一定经过零，而这个假设会影响你可以学习的函数类型（这就是为什么这两个偏见的概念是相关的！）。因此，有很多方法可以使学习算法产生偏差。

偏差并不总能引导您找到最佳解决方案，实际上可能会导致错误的解决方案，但它通常在很多方面很有用，例如，它可以加快学习速度，因为您限制了可以学习的函数数量和搜索。偏差（如第 2 点所述）通常在偏差-方差权衡的背景下讨论，偏差和方差都与泛化、欠拟合和过拟合的概念有关。链接的Wikipedia 文章很好地解释了这些概念，并提供了如何分解偏差和方差的示例，因此您可能应该阅读该文章以了解更多详细信息。