这是一个试探性的一般答案。

统计（和机器学习）中的偏差是估计值和真实值之间的差异。IE$\text{bias} = \hat{y}_{\text{estimated}} - y_{\text{true}}$.

偏差的另一个（密切相关的）概念，特别是在数学中是任何主要的常数项，它被添加到某物（因此在两个值之间产生差异并因此引入偏差）。神经网络中的偏差是指这种数学意义上的，而不是统计意义上的。

除了上述之外，偏见作为一个术语已被引入其他领域，例如心理学（例如认知偏见）。归纳偏差一词来自机器学习。

这种偏见感是指某些实体或算法认为理所当然并试图基于它们学习的初始假设。因此，所做的归纳受到这些初始假设的影响，如果这些假设被证明是错误的，那么通常的统计或数学意义上就会存在偏差，即估计会与真实值不同。

在机器学习和统计中，存在所谓的偏差-方差权衡，这意味着总均方误差 (MSE) 可以分解为偏差（在统计意义上）、方差和不可约误差。这与泛化有何关系？很好地概括很好的方差应该最小化（在大多数情况下），所以由于不可约误差是失控的，如果要保持 MSE 相同，一种方法是在统计意义上（一种或另一种）增加偏差。