不平衡数据集的问题是使用先验概率来计算预测标签的生成分类器的问题。由于标签的先验较低，因此它们的概率较低。

有几种方法可以处理不平衡的数据集：

1. 对少数类进行过采样，随机添加少数类的观察值，因此每个类的先验概率是相同的。
2. 欠采样 - 如果您有一个包含大量观测值的数据集，但多数类比少数类大几倍，请随机选择整个数据集的一个子集，其中每个标签包含相同数量的观测值。
3. 使用数据增强生成合成数据，尝试模拟标签中特征的相同分布。
4. 加权分类器 - 有分类器支持标签的权重。
5. 如果你使用神经网络模型，你可以做迁移学习。从具有平衡数据的模型中复制模型的权重（您告诉过您有具有相似特征向量的模型），复制网络（带有权重）并将最后一层替换为随机初始化（最好使用 Xavier 初始化器）。然后冻结除最后一个之外的所有层权重并对其进行训练。使用 (1) 或 (2) 的类之间的比例最好保持相同，也建议与 (3) 结合使用。

根据定义，平衡的数据集在所有类中将具有相同数量的数据点。所有其他数据集都被认为是不平衡的。

只要预测准确，您就可以很好地使用不平衡的数据集来训练您的 ML 模型。如果不是，则根据用例进行欠采样或过采样。这个博客涵盖了它。