一些建议

1. 删除数据中出现频率太低的项目。这将使维度减少几个数量级。如果一个特征出现的次数少于 10 次，很可能它没有增加任何预测值，并且可能由于频率低而导致过拟合
2. 请尝试使用线性 SVM。就不过度拟合而言，它们可以很好地处理大维数据。他们通常还可以选择将相对权重分配给不同的类别，这可能有助于解决上述不平衡问题。sklearn svm（它只是简单地包装了一些其他的包，比如 libsvm）有这个选项。
3. 不要使用 ID 列。为每个用户生成一个模型很可能会导致过度拟合。取而代之的是，输入描述用户的属性，使模型能够概括相似的用户。您可以尝试为每个用户拟合一个单独的模型，但您需要为每个用户提供大量数据才能做到这一点。
4. 听起来你真的需要在这里尝试一些特征选择，以减少问题的维度。但是首先尝试 1 和 2，因为它们可能会更快地为您提供良好的结果（尽管最终解决方案可能仍然可以通过一些好的特征选择更好地工作）。Sklearn 再次有许多特征选择选项。