(1)数据质量。提高准确性的唯一最佳方法。垃圾进垃圾出。你已经说过你的数据是可疑的。一些数据被错误分类；当可能有多个标签时，数据只有一个标签。这是最重要的——这将比任何其他技术更能提高你的准确性：提高你的训练数据的质量。解决这个问题的一种方法。招聘专家贴标员（这些可以是您自己公司中执行此任务的工人，或者他们可以是外部人员，例如，经过培训可以执行此贴标任务的mturkers）。一般来说，贴标机越多越好。至少我会有 3 个贴标机，标记所有n您的训练/测试集中的电子邮件，使用多数标签获胜，或者根据您的信心需求需要所有三个共识。您需要使用Cohen 的 kappa或类似方法测量您的评估者间可靠性，以确保数据的完整性。重要的是，这些数据将成为您的黄金标准数据。也就是说，您的原始贴标机提供的标签的平均一致性是您的算法试图接近的基本事实。

显然，这种数据质量方法在资源方面的成本很高（标记所有电子邮件的时间；雇用 mturker 的成本等）。但是根据您的具体需求，它不一定是......基本上它取决于完成任务所需的“专业知识”水平。有时，将您（研究人员/开发人员）视为“专家”是安全的（例如，您自己说某些电子邮件被错误分类......您怎么知道？您必须具备某种专业知识。 ）。但是，由于个体处理差异会在数据中引入偏差，因此对任务使用单个标记器会降低数据的可靠性。

(2)包括停用词。是的，你读对了，包括停用词。语法功能词（例如，the、and、of 等）通常可以高度指示特定的文本类型或体裁。在没有首先确保它们是无信息特征的情况下消除停用词还为时过早。同样，尝试包括 punctuation，尝试包括大写特征。我一次又一次地看到人们盲目地对文本进行预处理，而没有根据经验确定这些特征是否是类的重要预测因子。

(3)捕捉拼写变化。正如 OP 所说，原文有很多“拼写错误”。您可以通过减少这种差异来提高准确性 - 基本上在提取单词特征之前将变体映射到它们的规范形式（例如，“颜色”->“颜色”）。我经常依靠外部语料库来快速创建这些拼写图。

(4)平衡你的训练数据——OP 提到他的课程严重不平衡。尝试过采样和/或欠采样以平衡您的课程。

(5)描述你的问题。了解分类器的基本目的也很重要。如果您的分类器打算在历史数据上运行，也许是为了标记错误的人工分类电子邮件，那么您可能希望保留自动回复和通信线程信息。另一方面，例如，如果目标是对新客户电子邮件进行分类以便正确路由，那么您可能希望从训练和测试数据中删除这些通信特征。

首先，我认为你的文本分类准确率已经很高了。不过，我想为其他功能和方法提供一些想法。

主题模型

在研究文本语料库时，经常使用诸如潜在狄利克雷分配 (LDA) 等主题模型。您已经写过您使用 LDA 来得出余弦相似度。不过，您还可以将潜在主题用作单个文档的附加功能，并将概率分配用作值。

情绪分析

当您处理贷款和伤害时，在分类中使用情绪特征也可能很有用。例如，您可以使用基于效价、唤醒和优势的字典方法，并将这些特征包含在您的分类中；您可以在相关论文中找到信息。另一种方法是使用SentiStrength。

Word2Vec

最近的文本分析方法主要集中在神经网络方法上，例如查找词嵌入的Word2Vec 。然后，一种简单的方法是对文档中所有单词的向量进行平均，并将它们用作特征。还有一些方法使用向量作为卷积神经网络中的特征。

电子邮件功能

您是否考虑过使用更多的电子邮件功能，例如域，或者只是文本长度。可能值得一试。此外，电子邮件垃圾邮件分类的领域可能会给您一些进一步的见解。

特征/分类器调整

词袋/tfidf 特征生成有时非常敏感。您可能想尝试通过以某种形式的网格搜索优化更改参数来调整它；例如，有时将最小数量的文档阈值用于特征或亚线性缩放之类的东西很有用。此外，您可以尝试将分类器组合成一种集成方法，这可能会导致更高的准确性。

根据您的描述，您的问题设置可能是多标签设置。例如：客户的电子邮件可能是关于两个方面的询问。说一个关于退货政策和价格的问题。如果确实如此，您应该尝试训练多个二元分类器，例如“关于价格的电子邮件”和“与价格无关的电子邮件”，而不是明确地相互权衡类别。如果你有$k$ 你最终会得到不同的类别 $k$分类器。然后在对测试数据进行预测时，您可以将标签输出的并集$k$ 分类器作为预测标签。

更多详细信息请参见多标签分类中的“PT4”。