由于这些是学术研究人员，他们以尽可能最一般的方式提出了这个问题。这$C$term 可以是要建模的任何随机变量。在这种特殊情况下，$C$是单个标记（unigrams 或 bigrams）。

我发现通过包含按搭配高度排列的二元组，经常出现的 n-grams，我发现了经验上的改进。通过包含常用短语，模型可以更好地捕捉语言在特定上下文中的使用方式。寻找搭配相对简单——对所有 n-gram 的出现进行排序，然后设置一个阈值以限制为仅最流行的。

这些作者正在寻找独特的信息，这些信息对模型来说要复杂得多，而且对于模型提升来说通常不是必需的。