使用适当的交叉验证策略计算的目标编码对于高基数分类特征也很有效。

在某些情况下，频率编码也很有用。

您可以使用Binary 或BaseN编码，因为它们通常与高维名义类别一起使用。因为二进制或baseN编码将类别编码为序数，然后以有效的方式分别编码为N的二进制或基数。它们在复杂性和维度方面非常有效。我建议您在此处阅读以获取更多信息。此外，您可以在此处找到不同数量的编码以及它们之间的比较

注意：BaseN 是通用编码，其他编码是 BaseN 的特例。例如，如果 N=1，这是 one-hot 编码。如果 N=2，这是二进制编码，依此类推。

编码分类变量的标准方法是一种热编码。用数字替换类别（序数编码）肯定会在模型中引入错误，因为它依赖于对分类值毫无意义的数字比较。

如果实例数量太少和/或变量具有太多稀有值，则维度数量过多可能会成为问题。风险是过度拟合：该模型将依赖偶然发生的值，因为它没有足够大的代表性样本。一般来说，解决方案是简化数据：替换稀有值（那些出现少于$n$训练集中的次数），例如具有特殊值other。请注意，您可以通过改变阈值来调整维数$n$. 很可能有很多稀有值和较少的频繁值，因此这种方法可以快速减少维数。注意阈值$n$可以通过参数调整来确定，但在这种情况下，您需要一个单独的验证集（不同于最终的测试集）。

请注意，您必须始终仅使用训练数据定义编码，然后在测试集上应用预定义的编码。如果测试集包含训练集中不存在的值，则同样应将其替换为特殊值other。

[编辑] 请注意，以上所有内容都是关于此案例的潜在问题和可能解决方案的非常通用的建议。像往常一样，这在很大程度上取决于任务和数据的细节。找到最佳方法的唯一方法是进行实验（感谢 Sammy 提醒我提及这一点）。