除了明显的分类器特征，如
在新数据集上首先尝试的前 5 个（或 10、20 个？）分类器是什么？通常我会尝试朴素贝叶斯、最近邻、决策树和支持向量机——尽管我没有充分的理由选择这种方法，除了我了解它们并且大多了解它们是如何工作的。
我想应该选择涵盖最重要的一般分类方法的分类器。根据该标准或任何其他原因，您会推荐哪种选择？
更新：这个问题的另一种表述可能是：“存在哪些一般的分类方法，哪些具体方法涵盖最重要/流行/有希望的方法？”
随机森林
快速、稳健、准确度高，在大多数情况下无需调整，不需要归一化，不受共线性影响，生成非常好的误差近似和有用的重要性排序，作为训练的副作用，微不足道的并行，眨眼间就能预测。
缺点：比 kNN 或 NB 等普通方法慢，在同等类别下效果最好，在迫切需要内核技巧的问题上比 SVM 更差准确度，是一个硬黑盒，不会煮咖啡。
高斯过程分类器（不使用拉普拉斯近似），最好使用边缘化而不是优化超参数。为什么？
缺点
首选虽然是正则化逻辑回归或岭回归[没有特征选择] - 对于大多数问题，非常简单的算法工作得很好并且更难出错（实际上算法之间的性能差异小于性能差异在驾驶它们的操作员之间）。
当你接近一个新的数据集时，我自己应该开始关注整个问题。首先获得分类特征的分布以及每个连续特征的均值和标准差。然后：
然后我通常将分类技术分为两组：白盒技术和黑盒技术。如果您需要知道“分类器是如何工作的”，您应该在第一组中选择，例如决策树或基于规则的分类器。
如果您需要在不建立模型的情况下对新记录进行分类，则应该考虑使用 Eager learner，例如 KNN。
在那之后，我认为最好在准确性和速度之间设置一个阈值：神经网络比 SVM 慢一点。
这是我的前五种分类技术：