这是一个基本的统计模式识别问题。
我知道LDA 分类，朴素贝叶斯分类技术，它们将输出作为可能性（属于某个类的数据）。
其他基于可能性的监督分类技术是什么？
为了对给定数据进行分类，是否可以将所有监督分类技术表示为似然或似然比？
谁能指出我可以帮助我的笔记文章？
基于可能性的分类技术列表
机器算法验证
机器学习
最大似然
模式识别
无监督学习
2022-04-14 17:49:17
2个回答
它认为这有可能成为一个有趣的列表。也许我们都应该解释或参考这些方法如何使用似然法。
额外的可能性分类程序列表：
- 二项式或多项式数据的 GLM（逻辑回归、概率回归、其他链接函数）McCullagh & Nelder及其正则化扩展Hastie 等人。
- 等效的 GAMs Hastie & Tibshirani
- 某些分类和模型树也可以看作是基于可能性的模型（Su et al , Loh et al's work , Zeileis et al , Rusch & Zeileis等）
- 某些类型的 Boosting 也可以被视为基于可能性的Lebanon & Lafferty，Friedman 等人。
- 据我所知，贝叶斯方法几乎总是使用可能性作为模型的一部分，因此它们总是基于可能性的。
如果将分类问题的负（对数）似然用作最小化的损失函数以训练模型，然后从该模型进行预测，我认为遵循此的任何分类方法都算作基于似然的。
LDA 和 QDA 是基于似然的方法，分别基于两个类条件密度都是具有相同协方差矩阵的多元正态分布，并且两个类条件密度都是具有不同协方差矩阵的多元正态分布。从广义上讲，内核判别可以被认为是基于可能性的。因为如果您假设估计的密度是实际的类条件密度，则可以根据似然比考虑决策边界。如果您将先验分布放在与给定特征向量关联的类上，您可以在各自的模型假设下通过这些方法中的任何一种获得贝叶斯规则。我喜欢 Duda 和 Hart 1972 年出版的《模式分类和场景分析》一书对此进行了清晰的描述。