高斯混合模型:最大似然估计还是期望最大化?

机器算法验证 最大似然 高斯混合分布
2022-04-07 01:27:49

据我所知,在 GMM 中估计参数的常用方法是 EM。然而,也可以使用最大似然。这两种方法有什么区别?为什么一个人会更喜欢他们中的任何一个?

2个回答

梅林,你有制造错误二分法的危险。EM 是一种优化技术,可用于查找最大似然估计,因此选择不是“一个或另一个”。

在混合模型中,EM 通常用于查找 MLE 或 MAP,因为它产生透明的算法。

您可以直接使用 ML,但由于不同高斯的先验(通常称为潜在变量)是未知的,您可能会发现您的优化目标非常困难。EM 迭代法解决了这种棘手的问题。

建议阅读: https ://see.stanford.edu/materials/aimlcs229/cs229-notes8.pdf