这是毕晓普书中的错字/错误吗

机器算法验证 机器学习 期望最大化
2022-04-10 03:06:57

我目前正在阅读 Bishop 的书 - Pattern Recognition and Machine Learning (2006)中的第 9 章 - Mixture Models and EM 。

在此处输入图像描述

我无法理解关于平均参数的最大化步骤。我特别指的是方程(9.16)。

0=1nγ(znk)Σk(xnμk)

那不应该是,而不是 吗?Σk1Σk

此外,还有一个相同思路的后续问题。

当我们区分关于的可能性时,他如何处理多元正态分布中存在的(其中是维数)?看起来,从 eq(9.19) 来看,他只是忽略了行列式项。Σ|Σ|p/2p

在此处输入图像描述

1个回答

确实,(9.16) 中有一个错字,应该是 幸运的是,这不会影响下一个方程(9.17)。

0=n=1Nγ(znk)Σk1(xnμk)

至于推导协方差矩阵的条件 MLE ,结果和方法都是正确的。中求导时考虑了行列式(如果它被忽略,则 (9.19) 的 lhs 将为零。)除了权重之外,步骤与 Normal case 中的步骤相同ΣkΣkγ(znk)