这个问题是合法的，当我第一次学习 EM 算法时，我也有同样的困惑。

一般而言，EM 算法定义了一个迭代过程，该过程允许在模型的某些变量是（或被视为）“潜在”或未知的情况下最大化参数模型的似然函数。

理论上，出于相同目的，您可以使用最小化算法以数值方式找到所有参数的似然函数的最大值。然而在实际情况下，这种最小化将是：

1. 计算量更大
2. 不太健壮

EM 方法的一个非常常见的应用是拟合混合模型。在这种情况下，考虑将每个样本分配给其中一个组件的变量作为“潜在”变量，问题就大大简化了。

让我们看一个例子。我们有 N 个样本$s = \{s_i\}$从 2 个正态分布的混合中提取。为了找到没有 EM 的参数，我们应该最小化：

$$-\log \mathcal{L}(x,\theta) = -\log\Big[ a_1 \exp\Big( \frac{(x-\mu_1)^2}{2\sigma_1^2}\Big) + a_2 \exp\Big(\frac{(x-\mu_2)^2}{2\sigma_2^2}\Big) \Big]$$

相反，使用 EM 算法，我们首先将每个样本“分配”到一个分量（E 步），然后分别拟合（或最大化）每个分量（M 步）。在这个例子中，M-step只是一个加权平均值$\mu_k$和$\sigma_k$. 迭代这两个步骤是一种更简单、更稳健的方法来最小化$-\log \mathcal{L}(x,\theta)$.

不需要 EM 而是使用一些数值技术，因为 EM 也是一种数值方法。所以它不能替代 Newton-Raphson。EM 适用于数据矩阵中缺少值的特定情况。考虑一个样本$X = (X_{1},...,X_{n})$具有条件密度$f_{X|\Theta}(x|\theta)$. 那么这个的对数似然是

$$l(\theta;X) = log f_{X|\Theta}(X|\theta)$$ 现在假设您没有完整的数据集$X$由观察到的数据组成$Y$和缺失（或潜在）的变量$Z$, 这样$X=(Y,Z)$. 那么观测数据的对数似然是 $$l_{obs}(\theta,Y)=log \int f_{X|\Theta}(Y,z|\theta)\nu_{z}(dz)$$ 一般来说，你不能直接计算这个积分，你不会得到一个封闭形式的解决方案$l_{obs}(\theta,Y)$. 为此，您使用 EM 方法。有两个迭代的步骤$i$次。在这个$(i + 1)^{th}$步骤这些是您计算的期望步骤 $$Q(\theta|\theta^{(i)}) = E_{\theta^{(i)}}[l(\theta;X|Y]$$ 在哪里$\theta^{(i)}$是估计$\Theta$在里面$i^{th}$步。然后计算最大化的最大化步骤$Q(\theta|\theta^{(i)})$关于$\theta$并设置$\theta^{(i+1)} = max Q(\theta|\theta^{i})$. 然后，您重复这些步骤，直到该方法收敛到某个值，该值将是您的估计值。

如果您需要有关该方法、其属性、证明或应用的更多信息，请查看相应的Wiki文章。

使用EM是因为在给定模型的情况下，直接计算最大化数据集概率的模型参数通常是不可行或不可能的。