为什么我们在进行 MLE 时将对数似然乘以 -2?

机器算法验证 估计 最大似然 优化
1个回答

为什么我们在进行 MLE 时将对数似然乘以 -2?我们真的没有。-2 与参数估计无关;为此,我们只使用(负对数)似然。这是关于假设检验。


你对否定的直觉是正确的。传统上,在优化文献中,我们最小化函数。通过否定目标很容易将最大化问题转换为最小化问题。最大化对数似然的参数是最小化负对数似然的参数。


您已经展示了一些在线性回归的特定情况下使用数量 -2LL 的链接这有一个计算原因和一个统计原因。

  • 计算原因(较弱;更多的是“没关系”)。目标乘以标量常数将具有相同的最优值。在高斯对数似然中,每一项都是分母为 2 的分数那么为什么要分道扬镳呢?通过包含 -2,您不必将每个术语除以 2。(并不是说计算机在除以 2 的幂时遇到很多麻烦......)

  • 统计原因(证明 -2 的有意义的好处)。正如您所注意到的,这个量称为偏差-2 因子对于统计假设检验很有用。似然比检验中,这可以帮助您计算值。引用关于似然比检验的维基百科文章:p

    乘以 -2 在数学上确保(根据Wilks 定理如果零假设恰好为真,则渐近收敛为 χ² 分布。λLR

    为了添加上下文,我还将引用您链接的两篇文章:首先

    LR chi2(3)– 这是似然比 (LR) 卡方检验。似然卡方检验统计量...这是开始和结束对数似然之间差异的负两倍(即-2)倍。

    第二_

    将它乘以 -2 是将对数似然转换为卡方分布所必需的技术步骤,这很有用,因为它可以用来确定统计显着性。如果您不完全了解其中的技术细节,请不要担心。

    他们都给出了与维基百科文章相同的信息。