机器算法验证 - 最大似然估计量的不变性？ - 吾爱随笔录

机器算法验证最大似然

2022-03-21 06:22:23

以下是我一直在阅读的一本统计书籍的摘录：

在此处输入图像描述

但作为一个反例，假设我们有五个可能的值 $\theta$ 和 $\theta_5$ 是 ML 估计，似然为 0.4，我们有一个函数 $f(\theta)$ 像这样：

在此处输入图像描述

清楚地 $\hat{f(\theta)} = 1 \ne 0 = f(\hat{\theta})$ .

1个回答

您似乎对发生参数转换的含义感到困惑。一般来说，似然函数的值不会改变。为了说明，让 $L(\theta; x)$ 是似然函数，让 $\lambda = g(\theta)$ 在哪里 $g$ 是一对一的。然后将似然函数参数化为 $\lambda$ 是

L^{*} (λ; x) = L (g^{- 1} (λ); x) = L (θ; x)

$L^*(\lambda; x) = L(g^{-1}(\lambda) ;x) = L(\theta;x)$

当我们想要使用不是一对一的函数时会出现一些问题 $g$ . 在这种情况下，我们定义了参数化的似然函数 $\lambda$ 通过使用轮廓似然性：

L^{*} (λ; x) = sup_{θ : g (θ) = λ} L (θ; x)

$L^*(\lambda; x) = \sup_{\theta: g(\theta) = \lambda} L(\theta; x)$

在您的示例中使用这些定义，如果则以及实际的似然值不会改变。我们还看到所以似乎没有任何矛盾。我将把 MLE 对任何参数转换都不变的一般证明留给感兴趣的读者。 $L(\theta_5;x) = 0.4$ $L^*(0;x) = 0.4$ $g(\theta_5) = 0$

其它你可能感兴趣的问题