最大似然估计的几何解释

机器算法验证 数理统计 最大似然 几何学
2022-03-06 04:36:46

我正在阅读 Franklin M. Fisher 的《计量经济学中的识别问题》一书,并且对他通过可视化似然函数来演示识别的部分感到困惑。

问题可以简化为:

对于回归,其中是参数。假设的系数等于 1。的空间中的似然函数将沿着对应于真实参数向量及其标量倍数的射线 有一个脊当仅考虑给出的位置时,似然函数将在射线与该平面相交的点处具有唯一的最大值。Y=a+Xb+uui.i.d.N(0,σ2I)abYcc,a,bc=1

我的问题是:

  1. 应该如何理解和推理演示中提到的脊和射线。
  2. 的真实值为1 ,为什么光线不在给定的平面上。c=1c
1个回答

断章取义,这段话有点含糊,但我是这样解释的。

假设我想对执行线性回归。我会写 where如果是真正的参数,那么显然的真正参数cYcY=a+Xb+uuN(0,c2σ2)Y=a0+Xb0cY=ca0+Xcb0cY

对于固定,此回归 cY 的似然函数处具有唯一的最大值。因此,对于一般,真实参数的标量乘法线形成似然函数的脊,作为三个变量的函数。现在取平面相交。ccYa=ca0b=cb0cc=1c=1