M-estimators 和 L-estimators 是否重叠?

机器算法验证 数理统计 最大似然 描述性统计
2022-03-30 05:04:03

在我的自学中,我阅读了关于 M-estimators 和 L-estimators 的 wikipedia 条目和一些书籍。

我知道 M 估计器之所以被称为“M”,是因为它们“最大化”似然函数和/或数据本身的函数。我也知道 L 估计器之所以被称为是因为它们使用数据顺序统计的“线性”组合。

在我看来,虽然 M 估计器和 L 估计器之间存在重叠,但这不正确吗?(例如,在我看来,平均值可以作为 M 估计量或 L 估计量导出)。

换句话说,如果我们要绘制所有 M 和 L 估计量的维恩图,如果有的话,它们会相互重叠多少?

编辑:

感谢反馈,我知道这样的维恩图可能有无限的元素。然而,我想要的是基于个人经验的非常粗略的重叠百分比,因为我知道这种经验比我的经验要好得多!我只是根据该领域的专家和从业者所看到和遇到的情况进行粗略估计。

谢谢你。

2个回答

肯定有 M-estimators 是 L-estimators。

一个例子:样本中位数既是 M 估计量又是 L 估计量。这是拉普拉斯位置参数的最大似然(双指数)。

样本中频也可以说是 M 估计器和 L 估计器。我相信这是中心的最大似然估计量(θ) 上的制服(θϕ/2,θ+ϕ/2).

在我看来,平均值可以导出为 M 估计量或 L 估计量

是的,这是另一个例子。

换句话说,如果我们要绘制所有 M 和 L 估计量的维恩图,如果有的话,它们会相互重叠多少?

我不知道这是一种特别有用的看待它的方式;我的猜测是,交叉点中的估计器数量很可能是无限的,但很可能是联合中微不足道的一小部分。但我认为实际进行这种计算会非常困难,而且我相信其中包含的大多数估算器对于任何实际应用都不会感兴趣。

可能更相关的是广泛使用的估计量的比例(在那些 M- 或 L- 中),两者都是。但这又涉及到关于定义和估计困难的个人意见问题(什么是“广泛”?我们将如何衡量这个?)

我认为可能有不少两者兼而有之,但作为所有被使用/讨论的 M 估计器的一部分,可能不是那么大的一部分。

这是一个维恩图,显示了 M 估计器和 L 估计器之间的重叠。 在此处输入图像描述