假设您观察自变量的向量和因变量,可能性为。假设是独立的。此外,假设您被赋予任意的正权重,并计算加权最大似然估计(WMLE?): WMLE 的分布是什么,?
如果我可以在不将其一分为二的情况下使问题进一步复杂化,则有两种情况需要考虑:
- 完全独立于和。
- w_i以某种方式取决于因变量
假设您观察自变量的向量和因变量,可能性为。假设是独立的。此外,假设您被赋予任意的正权重,并计算加权最大似然估计(WMLE?): WMLE 的分布是什么,?
如果我可以在不将其一分为二的情况下使问题进一步复杂化,则有两种情况需要考虑:
一般来说,你的问题没有答案。有几个原因。
1) 假设所有。即使在那种情况下,MLE 估计的分布也取决于数据的分布,即取决于函数。例如,可以证明在指数分布族中,再加上一些限制,MLE 估计是渐近正态的。然而,一旦超出指数族,任何事情都可能发生。
2) 即使属于指数族,权重的存在(尤其是如果它们依赖于 x 和 Y)也很可能使渐近分布结果无效。
总的来说 Nik Tuzov 的答案是正确的,但有些细节并不完全正确。总之,WMLE 的分布是未知的。您可以写下 MLE 的实际方程(权重或无权重)并写出完整的导数以确定极值点最大值。这给了你一个计算答案——但如果没有底层分布的具体知识,你就无法执行它。
实际上,权重的存在并没有太大改变问题,因为您仍然只需要计算导数。LE 在应用科学中的典型用法正是依赖于 Y 的权重——想想以泊松分布的实验/结果计数,以及作为权重的相关不确定性。
在实际应用中,在数值上执行 LE 时,典型的近似是最大值附近的抛物线形状。您可以将其解释为“正态分布”或泰勒展开式的第一个非零元素。但除了特殊情况外,它并不准确(即使在数字上也可以更好地确定)。
所以:在基本分布的简单情况下,您可能能够得出结果分布的分析描述——序列实际收敛的地方。否则:不,所以一般来说:不。