机器算法验证 - 非嵌套模型的广义对数似然比检验 - 吾爱随笔录

机器算法验证最大似然模型选择似然比

2022-03-08 22:04:28

我知道如果我有两个模型 A 和 B 并且 A 嵌套在 B 中，那么给定一些数据，我可以使用 MLE 拟合 A 和 B 的参数并应用广义对数似然比检验。特别是，测试的分布应该是 $\chi^2$ 和 $n$ 自由度 $n$ 是参数数量的差异 $A$ 和 $B$ 有。

但是，如果 $A$ 和 $B$ 具有相同数量的参数但模型没有嵌套？也就是说，它们只是不同的模型。有什么方法可以应用似然比测试，或者可以做其他事情吗？

2个回答

论文Vuong, QH (1989)。模型选择和非嵌套假设的似然比检验。计量经济学，307-333。拥有完整的理论处理和测试程序。它区分了三种情况，“严格非嵌套模型”、“重叠模型”、“嵌套模型”，并检查了错误指定的情况。因此，它发现对于某些情况，检验统计量分布为卡方的线性组合，这并非偶然。

这篇论文并不轻松，也没有提出“现成的”测试程序。但是，这一次，它（接近）3,000 次引用说明了它的优点，它是经典测试框架和信息论方法的灵感组合。

广义似然比检验不像你说的那样工作。例如，参见以下讲义：

GLRT 是为以下类型的假设定义的：

H_{0} : θ \in Θ_{0} v s . H_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

在哪里 $\Theta_0\cap\Theta_1=\emptyset$ 和 $\Theta_0\cup\Theta_1=\Theta$ .

对于您描述的框架，您可以使用 AIC 和 BIC 等其他工具来比较模型。还有贝叶斯因素，如果你愿意去完全贝叶斯。

其它你可能感兴趣的问题