模型变量选择中的 A​​IC 与似然比检验

机器算法验证 特征选择 模型选择 aic 似然比
2022-03-14 23:38:31

我目前用于构建模型的软件将“当前运行”模型与“参考模型”进行比较,并报告(如果适用)基于似然比检验的卡方 p 值和每个模型的 AIC 值。我知道 AIC 优于似然比检验的一个优势是 AIC 可以在非嵌套模型上进行比较。但是,我不知道 AIC 不能或不应该在嵌套模型上进行比较的任何原因。在我的模型中,当比较变量选择的嵌套模型时,我发现了几种情况,其中似然比检验和 AIC 比较得出了相反的结论。

由于两者都是基于可能性计算,我正在努力解释这些结果。但是我的软件文档说(没有解释),

“如果两个模型是嵌套的(即一个是另一个的子集),那么更常用的卡方检验是最适合使用的。如果模型没有嵌套,则可以使用 AIC...”

谁能详细说明和/或解释为什么 AIC 不如嵌套模型的似然比测试有用?

1个回答

AIC 和似然比检验 (LRT) 有不同的用途。

  • 当您的目标是根据 Kullback-Leibler 距离尽可能地近似底层数据生成过程时,AIC 会告诉您拥有更丰富的模型是否值得。
  • LRT 告诉您在选定的置信水平上您是否可以拒绝对更丰富模型的某些限制成立的假设(例如,更丰富模型中的某些元素是多余的)。

如果您的目标是选择模型进行预测,您将使用 AIC。您将使用似然比检验进行显着性检验。不同的目标需要不同的工具。