多项逻辑回归和 N 1 与所有二元之间的差异

数据挖掘 逻辑回归 多类分类
2021-09-15 20:47:30

与训练单个多项式逻辑回归相比,以 1 和所有方式在 N 个逻辑回归上构建集合之间是否存在根本区别?换句话说,是否有任何优化技术以与 N 个独立回归明显不同的方式处理 1 到 N 类逻辑回归问题?

直觉上似乎答案应该是肯定的,因为如果两个类相似,则各种问题之间应该有很多信息共享。但是由于我并不完全熟悉 1 到 N 求解器的实际工作原理,因此我无法判断我是否正确,或者这些问题的处理方式基本相同。

我认为我们可以看到两种模型之间可能存在差异,但我并不完全确定。谷歌搜索这件事发现了一些关于这个主题的神秘讨论,但我无法找到关于这件事的权威讨论。

1个回答

引用Alan, Agresti 的话。“分类数据分析。” A John Wiley and Sons, Inc. Publication,美国新泽西州霍博肯 (2002),第 273 页:

单独拟合估计不同于同时拟合 J-1 logits 的 ML 估计。它们的效率较低,往往具有较大的标准误差。然而,Begg 和 Gray 1984 表明,当具有最高流行率的响应类别是基线时,效率损失很小。