我听说人们将逻辑回归描述为线性回归,除非它用于分类。但我听说过关于 LDA(线性判别分析)的完全相同的评论。在逻辑回归和 LDA 之外,哪个更接近线性回归中发生的情况?
使用线性回归进行分类是否称为逻辑回归或线性判别分析?
机器算法验证
回归
物流
分类
多重回归
判别分析
2022-04-19 00:03:56
1个回答
他们都很接近,但方式不同
- 如果您使用二元类变量作为结果(标签)变量运行普通最小二乘回归,您将得到线性判别分析的 2 类情况。因此,LDA(在 2 类情况下)是针对分类问题运行的线性回归。它在概念上与线性回归不同,因为 LDA 的原始推导使用了关于预测变量(特征)变量分布的假设,而回归没有。
- 逻辑回归是线性回归对二元数据的自然推广,其中您使用预测变量的线性组合对结果变量的平均值(即它为 1 对 0 的概率)进行建模,但使用“链接”函数之间,以便概率保持在 0 和 1 之间。与线性回归一样,它是广义线性模型的一个特例,不是基于对预测变量分布的假设得出的。
因此,LDA 在计算上只是应用于分类问题的线性回归,但作为模型却完全不同;逻辑回归作为模型更接近,但在计算上不太相似。
其它你可能感兴趣的问题