我发现对于一个简单的线性回归模型,OLS 和最大似然法(假设正态分布)都给出相同的输出(参数值)。由此,我们是否可以说 OLS 也对正态分布做出隐含假设,反之亦然?我对为什么两者都产生相同的值不感兴趣,但哪一个对数据的假设不那么严格?
线性回归中正态分布下的OLS与最大似然
机器算法验证
回归
正态分布
最大似然
最小二乘
2022-03-16 18:23:40
1个回答
OLS 不对模型误差进行正态假设。OLS 可以在不同的分布假设下使用,并且估计量作为最小方差线性无偏估计量仍然有意义。
最大似然 (ML) 也可以适应不同的分布,但必须提前选择分布。如果实际分布似乎与假设分布不同,则 ML 估计器作为最大化数据联合概率密度的估计器将不再有意义。
因此,我们可以说,在特定的应用程序中,ML 对模型错误做出了比 OLS 更严格的假设。
其它你可能感兴趣的问题