我们所知道的线性最小二乘分析的父亲(或母亲)是谁?

机器算法验证 最小二乘 线性模型 历史
2022-03-17 05:36:34

背景:
最小二乘误差拟合已经存在了一段时间。

拉普拉斯,PS“概率计算的方法分析”。通道。4 in Théorie analytique des probabilités,Livre 2,第 3 版。巴黎:库西尔,1820 年。

Gauss, CF “Theoria combinationis obsevationum erroribus minimis obnoxiae”。沃克,卷。4. 德国哥廷根:p。1, 1823 年。

维基百科为此归功于高斯和勒让德。链接

许多软件工具通过拟合质量分析执行基本的线性拟合。(JMP,R'lm',...)

2020 年到 1820 年之间有 200 年的跨度。在那里的某个地方添加了细节。

问题:
谁是我们所知道的分析的有效“父亲”(或母亲)?

必须有一个“回到过去”的人做出了大约 80%(或更多)的“第一个”,就像这种基本分析方法一样?

你能参考一下这个“第一部作品”吗?

1个回答

我强烈推荐斯蒂芬斯蒂格勒教授的统计史:1900 年之前的不确定性测量第 1 章深入讨论了您的问题。(此处提供链接。)

勒让德在 1805 年首先开发了最小二乘法并导出了正规方程,作为求解超定线性方程组的一种方法。

引用 Stigler 的话:“为了清晰的阐述,[勒让德] 的介绍是无与伦比的;它必须被视为统计史上对新统计方法最清晰、最优雅的介绍之一。”

普通最小二乘的上下文

有趣的一点是,最小二乘的发展出现正态分布的发现和使用最小二乘的现代理由之前。

最小二乘法是作为一种结合多个不完美的天文观测来恢复控制天体运动的基本参数的方法而开发的。

每个天文观测都定义了一个线性方程,并且观测多于参数,当时的天文学家面临着一个不一致的系统。该怎么办?Mayer 开发了一种方法,将观察结果分为k组,每组中的方程一起平均,然后可以求解基础系统(Stigler 1990)。勒让德建议引入一个误差项并最小化误差平方和。

参考

Stigler, Stephen,统计史:1900 年之前的不确定性测量, 1990 年。贝尔纳普出版社