关于最小二乘线性回归的教科书

机器算法验证 回归 多重回归 参考 最小二乘
2022-03-21 00:50:04

我看了几个关于线性回归的视频,主要来自可汗学院由于我没有统计学背景,我认为这是了解该主题的好方法。然而,我目前正在写一篇关于结构方程建模的学士论文,我想更深入地了解回归分析。

本书应大致包括以下主题:

  • 线性最小二乘回归
  • 方差,协方差

  • 回归系数

  • 决定系数

  • 残差分析(尤其是杠杆效应)

  • 多重回归

我特别喜欢 khan academy 上的视频,这些视频证明了将平方误差最小化到回归线或来自 Wikipedia 的类似插图:

或者像这样来自维基百科的插图

我不喜欢书籍只提供一个公式和一些通用规则等而没有进一步解释的情况。

Fe 残差应该是正态分布的。

但是,我对严格的数学书籍也不满意,所以我正在寻找介于两者之间的东西。加号将是 R 中的示例代码,但绝对不是必须的。

4个回答

我建议 John Fox 的“应用回归分析和广义线性模型”及其配套文本“An R Companion to Applied Regression”作为回归文本。James 和 Hastie 的文本介绍了回归以发展统计学习的想法。Faraway的文字有很多见解,但很简洁。Gelman 的书也不错,但不是我对回归介绍的建议。我建议 Fox 的文本,因为它相对清晰、介绍性但涵盖了许多深入的主题,并且有一个 R 伴侣。

Julian Faraway 的《使用 R 的实用回归和方差分析》是一本好书,并且可以免费获得。

如果你碰巧读过法语,我推荐Cornillon 和 Matzner-Løber 的Régression, Théorie et applications

我喜欢 Andrew Gelman 和 Jennifer Hill 的“使用回归和多级/分层模型的数据分析”。

Julian Faraway 的“用 R 扩展线性模型”有一个很棒的介绍性章节,介绍了一般线性模型(回归)。我从来没有使用过“使用 R 的实际回归和方差分析”,但是快速浏览一下它看起来也不错!

我有两个建议。

既然你说你没有统计学背景,我认为一个好的开始应该是:Diez、Barr 和 Çetinkaya-Rundel 的“OpenIntro Statistics”。它从基本概念开始,并介绍了回归。你可以在这里下载。Coursera 中有一个基于本书数据分析和统计推理课程。

在获得基本概念之后,我建议您阅读 James、Witten、Hastie 和 Tibshirani 的“统计学习导论”。在那里,回归得到了更深入的处理。您还可以下载 R 中的源代码以及它们使用的所有数据集。所有的材料都可以在这里下载。有一个涵盖这本书的统计学习MOOC。