纯数学家回归分析的好书

机器算法验证 回归 多重回归 广义线性模型 参考
2022-03-30 18:43:23

我正在寻找一本关于回归的好书,主要关注数学而不是应用部分。基本上,我想要一本以纯数学方式包含与回归分析相关的所有证明和数学描述的书。
我寻找为其他相关采石场提供的建议,但我找不到任何专门以纯数学方式回归的好书,我的意思是包含不同概念之间的所有证明和数学关系。

这些是我主要感兴趣的一些主题:

  • 简单线性回归(审查估计)
  • 参数测试
  • 模型及其假设的验证(R2值、模型检验、残差分析)
  • 多元正态和相关结果
  • 多元线性回归
  • 参数估计
  • 重新审视投影
  • 参数测试
  • 模型及其假设的验证(R2, 调整-R2, 模型检验, 残差分析)
  • 变量选择(前进、后退、AIC)
  • 多重共线性(岭回归)

注意:我知道一本书可能无法详细涵盖所有主题,但我可以阅读不同主题的不同书籍。

2个回答

我会推荐Seber & Lee(我最初是从那里学习回归的)。用证明来涵盖你的大部分主题。另一种风格相同但也涵盖 glm 的替代方法是 Rao 等人的Linear Models and Generalizations : Least Squares and Alternatives 。

Michael J. Wichura的 The Coordinate-Free Approach to Linear Models是一本具有更多几何观点的短书,但它不会涵盖您的所有主题。

我认为您可能对 Stachurski (2016) A Primer in Econometric Theory感兴趣。

这本书非常注重数学。本书分为3个部分:

  1. 背景——这都是关于纯数学基础的;向量空间、线性代数和矩阵、概率基础、建模依赖、渐近等。

  2. 统计学基础——涵盖许多基本统计概念的严格数学定义、估计器的属性、置信度集等。

  3. 计量经济模型:本节详细介绍了一些计量经济模型。它的模型范围并不广泛,但对每个主题都有相当深入的了解(整章都是关于最小二乘几何的)。

我认为根据您的描述,这就是您要寻找的。它肯定涵盖了您列出的大部分主题(但并非所有我认为像 AIC 这样的信息标准(它们被提及但没有详细讨论),但您列出的所有内容都应该被涵盖)。它非常深入,专注于理论而不是实际应用。