非线性回归的文献综述

机器算法验证 回归 参考 非线性回归
2022-02-02 23:36:58

有谁知道关于非线性回归的统计文献的优秀评论文章?我主要对一致性结果和渐近线感兴趣。

特别感兴趣的是模型

yit=m(xit,θ)+ϵit,

对于面板数据。

不太感兴趣的是非参数方法。

也非常欢迎对期刊提出建议。

目前我正在阅读《计量经济学手册》中的 Amemiya (1983) ,但我希望能得到一些更新的东西。

Wooldridge, JM (1996) “Estimating systems of equations of equations with different instruments for different equations”在计量经济学期刊中是比上述评论晚的贡献的一个例子,因此不包括在内。

2个回答

Bates & Watts的书“非线性回归分析及其应用”(2007 年)作为一个直接的建议浮现在脑海中。它由回归算法设计大师之一 (D. Bates) 合着。请注意,这并不新鲜我链接的版本是 2007 年出版的,但大部分材料来自 1989 年的版本。话虽如此,它绝对是权威的,并且已经老化得很好。我有时将它用作参考书,它非常好。尤其是在计算方面,它是必不可少的。它与 Pinheiro & Bates 的“ S 和 S-PLUS 中的混​​合效果模型”(2000 年)很好地结合,更接近问题的面板数据范式。

次要建议:Ruppert 等人。半参数回归”(2003 年)的计算重点不如 B&W,但我认为它的范围也更广。根据我们定义非线性回归的方式,查看广义加法模型可能非常有见地,并且在某种程度上 Wood 的“广义加法模型:R 简介”(2017;第 2 版)可能是最新的参考那里,这是一个伟大的阅读。同样,如果我们更关心局部回归模型,查看 Fan & Gijbels “ Local Polynomial Modeling and Its Applications ”(1996)也绝对是经典之作。(我很欣赏这些次要建议离面板数据范式更远,但我需要它们来提出我的下一个观点。

评论:可以注意到最近出版的非参数回归书籍较少;这并不完全是巧合:机器学习发生了。撇开一流的普通书籍,例如: Hastie 等人的“统计学习要素”(2009 年)。和墨菲的“机器学习:概率视角”(2013 年),研究 Devroye 等人。A Probabilistic Theory of Pattern Recognition ”(1997)非常详细地涵盖了一致性结果、界限、错误率、收敛性等。因此,有一些关于机器学习和计量经济学交叉点的评论文章,例如:Mullainathan & Spiess 的“机器学习:一种应用计量经济学方法”(2017)或“Big Data: New Tricks for Econometrics ”(2014 年),Varian 着。他们给出了一个不错的概述,但他们没有对这个问题提供严格的数学处理,但他们应该提供一个合理的参考列表。

非线性回归是一个成熟而广泛的话题,这就是为什么我怀疑最近有很多评论论文。我能想到的唯一论文是:

Motulsky HJ,Ransnas LA:“使用非线性回归拟合数据曲线:实用和非数学评论。” The FASEB Journal, 1(5), 365-374 <- 顾名思义,非数学评论因此不是寻找关于一致性和渐近的东西的好地方。

AR Gallant:“非线性回归”美国统计学家卷。29, No. 2 (May, 1975), pp. 73-81 <- 比你在问题中提到的论文更早。

您可能会在一些统计手册中找到很好的概述。例如,在 Young 的“回归方法手册”或 Ryan 的“现代回归方法”中,您可以找到关于非线性回归的好章节。

关于一致性和渐近性,我可以推荐 Huet 等人的“非线性回归的统计工具”一书的第 2 章。

最后但并非最不重要的一点是,英语文学中的两部经典著作是上面提到的 Bates & Watts 和 Seber 和 Wild 的“非线性回归”。另一本很好的书是 Gallant 的“非线性统计模型”