线性回归中是否有正式的非线性测试?

机器算法验证 回归 诊断
2022-03-22 05:48:59

在逻辑回归中有 Box-Tidwell,但我对线性回归一无所知。我使用部分残差图来寻找这个图形特征,但很想找到一个正式的测试(老实说,我怀疑你可以对此进行正式测试,但我可能是错的)。

3个回答

Box-Tidwell 是为普通最小二乘回归模型开发的。

因此,如果您倾向于为此使用 Box-Tidwell,这实际上就是它的设计目的。

这不是唯一可能的方法,但听起来像是您已经熟悉的方法。

但是,我不相信(大多数时候使用它)正式测试是合适的 - 我相信它通常会回答错误的问题,而您一直在查看的诊断图更接近于回答有用的问题。[我对回归假设的许多其他测试有类似的看法]

最好的正式测试来自放宽线性假设,然后查看消除非线性是否会损害 Y 的解释变化。例如,您可以使用回归样条扩展 X 并测试非线性分量。我的RMS 课程笔记详细介绍。

但是一旦你考虑了非线性的可能性,你就会通过删除非线性项来扭曲统计推断。回归的真实分子自由度是给出模型的机会数,它必须考虑非线性项。因此,总体而言,最好的建议是让未知的线性效应变为非线性并用它来完成。这将保留置信区间覆盖等。

拟合非线性回归(例如样条模型,如 GAM),然后使用 AIC 或似然比检验将其与线性模型进行比较。这是一种简单直观的非线性测试方法。如果测试拒绝,或者如果 AIC 更喜欢 GAM,则得出结论存在非线性。