这可能是一个奇怪的问题,但作为该主题的新手,我想知道如果回归的假设之一是数据应该 iid 而应用回归的数据是非独立同居?
为什么用回归去趋势时间序列是有效的?
您敏锐地感觉到普通最小二乘线性回归的经典假设与时间序列设置中常见的序列依赖性之间可能存在冲突。
考虑 Fumio Hayashi 的Econometrics的假设 1.2(严格外生性) 。
这反过来意味着,任何残差都与任何回归量正交。正如 Hayashi 所指出的,这个假设在最简单的自回归模型中被违反了。[1] 考虑 AR(1) 过程:
我们可以看到将是的回归量,但不正交(即)。
由于违反了严格的外生性假设,因此任何依赖于该假设的论点都不能应用于这个简单的 AR(1) 模型!
所以我们有一个棘手的问题?
不,我们没有!用普通最小二乘法估计 AR(1) 模型是完全有效的标准行为。为什么还能正常?
大样本,渐近论证不需要严格的外生性。一个充分的假设(可以用来代替严格的外生性)是回归量是预先确定的,回归量与同期误差项正交。有关完整的论点,请参阅 Hayashi 第 2 章。
参考
[1] Fumio Hayashi,计量经济学(2000 年),p。35
[2] 同上,p. 134
基本最小二乘类型回归方法不假设 y 值是 iid 他们假设残差(即 y 值减去真实趋势)是 iid
存在其他回归方法,它们做出不同的假设,但这可能会使这个答案过于复杂。
这是个好问题!我的时间序列书籍甚至没有提到这个问题(我可能需要更好的书籍:) 首先,请注意,如果序列具有随机趋势(单位根),您不会被迫使用线性回归来去除时间序列的趋势)- 你可以简单地采取第一个区别。但是,如果序列具有确定性趋势,则必须使用线性回归。在这种情况下,如您所说,残差确实不是 iid 。想想一个具有线性趋势、季节性成分、周期性成分等的系列——在线性回归之后,残差几乎是独立的。关键是您没有使用线性回归进行预测或形成预测区间。这只是推理过程的一部分:您仍然需要应用其他方法来得出不相关的残差。所以,虽然线性回归本身对于大多数时间序列来说,它不是一个有效的推理过程(它不是正确的统计模型),一个包含线性回归作为其步骤之一的过程可能是一个有效的模型,如果它假设的模型对应于数据生成过程时间序列。