拟合 MA(q) 和 ARIMA(q) 模型

机器算法验证 时间序列 估计 最大似然 有马 移动平均线
2022-04-10 22:59:38

我知道,OLS 可以很容易地拟合 AR(q) 模型。

现在我想知道,如何为 MA(q) 和 ARIMA(p,q) 做这件事,但找不到有用的东西,除了那个使用最大似然法并且需要多次迭代。但是具体是怎么做的呢?

我的猜测是(对于 MA(q)),初始化随机白噪声的时间序列(误差),然后执行第一次拟合,获得第一个模型,然后计算与实际数据相比的误差,并且而不是用新获得的误差再次拟合,将其与实际数据进行比较以获得新的误差等等。与 ARIMA 模型类似。这是正确的,还是完全错误的?最大的可能性来自哪里,因为拟合也可以用 OLS 完成?

1个回答

当你写

[...] 初始化随机白噪声的时间序列(误差),然后执行第一次拟合,以获得第一个模型,然后计算与实际数据相比的误差,然后再次使用新的获得的错误,将其与实际数据进行比较以获得新的错误等。

您实际上概述了对同时处理残差向量和参数向量估计的估计方法的需求。


说有,

yt=xtβ+εt

其中可能包含您想要的任何内容,为什么不 for暂且不讨论与相关的条件。xtytii=1,...,pp

MA(q)的情况下,假设εt=rt+i=1qλirti

这导致

yt=xtβ+rt+i=1qλirti

或使用backshift-operator以矩阵形式重新表述,

y=Xβ+(I+i=1qλiBi)r

鉴于使用MLE实际上意味着使用分布条件错误,您必须将上述最后一个等式重新排列为

(I+i=1qλiBi)1(yXβ)=r

在实践中,这意味着使用分布条件残差

(I+i=1qλ^iBi)1(yXβ^)=r^

如此安排,一个人可以最大化(知识驱动的)可能性,即我们的残差假设与我们的参数估计相结合:即同时。因此经常使用 MLE。


但是,像您描述的那样的迭代方法也在实践中使用,例如GMM在处理内生性时,在满足收敛标准时停止。