为什么预过滤测量数据会影响最小二乘估计?

信息处理 估计 过滤 最小二乘 估计者
2022-02-07 06:04:40

在估计离散时间模型中的参数时,我经常看到将过滤器应用于输入数据,然后再将其应用于最小二乘处理。有人告诉我,如果希望消除不属于模型一部分的偏差或高频噪声,滤波器很有用。

但我目前正在处理一个问题,我使用 Moore Penrose 伪逆来计算最小二乘。我正在使用低通滤波器对输入数据进行滤波,以消除远远超出模型动态的高频噪声,但滤波器极点的选择似乎对估计结果有重大影响。并且在任何情况下,残差都接近于零(根据极点选择,它们似乎没有好坏之分)。

应该如何选择过滤输入数据,它是否会影响估计?

1个回答

我不确定你的型号是什么。

假设它是这样的:

y=Hx+n

现在,使用最小二乘模型是最优的(在 MSE 意义上),当n是 AWGN(如果噪声是白色的,它是线性最优估计量)。

因此,除非您的模型中的噪声是彩色的,否则在应用最小二乘法之前过滤数据不会获得任何收益。

现在,如果噪声不是 IID 白噪声怎么办?

  1. 如果它只是具有不同统计数据的白色,则使用加权最小二乘法。
  2. 如果它是彩色的,您应该对数据应用美白过滤器。

因此,如果白化过滤器由下式给出W那么你有:

z=Wy=WHx+Wn=Ax+v

现在你有经典的 LS 模型,你的模型矩阵在哪里A=WH你的白噪音是v=Wn.
现在您可以应用常规的最小二乘。