我想应用加权最小二乘法来识别动态过程的参数。该过程由以下形式的二阶微分方程描述：

$$\ddot{y}+a_1\dot{y}+a_2y=b_0u$$

在哪里$\ y,u$分别是过程的输出和输入，也被测量。未知参数$\ a_1,a_2,b_0$是必须通过处理系统的输入输出数据来识别的那些。该过程也可以写成以下形式：

$$y = [a_1 \ a_2 \ b_0]Ψ \rightarrow y=\theta^{*T}Ψ$$

其中是通过系统的输入输出数据计算的。$\ Ψ$

我已经实现了公式给出的普通最小二乘 (OLS) 方法：

$$\hat{\theta}= (Ψ^ΤΨ)^{-1}Ψ^Τy$$

所以矩阵被计算并且是参数的估计。为了实现加权方法，我需要应用公式：$\ Ψ$$\ \hat{\theta}=[\hat{a_1} \ \hat{a_2} \ \hat{b_0}]$

$$\hat{\theta}= (Ψ^ΤWΨ)^{-1}Ψ^ΤWy$$

其中是对角矩阵。我搜索了一些文献，发现 \W 的“最佳”选择\其中 (是过程的估计输出）。然而，误差方程的协方差矩阵是未知的，无法获得和使用为了正确计算权重矩阵，我还没有找到任何好的指导（或算法指导）。是否有一种算法方法通过使用向量和矩阵来正确计算并应用 WLS 方法？$\ W$$\ W$$\ W = (E[ee^T])^{-1}$$\ e = y - \hat{y}$$\ \hat{y}$$\ W$$\ y,u$$\ Ψ$$\ W$