机器算法验证 - 高斯过程中的协方差 - 吾爱随笔录

我对在高斯过程中计算协方差的公式有点困惑（方差的加法总是让我感到困惑，因为它并不总是明确表示）。混淆的根源在于 Bishop 的 Pattern Recognition and Machine Learning中给出的公式与Rasmussen 的 Gaussian process for Machine Learning是不同的。

GP 的平均值由关系给出：

μ = K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} y

$\mu = K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}y$

根据 Bishop（第 308 页）的方差为：

Σ = [K (X_{*}, X_{*}) + σ^{2}] - K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} K (X, X_{*})

$\Sigma = [K(X_*, X_*)+\sigma^2] - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*)$

根据 Rasmussen（第 16 页）的方差为：

Σ = K (X_{*}, X_{*}) - K (X_{*}, X) [K (X, X) + σ^{2} I]^{- 1} K (X, X_{*})

$\Sigma = K(X_*, X_*) - K(X_*, X)[K(X,X)+\sigma^2\mathrm{I}]^{-1}K(X, X_*)$

我的疑问是在 RHS 的第一项中是否存在协方差矩阵的方差。还是我把事情搞砸了？ $\Sigma$

如果我需要提供更多信息，请告诉我。