协方差 * 函数 * 的特征值与协方差 * 矩阵 * 的特征值之间的精确关系是什么?

机器算法验证 主成分分析 协方差 协方差矩阵 高斯过程 特征值
2022-04-15 15:14:47

假设我们有一个时间高斯过程GP(t; m,k)(GP)平均m和协方差函数(又名内核)k在某个紧凑的时间间隔内[0,T]. 然后,特征值λ和特征函数ϕk 是,对于预定义的度量μ,定义为 Fredholm 积分方程的解,写成

k(t,t)ϕ(t) dμ(t)=λϕ(t).

见等式。(4.36)在 [1] 中了解更多详细信息。

我对特征值如何感兴趣λi,iN,与相应协方差矩阵的特征值有关KRN×N一些固定时间0t1tNT, 有条目

Kij=k(ti,tj)

来自对同一个 cov 函数的评估k.

我怀疑 cov 函数的特征值之间存在很强的联系k和 cov 矩阵K原因如下:关于 Karhunen-Loeve 定理的维基百科文章,它利用了 cov 函数的特征值k[2],在某种程度上与 PCA [3] 中的特征值有关,即与 cov 矩阵的特征值有关K. 不幸的是,我不明白 [3] 中的解释。因此,我在这里问这些函数和矩阵特征问题之间的关系是什么问题。

作为指针,一位同事告诉我看一下等效内核([1] 中的第 7.1 节),它显然描述了 GP 回归在连续数据 [4] 的限制下的行为,即如果N. 我可以直观地看到这可能如何将上述函数 eigenproblem 与矩阵 eigenproblem 联系起来,但我找不到任何关于这种关系的明确陈述。

谢谢 :)

[1] http://www.gaussianprocess.org/gpml/chapters/RW.pdf [2] https://en.wikipedia.org/wiki/Karhunen–Loève_theorem#Formulation [3] https://en.wikipedia .org/wiki/Karhunen–Loève_theorem#Covariance_matrix [4] https://papers.nips.cc/paper/2004/file/d89a66c7c80a29b1bdbab0f2a1a94af8-Paper.pdf

0个回答
没有发现任何回复~