高斯过程中的协方差矩阵可以是非对称的吗?

机器算法验证 协方差 协方差矩阵 高斯过程
2022-03-23 14:21:59

我在看高斯过程的讲座,在介绍协方差矩阵时,导师解释说矩阵是(n×n)因为每个点都被覆盖了两次——我们包括了关于协方差的信息(x1,x2)以及关于协方差(x2,x1). 然后她说:那是因为你的协方差可以在不同的方向上变化

协方差怎么可能在 GP 协方差矩阵内沿不同方向变化?你能给我一个例子,说明什么时候会出现这种情况吗?

更新:

仔细想了想,发现不是cov(x1,x2)或者cov(x2,x1)(根据协方差的定义计算)进入 GP 协方差矩阵,但是(如讲座中所示),协方差矩阵由协方差核填充k(x,y)行为/被解释为协方差,但它是之间距离的某种函数xy.

因此,我可以想象,我们可能有一个协方差核,它是(xy)p在哪里p是一种奇怪的力量。在这种情况下,它确实会使k(x1,x2)k(x2,x1). 但这会是一个有效的内核吗?

您能否澄清我对协方差内核的思考是否合理?你能解释一下高斯过程中的协方差矩阵是否可以是非对称的吗?如果是的话,你能举一个数据集的例子,在不同的方向使协方差不同是有意义的,即我们想要的地方k(x1,x2)不同于k(x2,x1)?

2个回答

高斯过程中的协方差矩阵可以是非对称的吗?

每个有效的协方差矩阵都是实对称非负定矩阵。无论基础分布如何,这都成立。所以不,它不能是非对称的。如果讲师正在争论以某种方式“作为/被解释为协方差”的方式使用某些非对称矩阵(例如,使用非对称核),那么他们有责任解释这在多大程度上类比成立,假设矩阵不是有效的协方差矩阵。

在下面回答以便能够发布屏幕截图以回应评论,这不是问题的答案。

凯文墨菲