平均函数如何用于高斯过程?

机器算法验证 机器学习 可能性 数理统计 高斯过程
2022-04-08 10:18:32

我正在阅读Choung B. Do(斯坦福课程 CS229)关于高斯过程的笔记,但不确定平均函数如何工作以及高斯过程中的随机变量是什么

所以首先它提醒我们什么是随机过程:

在此处输入图像描述

我认为这对我来说很有意义。是一个索引集,我们正在索引随机变量。因此,例如,如果,则将是在时间步 0取一些随机值(可能是将是时间步长 2.3 的随机变量(具有分布)。我认为这是有道理的。xXX=Rf(0)f(0)=f=6f(2.3)

然后它继续更仔细地定义一个高斯过程:

在此处输入图像描述

我认为这也是有道理的,因为这只是说每个随机变量如何相互依赖只是时间步长的平均值。m(x1)x1

然后它使我感到困惑的话:

在此处输入图像描述

这正是让我感到困惑的地方,因为它表示平均值在我看来,只是索引集中的一个元素,因此它不是随机的(直观地说,如果我们从随机过程中抽取样本,我们会在我们决定的有限时间间隔内获取样本,x 通常不是被认为是随机的)。它是一个常数。随机的是所以对我来说有意义的是:m(x)=E[x]xf(x)

m(xi)=E[f(xi)]

这对我来说似乎是正确的说法。我错了还是因为这个讨论应该很基本,所以我误解了一些重要的东西?

1个回答

你的理解是正确的。注释中显然有错误,方程式应该是

m(x)=E[f(x)],k(x,x)=E[(f(x)m(x))(f(x)m(x))].

有关参考,请参阅 CE Rasmussen 和 CKI Williams,机器学习的高斯过程,麻省理工学院出版社,2006 年, 在线提供的第 13 页中的公式 (2.13) 。