机器算法验证 - 高斯过程先验 - 吾爱随笔录

高斯过程先验

机器算法验证事先的高斯过程

2022-04-01 19:23:45

我有一个任务，我对高斯过程中的先验术语有点困惑。

让 $f$ 成为感兴趣的函数。矩阵 $\textbf{X}$ 也是一组 $N$ $M$ 维输入向量。

根据我提供的描述，我们可以通过以下方式使用高斯过程制定函数 f 输出的先验：

$p(f|\textbf{X}, \textbf{θ}) = Ν(\textbf{0}, k(\textbf{X}, \textbf{X}))$

其中 $θ$ 是内核 $k$ 的超参数。

令我困扰的是，这被称为先验，但它取决于数据 $\textbf{X}$ 。

先验不应该独立于数据，通过内核表达我们对函数某些属性的信念吗？

是符号/术语使用错误还是符号中有我不理解的东西？

1个回答

高斯过程被认为是某个未知函数上的先验分布（在回归的上下文中）。这是因为您在不确切了解的真实性的情况下先验地分配 GP 。学习 GP 以及超参数取决于 ,中的 \mathbf{X} 。 $\mu(x)$ $\mu(x)$ $\mathbf\theta$ $\mathbf{X}$ $k(\mathbf{x},\mathbf{x'})$

值得注意的是，先验知识可能会推动核函数的选择，甚至工程化到手头的特定模型。 $k(\mathbf{x},\mathbf{x'})$

如果使用完全贝叶斯公式（例如使用 MCMC 而非最大似然进行拟合），则可以结合关于超参数的额外先验知识（如果此类知识可用）。 $\mathbf\theta$

其它你可能感兴趣的问题

上一篇预测总和下一篇我可以将一组 z 分数的平均值视为 z 分数吗？