高斯过程与神经网络

机器算法验证 神经网络 非参数 高斯过程
2022-03-05 01:12:13

高斯过程 (GP) 和神经网络 (NN) 都是回归技术,它们不假设响应的基本函数形式。

如何比较这两种方法?

高斯过程具有哪些神经网络没有的独特特征,反之亦然?

同样在多元回归的应用中,GP和NN都可以处理多个输出吗?但是在什么情况下应该使用 GP 与 NN ?

1个回答

高斯过程适用于对存在一些生成过程的先验知识的小型数据集进行建模。GP 确实需要对潜在响应的功能形式进行假设。GP 在维度方面不能很好地扩展。它们可以提供经过良好校准的不确定性输出。

另一方面,神经网络更适合大型和非常大的数据集,其中对底层过程或合适的特征知之甚少。NN 可以很好地扩展。正在开展工作以使神经网络能够输出校准的不确定性估计。