机器算法验证 - 对高斯过程预期改进的直观理解 - 吾爱随笔录

机器算法验证机器学习期望值高斯过程贝叶斯优化

2022-03-15 07:47:25

所以我正在学习贝叶斯优化并遇到了预期的改进。

我的问题是我们是否在高斯过程模型中寻找其期望值（由均值和置信度确定）如果在该点采样时将减少最多的点？那么起始标准是在 GP 中取最低点，然后从那里确定下一个预期值低于 GP 中任何其他点的点是什么？

我们如何直观地量化所附图表中的 $\phi$

2个回答

我的问题是我们是否在高斯过程模型中寻找其期望值（由均值和置信度确定）如果在该点采样时将减少最多的点？

不。在任何迭代中，您都观察到了一些输入，其中一个输入 ( ) 是当前最优值，函数值为。 $x^*$ $f(x^*)$

在预期改进中，我们想要做的是计算，对于每个可能的输入，它的函数值可以预期比我们当前的最优值提高多少。这在您的帖子中由以下等式表示：

I (x) = m a x (f^{*} - Y, 0)

$I(x) = max(f^* - Y, 0)$

我认为把它写成这样更清楚：

I (x) = m a x (f (x^{*}) - f (x), 0)

$I(x) = max(f(x^*) - f(x), 0)$

换句话说，这意味着任何输入的改进是其函数值 f(x) 比当前找到的最低函数值低多少。如果大于，则没有改善，所以。 $x$ $f(x^*)$ $f(x)$ $f(x^*)$ $I(x) = 0$

在 GP 后验下，是一个随机变量，也就是说的期望值。我们对每一个可能的执行此操作，并选择能够提供最大预期改进的那个。在观察到这一点之后，我们将其函数值添加到我们的 GP 后验并重复。 $f(x)$ $I(x)$ $I(x)$ $x$

据我所知，在实践中，贝叶斯优化的第一次观察在高斯过程接管之前是随机的。在初始观察之后，可以计算数据点 x 的预期改进。通过这样做，我们希望选择 x 的值，该值有望最大程度地改善我们的目标函数的结果。

其它你可能感兴趣的问题