变分贝叶斯与期望传播

机器算法验证 贝叶斯 近似
2022-03-26 03:34:31

只是想知道使用一个比另一个有什么优势。我只是在这里寻找一些一般性的答案。

对于初学者:

  • VB 给出了可能性的保证下限。
  • EP更快?VB 在收敛之前有相当多的迭代,除非有人想出了更快的方法。
  • 使用 EP,您必须指定近似后验的族
  • 2个回答

    这在很大程度上取决于正在解决的问题的细节。您可以在此处找到它们之间的表格比较,其中链接到更多信息。您对 VB 通常需要更多迭代是正确的,但是有时每次迭代都比 EP 迭代便宜得多。您的第三个项目符号的措辞类似于 EP 的一个缺点,但它更像是一个优点——如果您愿意,您可以使用与 VB 相同的近似族,但您不必这样做。

    有很多细节可以做出一致的决定。在许多情况下,假设您心中有一个结果,实现这两者并随后比较哪个结果最接近您想要的结果可能会有所帮助。如前所述,VB 通常需要更多的迭代,但它通常比其他替代方案便宜。希望这可以帮助。最后,我建议您尝试两者,看看哪个有效。发布您遇到的任何问题,我希望对您有用。