SVM vs RVM,什么时候用什么?

数据挖掘 支持向量机
2021-09-18 14:35:00

我目前正在做一个项目,我应该比较 SVM 与 RVM 的效率,似乎有很多关于 RVM 的信息需要收集,而我发现关于 RVM 的文档相当旧。这是我第一次使用这个论坛,所以我希望我的问题不是题外话,但我的问题是:

1) 哪些数据集更适合这两个模型,每个模型的优点/缺点是什么?2)如上所述,我找到的关于 SVM 的文章都比较老了,我目前对 SVM 的最新应用以及它们的实现方式和位置很好奇。

高度赞赏来源或只是标准响应。提前致谢

1个回答

RVM 与 SVM 相同,但提供了分数的概率分布。

RVM:

优点:

  1. RVM 在准确性方面优于 SVM。(取决于训练数据的大小),更多的训练数据意味着 RVM 的准确性更高。(在论文 [ 1 ]中进行了论证和实验展示)

  2. 因为它提供了分数的概率分布,而不是点估计。它提供了多种选项来从贝叶斯推理中获得点估计,例如百分位数、平均值、中位数、平均值。

缺点:

  1. 由于它使用 EM 算法进行学习,因此可能会陷入局部最小值。
  2. 学习需要大数据

支持向量机:

优点:

  1. 标准 SVM 是一个凸优化问题(硬和软),因此它们总是产生唯一的解决方案,即收敛到全局最优。

关于这一点有一篇非常好的论文。您可以在此处获取更多详细信息:

[1] (PDF)相关向量机与支持向量机在不确定性分析中的比较研究。,于 2019 年 1 月 8 日访问。