我会说 HBM 肯定比 EB 更“贝叶斯”，因为边缘化是一种比优化更贝叶斯的方法。本质上，在我看来，EB 忽略了超参数中的不确定性，而 HBM 试图将其包含在分析中。我怀疑 HMB 是一个好主意，因为数据很少，因此超参数存在很大的不确定性，必须考虑到这一点。另一方面，对于大型数据集，EB 变得更具吸引力，因为它通常计算成本较低，而且数据量通常意味着结果对超参数设置的敏感性要低得多。

我曾研究过高斯过程分类器，并且经常优化超参数以最大化边际似然性，这会导致过度拟合 ML，从而显着降低泛化性能。我怀疑在这些情况下，完整的 HBM 治疗会更可靠，但也更昂贵。