贝叶斯层次模型的使用

机器算法验证 贝叶斯 分层贝叶斯
2022-04-01 05:15:25

贝叶斯层次模型的目的是什么?我什么时候应该使用这些模型?

我在这里找到了很多问题和网络上的参考资料,但它们都太技术性了。我怀疑这些模型的应用,以及它们作为非信息性先验的替代品的用途。

从我教授的笔记中,

分层模型调解两个需求:需要在分析中纳入关于模型系数的“先验”意见,以及使用非信息性先验,如果不进行共轭,则涉及很大的计算问题。

2个回答

在我看来,您的问题有两个不同的方面:

  • 我什么时候应该使用分层模型?
  • 我应该什么时候进行贝叶斯分析?

什么时候应该使用分层模型?

使用分层模型的一个优点是它们可以灵活地对来自所有组的连续体进行建模,这些组具有相同的参数,而所有组都具有完全不同的参数。例如,正常的层次模型(为简单起见,已知方差为 1)是

yijindN(θj,1),θjindN(μ,σ2)
团体用j=1,,J和个人i=1,,nj在每一组。如果每组的平均值实际上相似(或相同),那么σ2将被估计为很小,因此对个人的推论θj几乎就像你刚刚假设一个共同的平均值一样θ对于所有组。相反,如果各组有非常不同的手段,那么σ2会很大,因此对个人的推论θj将几乎与您根本没有分层模型一样。因此,您不必选择是使用对所有组具有共同均值的模型还是对所有组使用完全独立均值的模型,分层模型允许数据告诉您您在该连续统一体中所处的位置。

当组的观察数量变化很大时,层次模型的另一个优势就会出现。在这些情况下,观察数量较少的组将通过通过关于组特定参数的层次模型借用信息来改进对其组参数的推断。

我应该什么时候进行贝叶斯分析?

一旦您决定对数据使用分层模型,仍然存在如何估计参数并解释其不确定性的问题。虽然还有其他选择,但由于计算工具(例如马尔可夫链蒙特卡罗)和不确定性的传播(例如不确定性),许多人会选择贝叶斯分析。μσ2被传播到关于θj组的意思。为了执行贝叶斯分析,您需要未建模参数的先验,例如μσ2在示例中,如果有足够多的组和足够的观察值,您通常可能无法提供有关这些参数的信息。

据我所知,贝叶斯模型 (BM) 和分层贝叶斯模型 (HBM) 之间没有对立(参见例如贝叶斯分析和贝叶斯分层分析之间的关系?),事实上,从分析上讲,HBM 就是 BM。分层模型仅允许您设计一个卷积的先验结构,该结构更可能代表模型变量之间的相互作用,从而提供更合适的推理。

然后,您应该在超参数自然出现在问题建模中的瞬间使用分层模型。一个简单的示例是当您需要考虑个人级别和组级别的变化时,例如:

yijN(μj,σj2), (individual level variation)
μjGamma(kμ,θμ), (group level variation)
kθ(和σj2如果未知)分配给精心挑选的先验。