后验是否必然遵循与先验相同的条件依赖结构?

机器算法验证 贝叶斯 推理
2022-03-25 09:43:11

模型中的假设之一是联合先验分布中随机变量之间的条件依赖。考虑以下模型,

p(a,b|X)p(X|a,b)p(a,b)

现在假设先验的独立性假设。p(a,b)=p(a)p(b)

这个假设是否意味着后验也具有以下条件依赖?

p(a|X)p(b|X)p(X|a,b)p(a)p(b)

2个回答

您的问题也可以表述为:“取决于。并且是独立的。这是否意味着的情况下是条件独立的?”XabababX

答案是不。我们只需要一个反例来证明事实并非如此。假设X=a+b

然后,一旦我们知道的值,是依赖的(关于一个的信息告诉我们另一个将是什么)。例如,假设然后,如果,它告诉我们同样,如果,它告诉XabX=5a=3b=2b=4a=1

不,它没有:假设,你最后一个等式的右手边是:a  b

p(x|a,b)p(a)p(b)=p(x,a,b)a,bp(a,b|x).

因此,您实际上是在询问是否:

a  bp(a|x)p(b|x)p(a,b|x).

也就是说,您要问的是的先验独立性是否意味着这些随机变量的后验独立性。一般来说,不,它没有——许多统计模型涉及数据,这些数据提供关于两个先验变量的信息,以这样一种方式,它们表现出后验的统计依赖性。abx