贝叶斯更新规则有替代方案吗?

机器算法验证 贝叶斯 贝叶斯
2022-03-25 07:15:51

除了贝叶斯更新规则之外,还有其他方法可以更新我对假设的信念吗?

3个回答

事实上,有一些替代方案,但它们依赖于使用非概率方法。(贝叶斯定律的唯一性隐含在单个概率测度的唯一性和联合概率的定义中——详见其他答案

Dempster Shafer 理论是另一种选择,DSMT 等更复杂的形式主义也是如此。同样,不精确的概率也可以做类似的事情——但它们仍然使用贝叶斯定律。模糊逻辑和其他形式也可能很有趣。

我将添加另一个观点。ET Jaynes令人难以置信的著作Probability Theory: The Logic Of Science中,他对亚里士多德逻辑到信念程度的扩展进行了严格的处理(Jaynes 是核心的贝西斯派)。也就是说,他探索了一种概率论,使得P=1P=0对应于经典一阶逻辑中的真假。

他概述了此类扩展必须具有的一些理想属性:

I. 合理程度用实数表示。

二、与常识的定性对应。

三一。如果一个结论可以用不止一种方式推理出来,那么每一种可能的方式都必须导致相同的结果。

三乙。始终考虑与问题相关的所有证据。不要随意忽略某些信息,仅根据剩余信息得出结论。换句话说,该理论完全是非意识形态的。

IIIc。始终通过等效的合理性分配来表示等效的知识状态。也就是说,如果在两个问题中的知识状态是相同的(可能除了命题的标签),那么它必须在两个问题中分配相同的合理性。

所有这些陈述都在书中给出了严格的解释。

然后杰恩斯给出了一个非常引人入胜且严谨的数学证明,贝叶斯推理是逻辑对满足这些要求的信念程度的独特扩展。所以在杰恩斯的意义上,答案实际上是否定的,如果你想让你的理论与亚里士多德兼容,贝叶斯是唯一的方法。

据我所知,如果您为您的信念分配一个概率,贝叶斯更新规则是按照概率以一致的方式对新数据采取行动的唯一方法。

您可能有两个理由离开贝叶斯框架:

  • 您不想将概率分配给信念。
  • 你没有(或不想指定)另一种信念。

贝叶斯推理的一个(除其他外)替代方案是N ull Hypothesis S statistical Testing ( NHST ) 框架,以最终拒绝您的假设。有人可能会争辩说,拒绝一种信念是一种很难更新的形式。你没有在你的问题中提到替代假设。

如果你的信念有一定程度的自由,这是一个特例。由于不同的标准并存,如何判断哪种模型最好并没有直接的答案。有一种贝叶斯行为方式(贝叶斯信息准则),但也有其他方式(该领域称为模型选择)。我不知道在这种情况下是否以及如何更新信念。