贝叶斯推理作为信念模型的形式证明

机器算法验证 贝叶斯 决策理论
2022-04-06 12:28:14

我记得贝叶斯概率论是表示信念的唯一有效方法的证明,它类似于

  1. 我们通过某些结果域上的某些非负函数来表示信念
  2. 信念是次加性的
  3. ...

因此,贝叶斯概率论是表示信念的唯一有效方法。

这个想法是,在构成“信念函数”的非常基本和一般的假设下,您最终会用贝叶斯概率对“信念”进行建模。

我忘了我在哪里看到的。

有人知道这个证明吗?还是参考原文?

编辑 到目前为止,我发现的最好的线索是它出现在:

萨维奇,LJ (1954)。统计基础,第 2 版,多佛,纽约。

(我没有副本)

1个回答

到目前为止,我已经看到了两个线程:

较早的尝试之一是 Cox 定理(Cox, RT (1946)。“概率、频率和合理期望”。美国物理学杂志 14:1-10),它基本上假设贝叶斯定理,然后推导出结果的特征信念函数,并发现它们是概率定律。后来,这种方法在 ET Jaynes Probability Theory: The Logic of Science前几章在线)中得到了更充分的阐述,并在 Wikipedia 上进行了总结

另一个线索来自 Savage 对决策理论的阐述(Savage, LJ (1954). The Foundation of Statistics, 2nd edn, Dover, New York.)。这里的关键假设是人们可以对不同结果/决策的线性组合进行排序。这允许人们在效用函数上施加一个加法结构,然后在概念上将其分解为“价值”和“信念”部分;信念部分按照概率表现。一个问题是分解不是唯一的,然而,为了构建一个信念模型,效用函数本质上只是一个 0-1 损失函数。因此,它从表示中消失了,而你留下了作为信念表示的概率。(我的讨论基于Edi Karni _Savages 的主观预期实用模型,JHU 技术报告(?),2005