概率的贝叶斯解释足以满足实际目的。但是，即使给出概率的贝叶斯解释，统计也不仅仅是概率，因为统计的基础是决策理论，而决策理论不仅需要一类概率模型，还需要为决策规则指定最优标准。在贝叶斯准则下，通过贝叶斯法则可以得到最优决策规则；但许多频率论方法在极小极大和其他决策标准下是合理的。

“贝叶斯”和“频率论”不是“概率哲学”。它们是主要关注量化不确定性和决策的统计思想和实践流派，尽管它们通常与概率的特定解释相关联。尽管不完整，但最常见的看法可能是将概率视为信念的主观量化，而将概率视为长期频率。但即使这些也不是真正相互排斥的。你可能没有意识到这一点，但有些公开的贝叶斯主义者在概率的特定哲学问题上不同意。

贝叶斯统计和常客统计也不是正交的。似乎“常客”已经意味着“不是贝叶斯”，但这是不正确的。例如，在重复抽样下询问有关贝叶斯估计量和置信区间的属性的问题是完全合理的。这是一种错误的二分法，至少部分原因是缺乏对贝叶斯和常客这两个术语的共同定义（我们统计学家对此没有任何责任，只能责备我们自己）。

对于有趣、有针对性和深思熟虑的讨论，我建议 Gelman 的“反对贝叶斯统计”、评论和反驳，可在此处获得：

http://ba.stat.cmu.edu/vol03is03.php

甚至还有一些关于物理 IIRC 中的置信区间的讨论。如需更深入的讨论，您可以回顾其中的参考资料。如果您想了解贝叶斯推理背后的原理，我建议您阅读 Bernando & Smith 的书，但还有很多其他很好的参考资料。

看看Cosma Shalizi 和 Andrew Gelman 关于哲学和贝叶斯主义的这篇论文。Gelman 是杰出的贝叶斯主义者，而 Shalizi 是常客！

还请看一下Shalizi 的简短批评，他在其中指出了模型检查的必要性，并嘲笑了一些贝叶斯主义者使用的荷兰书论点​​。

最后但并非最不重要的一点是，我认为，由于您是物理学家，您可能会喜欢这篇文章，其中作者指出“计算学习理论”（坦率地说，我对此一无所知），这可能是贝叶斯主义的替代品，据我所知（不多）。

ps.：如果您点击链接，特别是最后一个链接并对文本有意见（以及作者博客中文本之后的讨论）

ps.2：我自己的看法：忘记客观与主观概率的问题，可能性原理和关于连贯必要性的论点。当贝叶斯方法允许您很好地建模您的问题时（例如，当存在双峰可能性时使用先验来诱导单峰后验等）时，贝叶斯方法是很好的，频率论方法也是如此。另外，忘记关于 p 值问题的东西。我的意思是，p 值很糟糕，但归根结底，它们是一种不确定性的衡量标准，本着 Fisher 的想法。

有非贝叶斯系统或概率哲学——培根式和帕斯卡式，例如，如果你喜欢认识论和科学哲学，你可能会喜欢辩论——否则，你会摇头并得出结论，事实上贝叶斯解释是所有的一切。

为了好的讨论，

• Cohen, LJ 归纳和概率哲学导论，（克拉伦登出版社；牛津大学出版社，牛津纽约，1989 年）
• Schum, DA 概率推理的证据基础，（威利，纽约，1994 年）。