这到底是什么意思,为什么必须事先更新?

机器算法验证 贝叶斯 事先的 后部 贝叶斯 可能性
2022-04-01 14:17:14

我仍在尝试了解贝叶斯推理中的先验分布和后验分布。

这个问题中,一个人掷硬币。先验:

不公平是0.1,公平是0.9

硬币被翻转 10 倍并且都是正面的。基于此证据,P(不公平 | 证据)~ 0.653 和 P(公平 | 证据)~ 1-0.653。

显然:

必须更新两个先验(最初为 0.1 和 0.9)。– 用户 3697176 4 月 27 日 4:38

  1. 更新先验究竟是什么意思我不确定我是否理解 Wiki。就像我们用 0.653 和 1-0.653 替换 0.1 和 0.9 然后运行另一个实验并继续这样做直到先验稳定?

问题 2 可能只是从 1 开始,但无论如何:

  1. 为什么必须更新它们?我猜是因为 0.1 和 0.9 距离 0.653 和 1-0.653 足够远。

如果这是正确的,那么它们离 0.1 和 0.9 有多远才能说必须更新先验?如果证据给我们 0.11 和 0.89 怎么办?

如果这是错误的,那为什么?

1个回答

简单来说,更新贝叶斯推理中的先验意味着您从对事件发生概率(先验概率)的一些猜测开始,然后观察发生的情况(可能性),并根据发生的情况更新您的初始猜测。更新后,您的先验概率称为后验概率

当然,现在您可以:

  • 停止你的后验概率;
  • 使用你的后验概率作为新的先验,并通过观察更多的证据(即数据)来更新这样的概率以获得新的后验。

从本质上讲,更新先验意味着您从(知情的)猜测开始,并使用证据来更新您的初始猜测。回想起那个

p(θ|x)=p(x|θ)p(θ)p(x),

在哪里p(θ)是你的先验,p(x|θ)是可能性(即您用来更新先验的证据),以及p(θ|x)是后验概率。请注意,后验概率是给定证据的概率。

硬币示例:您从猜测硬币公平的概率开始p=0.1. 然后,你掷硬币 10 次,你得到一个后验概率p=0.3. 此时,您可以决定是否满意p=0.3或再次抛硬币(比如 90 次):在这种情况下,您的先验将是p=0.3——即后验成为新的先验——你将根据新的证据获得新的后验概率。

假设在 1000 次抛掷之后,你的后验概率是p=0.9. 一开始你之前是p=0.1,所以你认为硬币是不公平的。现在,根据 1000 次投掷的证据,您看到硬币公平的概率很高。

请注意,当您拥有新证据时可以轻松更新概率这一事实是贝叶斯框架的优势。这里的重点不是必须更新先验,而是使用所有可用的证据来更新您对某个概率的猜测。