机器算法验证 - 条件概率的边缘化 - 吾爱随笔录

机器算法验证条件概率贝叶斯网络边际分布

2022-03-20 08:33:07

我正在研究贝叶斯网络上的这些计算示例，并遇到了这种说法（最后一个示例计算的一部分）：

P (E = e | A = a) = \sum_{c \in C} P (E = e, C = c | A = a)

$P(E=e|A=a) = \sum_{c \in C} P(E=e, C=c | A=a)$

我新近熟悉边缘化，但我认为它是：

P (A = a) = \sum_{b \in B} P (A = a, B = b) = \sum_{b \in B} P (A = a | B = b) P (B = b)

$P(A=a) = \sum_{b \in B} P(A=a,B=b) = \sum_{b \in B} P(A=a|B=b)P(B=b)$

如果第一个等式是真的，有人可以解释吗？我曾尝试搜索“边缘化条件概率”，但没有找到任何看起来相似的东西。

2个回答

根据条件概率*的定义，我们有：

P (E = e | A = a) = \frac{P (E = e, A = a)}{P (A = a)} = \frac{\sum_{c} P (E = e, C = c, A = a)}{P (A = a)}

$P(E=e|A=a)=\frac{P(E=e,A=a)}{P(A=a)}=\frac{\sum_{c}P(E=e,C=c,A=a)}{P(A=a)}$

在最后一步中，我使用了边缘化 $c$ . 然后，再次使用条件概率的定义，这等于：

\sum_{c} P (E = e, C = c | A = a)

$\sum_{c}P(E=e,C=c|A=a)$ .

*条件概率的定义：

P (x_{1}, . . ., x_{n} | y_{1}, . . ., y_{m}) = \frac{P (x_{1}, . . ., x_{n}, y_{1}, . . ., y_{m})}{P (y_{1}, . . ., y_{m})}

$P(x_1,...,x_n|y_1,...,y_m)=\frac{P(x_1,...,x_n,y_1,...,y_m)}{P(y_1,...,y_m)}$

条件概率是一种概率度量，意味着它们满足概率公理，并享有（无条件）概率的所有属性。

这种说法的实际用途是，如果假设一切都以某个事件的发生为条件，那么您所了解的有关概率的任何规则、定理或公式也适用。例如，知道

P (B^{c}) = 1 - P (B)

$P(B^c) = 1 - P(B)$ 让我们可以立即得出结论

P (B^{c} ∣ A) = 1 - P (B ∣ A)

$P(B^c\mid A) = 1 - P(B\mid A)$ 是一个有效的结果，无需写出正式的定义并完成结果的证明。所以把这个想法应用到公式中

P (E) = \sum_{i} P (E \cap C_{i})

$P(E) = \sum_i P(E \cap C_i)$ 在哪里

C_{1}, C_{2}, \dots

$C_1, C_2, \cdots$ 是样本空间的一个分区

Ω

$\Omega$ 成不相交的子集（等等

(E \cap C_{1})

$(E \cap C_1)$ ,

(E \cap C_{2}), \dots

$(E \cap C_2), \cdots$ 是一个分区

E

$E$ 成不相交的子集）。调节一切

A

$A$ 给我们

P (E ∣ A) = \sum_{i} P (E \cap C_{i} ∣ A)

$P(E\mid A) = \sum_i P(E \cap C_i\mid A)$ 这是您的公式，符号略有不同。

其它你可能感兴趣的问题