速通贝叶斯定理

虽然有一堆符号定义,但应该比那些堆砌数字做例子的解释要清晰……

假设有两个事件: HH (假设)和 EE (证据/结果)。

P(H)P(H) 表示 HH 发生的概率,即在没有任何新证据前,对假设成立的相信程度。

P(E)P(E) 表示 EE 发生的总体概率,即不考虑假设 HH 是否成立,单独观察 EE 发生的概率。

P(EH)P(E∣H) 表示在 HH 发生的前提下, EE 发生的概率。也即假设成立的话,我们观察到这个结果发生的可能性有多大。

P(HE)P(H|E) 表示在 EE 发生的前提下, HH 发生的概率。也即证据出现了,我们反过来判断假设成立的可能性。

P(HE)P(H \cap E) 表示「 HHEE 同时发生」的概率,也称为联合概率。

从逻辑上看,我们可以通过两个路径计算同一个联合概率 P(HE)P(H \cap E)

路径一:原因推结果

先假设 HH 成立,再观察结果 EE 是否出现:

P(HE)=P(H)×P(EH)P(H \cap E)=P(H)\times P(E|H)

即:先看假设 HH 成立的可能性,再看如果 HH 成立,出现证据 EE 的可能性。两者相乘,就是 HHEE 同时发生的概率。

路径二:结果推原因

先观察到证据 EE ,再反过来判断 HH 是否成立:

P(HE)=P(E)×P(HE)P(H \cap E)=P(E)\times P(H|E)

即:先看证据 EE 出现的总体可能性,再看在证据 EE 已经出现的情况下,假设 HH 成立的可能性。两者相乘,就是 HHEE 同时发生的概率。

因为这两个路径描述的是同一个事实—— HHEE 同时发生——所以它们必然相等:

P(EH)×P(H)=P(HE)×P(E)P(E|H) \times P(H) = P(H|E) \times P(E)

将等式两边同时除以 P(E)P(E) ,我们就得到贝叶斯定理的标准形式:

P(HE)=P(EH)×P(H)P(E)P(H|E) = \frac{P(E|H) \times P(H)}{P(E)}