【概率统计】S05E02 事件的独立性

1.回顾两个事件的独立性

在上一节中,我们引入了条件概率 $P(A|B)$ 的概念,何谓条件概率?条件概率的核心就是刻画了事件 $B$ 的发生给事件 $A$ 发生所带来的信息。

在所有的条件概率中,我们注意到一个有趣且重要的特殊情况,那就是事件 $B$ 的发生并没有给事件 $A$ 带来什么新的额外信息。换言之,事件 $B$ 的发生与否,并没有影响事件 $A$ 发生的概率,即:$P(A|B)=P(A)$。

此时,我们称事件 $A$ 是独立于事件 $B$ 的,并由条件概率公式$P(A|B)=\frac{P(A\cap B)}{P(B)}$ 可以进一步推导出等价的表达式:$P(A\cap B)=P(A)P(B)$。

到此,就是我们回顾上一节中所谈论到的两个事件相互独立的概念。

2.不相容与独立性

我们首先看看下面这幅图中所描述的情况:

事件 $A$ 和 事件 $B$ 二者不相容,你会不会直观的感觉到,事件 $A$ 和事件 $B$ 二者没啥关系,二者就是相互独立的?看似很有道理,然而事实上却恰巧相反,若事件 $A$ 和事件 $B$ 互不相容,并且像图中所描述的,能够保证 $P(A)>0$ 且 $P(B)>0$ 成立,则他们永远不会相互独立。

我们直接抠定义就好了,这是因为: 首先有 $A\cap B=\phi$ ,那么显然 $P(A\cap B)=0$ ,而由于$P(A)$和$P(B)$均大于$0$,则有$P(A)P(B)\neq0$ 。因此从 $P(A\cap B) \neq P(A)P(B)$的结果来看,并不满足事件 $A$ 和事件 $B$ 相互独立的条件。

其实,这个结果从常理上来说我们也很好理解,由于事件 $A$ 和事件 $B$ 不相容,从图中看,如果事件 $B$ 发生,则意味着事件 $A$ 一定不会发生,那么这就实际上说明了:事件 $B$ 的发生就给事件 $A$ 的发生引入了额外的信息,那么,二者显然就不是互相独立的了。

3.条件独立

我们在前面讨论了条件概率,自然的直觉就应该在条件概率之下来讨论事件的独立性,即探讨条件独立的概念。

条件独立的概念其实和独立的概念在本质上并无太大区别,无非是在进行事件 $A$ 和 $B$ 讨论的基础上,引入了前提条件:事件 $C$ 。即在给定事件 $C$ 发生的前提条件之下,若事件 $A$ 和事件 $B$ 满足:$P(A\cap B|C)=P(A|C)P(B|C)$ 成立,我们就说事件 $A$ 和 $B$ 在给定事件 $C$ 之下条件独立。发现是不是和独立性的定义基本上差不多呢?

同样的,我们对这个式子进行变形处理:

$P(A\cap B|C)=\frac{P(A\cap B\cap C)}{P(C)}$$=\frac{P(C)P(B|C)P(A|B\cap C)}{P(C)}=P(B|C)P(A|B\cap C)$

其实这里面还涉及了不少内涵,我们一一解析:

首先,我们依照条件概率的定义,可以得到第一步推导结果:

$P(A\cap B|C)=\frac{P(A\cap B\cap C)}{P(C)}$

而第二个推导的等式,则是条件概率方面适用非常广泛的链式法则:

$P(A\cap B\cap C)=P(B\cap C)P(A|B\cap C)=P(C)P(B|C)P(A|B\cap C)$

最后,我们结合 $P(A\cap B|C)=P(B|C)P(A|B\cap C)$ 这个等式和条件独立的定义式 $P(A\cap B|C)=P(A|C)P(B|C)$,发现他们拥有相同的等式左侧,因此将两个等式的右侧划上等号,得到:

$P(B|C)P(A|B\cap C)=P(A|C)P(B|C)$

最终获得等式:$P(A|B\cap C)=P(A|C) $

这是条件独立的另一个等价定义,也是非常直观的一个等式,这个等式说明在给定事件 $C$ 发生的条件下,进一步假定此时如果事件 $B$ 也发生,并不影响事件 $A$ 的条件概率。

简单点说,就是在事件 $C$ 发生的条件下,事件 $B$ 是否发生,不影响事件 $A$ 发生的概率。其实这就又回到了条件定义的源头上去了。

4.独立与条件独立

这里,我们停下来仔细思考一个概念问题,就是事件 $A$ 和事件 $B$ 相互独立和在事件 $C$ 发生的基础上条件独立是不是等价的呢?直观上看觉得似乎应该能,但是事实上呢?我们看看这个例子:

top Created with Sketch.