Chapter 5 随机事件的概率

不确定的知识+所含不确定性度量的知识=可用的知识

5.1 随机事件与样本空间

确定性现象（deterministic phenomenon）：在一定条件下必然会发生的现象；
随机现象（random phenomenon）：在同一条件下具有不确定结果的现象。

对随机现象获得一个观察或进行一次测量的过程称为随机试验，简称试验，用$E$表示。

用$\omega$表示试验$E$的一个可能的结果，则称$\omega$为$E$的一个基本事件（elementary event）；基本事件是指不能在分解为更简单结果的事件。

5.2 事件的运算

包含关系：对任意两事件A和B，如果事件B发生，则事件A必发生，则称事件A包含事件B，记作$A\supseteq B$或$B\subseteq A$，符号$\supseteq$和$ $分别表示包含与被包含。
相等关系：如果事件A和事件B满足以下关系：$A\supseteq B 且B\supseteq A$，则称A和B相等，记作$A=B$
事件的和：在一次试验中，对任意两事件A和B，“A和B中至少有一个发生”也是一个事件，称此事件为A和B的“和或并”，记作$A\cup B$，也可以表示为$A+B$。
事件的交：在一次试验中，对任意两事件A和B，“A和B同时发生”也是一个事件，称此事件为A和B的“交”，记作$A\cap B$，也可以表示为$AB$。
事件的差：在一次试验中，“A发生且B不发生”也是一个事件，称此事件为A和B的“差”，记作$A-B$。
互不相容事件：在一次试验中，“A与B不能同时发生”，即$A\cup B=\emptyset$，则称此事件A和事件B为互不相容事件，也称互斥事件。
对立事件：是一种特殊的互不相容事件，若“事件A与事件B不能同时发生，且他们的和组成样本空间”，即$A\cap B=\emptyset 且A\cup B=\Omega$，则称A和B互为对立事件（complementary events）。

5.3 概率的定义

频率（frequency）：设E为一随机试验，A是其中一事件，在同样条件下把E重复的做n次，以m表示事件A在这n次试验中发生的次数，则称比值$m/n$为事件A发生的频率，记为F(A)： \[F(A)=\frac{m}{n}\]
概率（probability）：设在同一条件下，重复进行n次试验，随机事件A发生m次，若试验次数n无限大时，频率$m/n$将在某一确定值p的附近摆动，则称p为事件A的概率，记为P(A)： \[P(A)=p \approx \frac{m}{n}\]
概率有时也被称为相对频率方法；概率是事物固有的属性，不以人的主观意志为转移。
概率的描述性定义
概率的公理化定义：

非负性:对于任意事件A，有$P(A)\geq 0$
规范性:$P(\Omega)=1$
可加可列性:$P(\bigcup \limits_{i=1}^{\infty}A_i)=\sum \limits_{i=1}^{\infty}P(A_i)$

5.4 概率的加法公式

若A和B是样本空间$\Omega$中两个互不相容的事件，则事件和的概率等于两事件概率之和，即：

\[P(A+B)=P(A)+P(B)\] 这称之为概率的加法公式。此公式要求事件A和事件B互不相容。

易知，A的对立事件$\bar A$的概率$P(\bar A)=1-P(A)$，加法公式可自然推广到多个事件的情形。

对于任意事件A和B，即事件A和不是互不相容，更一般有： \[P(A+B)=P(A)+P(B)-P(AB)\] 因为当A和B互不相容时，有$P(AB)=0$。

5.5 概率的乘法公式

当存在某些可能影响结果的条件时，事件发生的概率可能会改变，我们称这种情况下的概率为条件概率。

条件概率

在已知事件A发生的条件下，事件B发生的概率成为条件概率（conditional probability），记为$P(B\mid A)$，公式为： \[P(B\mid A)=\frac{P(AB)}{P(A)},P(A)>0\] 即条件概率等于事件A和B同时发生的概率除以事件A发生的概率。

概率乘法公式

\[P(AB)=P(A)P(B\mid A),P(A)>0\\ P(AB)=P(B)P(A\mid B),P(B)>0\]

独立事件

如果事件B发生的概率不受事件A发生概率的影响，即$P(B\mid A)=P(B)$，则称事件B对事件A独立。由于两事件间的独立总是相互的，故也有$P(A\mid B)=P(A)$。

根据$P(AB)=P(B)P(A\mid B),P(B)>0$，若事件A、B独立，则有 \[P(AB)=P(A)P(B)\]

在医学研究中，可以根据试验条件及生物学知识判断事物之间的独立性。

5.6 全概率公式与Bayes公式

全概率公式

如果事件组$A_1,A_2,\dots,A_n$满足以下两个条件：

$A_1,A_2,\dots,A_n$互不相容，且$P(A_i)>0(i=1,2,\dots,n)$;
$A_1+A_2+\dots+A_n=\Omega$

那么对于任意事件B，都有

\[P(B)=\sum_\limits{i=1}^{n}P(A_i)P(B\mid A_i)\]

此公式成为全概率公式（total probability formula），即B的概率可以表示为在给定$A_i$发生条件下B发生的条件概率的加权平均。

Bayes公式

对于n个互不相容的事件$A_1,A_2,\dots,A_n$，且他们的和为必然事件，则在时间B发生的前提下事件$A_k(k=1,2,\dots,n)$发生的概率为：

\[P(A_k\mid B)=\frac{P(A_k)P(B\mid A_k)}{\sum_\limits{i=1}^{n}P(A_i)P(B\mid A_i)},(k=1,2,\dots,n),P(B)>0\]

Bayes公式的意义在于，它可以改变条件概率结论的方向，即在知道结果的情况下来推断原因，用式子$P(A_k\mid B)$表示，称为后验概率(posterior probability)；而$P(A_k)$表示各种原因出现可能性的大小，一般是过去经验的总结，称为先验概率(prior probability)。