概率论的基本公式(概率导论第一章)

概率论的基本公式(概率导论第一章)

1. 概率模型

1.1 概率模型的基本组成

• 样本空间$\Omega$，这是一个试验的所有可能结果的集合。
• 概率律，概率律为试验结果的集合$A$(称为事件)确定一个非负数$P(A)$(称为事件$A$的概率)。而这个非负数刻画了我们对事件$A$的认识或所产生的信念的程度。

1.2 概率公理

1. 非负性，对一切事件$A$，满足$P(A)\ge 0$。

2. 可加性，设$A$和$B$为两个互不相交的集合(概率论中称为互不相容的事件)，则他们的并满足

   $P(A\cup B)=P(A)+P(B)$.

   更一般地，若$A_1,A_2,...$是不相容的事件序列，则他们的并满足

   $P(A_1\cup A_2\cup \cdot \cdot \cdot )=P(A_1)+P(A_2)+\cdot \cdot \cdot$.

3. 归一化，整个样本空间$\Omega$(称为必然事件)的概率为$1$，即$P(\Omega )=1$。

1.3 概率律的若干性质

​ 考虑一个概率律，令$A、B$和$C$为事件.

1. 若$A\subset B$则$P(A)\le P(B)$.
2. $P(A\cup B)=P(A)+P(B)-P(A\cap B)$.
3. $P(A\cup B)\le P(A)+P(B)$.
4. $P(A\cup B\cup C)=P(A)+P(A^c\cap B)+P(A^c\cap B^c\cap C)$.

2. 条件概率

2.1条件概率的性质

• 设事件$B$满足$P(B)>0$，则给定$B$之下，事件$A$的条件概率有下式给出：

$$P(A|B)=\frac{P(A\cap B)}{P(B)}$$

• 这个条件概率在同一个样本空间$\Omega$上给出了一个新的(条件)概率律。凡是现有的概率律的所有性质对这个条件概率都是适用的。
• 由于条件概率所关心的事件都是事件$B$的子事件，可以把条件概率看成$B$上的概率律，即把事件$B$看成全空间或必然事件。
• 当试验的$\Omega$为有限集，并且所有试验结果为等可能的情况下，条件概率律可由下式给出

$$P(A|B)=\frac{事件A\cap B的试验结果数}{事件B的结果数}$$

2.2 乘法法则

假定所有涉及的条件概率都是正的，我们有
$$P({\cap }_{i=1}^n{A}_i)=P(A_1)P(A_2|A_1)P(A_3|A_1\cap A_2)\cdot \cdot \cdot P(A_n|{\cap }_{i=1}^{n-1}{A}_i)$$

3. 全概率定理和贝叶斯准则

3.1 全概率定理

设$A_1,A_2,\cdot \cdot \cdot ,A_n$是一组互不相容的事件，形成样本空间的一个分割(每一个试验结果必定使得其中一个事件发生)。 又假定对每一个$i$，$P(A_i)>0$。则对于任何事件$B$，下列公式成立
$$\begin{gathered} P(B)=P(A_1\cap B)+\cdot \cdot \cdot +P(A_n\cap B) \\ =P(A_1)P(B|A_1)+\cdot \cdot \cdot +P(A_n)P(B|A_n) \end{gathered}$$

3.2 贝叶斯准则

设$A_1,A_2,\cdot \cdot \cdot ,A_n$是一组互不相容的事件，形成样本空间的一个分割(每一个试验结果必定使得其中一个事件发生)。 又假定对每一个$i$，$P(A_i)>0$。则对于任何事件$B$，只要他们满足$P(B)>0$，下列公式成立
$$\begin{gathered} P(A_i|B)=\frac{P(A_i)P(B|A_i)}{P(B)} \\ =\frac{P(A_i)P(B|A_i)}{P(A_1)P(B|A_1)+\cdot \cdot \cdot +P(A_n)P(B|A_n)} \end{gathered}$$

4. 独立性

4.1 独立性

• 两个事件$A$和$B$称为相互独立的，如果他们满足

$$P(A\cap B)=P(A)P(B)$$

  若$B$还满足$P(B)>0$，则独立性等价于
$$P(A|B)=P(A)$$

• 若$A$与$B$相互独立，则$A$与$B^c$也相互独立。
• 设事件$C$满足$P(C)>0$，两个事件$A$和$B$称为在给定$C$的条件下条件独立，如果他们满足

$$P(A\cap B|C)=P(A|C)P(B|C)$$

  若进一步假定$P(B\cap C)>0$，则$A$和$B$在给定$C$的条件下的条件独立性与下面的条件是等价的
$$P(A|B\cap C)=P(A|C)$$

• 独立性并不蕴涵条件独立性，反之亦然。

4.2 几个事件的相互独立性的定义

设$A_1,A_2,\cdot \cdot \cdot ,A_n$为$n$个事件，若他们满足
$$P\left(\bigcap _{i\in S}{A}_i\right)=\prod _{i\in S}P(A_i)对1,2,\cdot \cdot \cdot ,n的任意子集S成立$$
则称$A_1,A_2,\cdot \cdot \cdot ,A_n$为相互独立事件。

5. 计数法

计数法汇总：

• $n$个对象的排列数：$n!$。
• $n$个对象中取$k$个对象的排列数：$n!/(n-k)!$。
• $n$个对象中取$k$个对象的组合数：$\left(\genfrac{}{}{0ex}{}{n}{k}\right)=\frac{n!}{k!(n-k)!}$
• 将$n$个对象分成$r$个组的分割数：其中第$i$个组具有$n_i$个对象：

$$\left(\genfrac{}{}{0ex}{}{n}{n_1,n_2,\cdot \cdot \cdot n_r}\right)=\frac{n!}{n_1!n_2!\cdot \cdot \cdot n_r!}$$