概率论与数理统计(二)

事件的概率

概率：可能性的大小

古典概率模型：
1）有限个样本点
2）等可能性

$$P(A)=\frac{A中包含的基本事件数}{基本事件总和}$$

频率与概率

$n$ 次实验，$A$ 发生了 $m$ 次，那么 $\frac{m}{n}$ 叫做频率，记作 ${\omega }_n(A)$

频率的可加性：$A_1,A_2,\cdots ,A_k$ 不相容，那么有：
$${\omega }_n(A_1+\cdots +A_k)={\omega }_n(A_1)+\cdots +{\omega }_n(A_k)$$

但实验次数足够多的时候，事件发生的频率将逐渐趋近于这个事件发生的统计概率

公理化

公理一：$0⩽P(A)⩽1$

公理二：$P(\Omega )=1$

公理三(完全可加性)：$A_1,A_2,\cdots$ 不相容，则有 $P(A_1+A_2+\cdots )=P(A_1)+P(A_2)+\cdots$

性质一：$P(\varphi )=0$

证明：
$$\begin{array}{rl}& \Omega =\Omega +\varphi +\varphi +\cdots \\ & P(\Omega )=P(\Omega +\varphi +\varphi +\cdots )=P(\Omega )+P(\varphi )+P(\varphi )+\cdots \\ & \Rightarrow P(\varphi )+P(\varphi )+\cdots =0\\ & \because P(\varphi )\ge 0\\ & \therefore P(\varphi )=0\end{array}$$

性质二(有限可加性)：$A_1,A_2,\cdots ,A_n$ 不相容，则有 $P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$

证明：
$$\begin{array}{rl}& A_1,\cdots ,A_n,\varphi ,\varphi ,\cdots 不相容\\ & P(A_1+\cdots +A_n)=P(A_1+\cdots +A_n+\varphi +\varphi +\cdots )\\ & =P(A_1)+\cdots +P(A_n)+P(\varphi )+P(\varphi )+\cdots \end{array}$$

性质三：$P(\overline{A})=1-P(A)$

证明：
$$\begin{array}{rl}& A\cap \overline{A}=\varphi 且A+\overline{A}=\Omega \\ & P(\Omega )=P(A+\overline{A})=P(A)+P(\overline{A})=1\end{array}$$

性质四：$P(A-B)=P(A)-P(AB)$

证明：
$$\begin{array}{rl}& A=(A-B)\cup ABA-B与AB不相容\\ & P(A)=P(A-B)+P(AB)\\ & \Rightarrow P(A-B)=P(A)-P(AB)\end{array}$$

性质五(加法)：$P(A+B)=P(A)+P(B)-P(AB)$

证明：
$$\begin{array}{rl}& A+B=A+(B-AB)A\cap (B-AB)=\varphi \\ & \Rightarrow P(A+B)=P(A)+P(B-AB)\\ & 其中P(B-AB)=P(B)-P(B\cap (AB))=P(B)-P(AB)\\ & 故有：P(A+B)=P(A)+P(B)-P(AB)\end{array}$$

条件概率

定义：$\Omega$ 为样本空间，$A,B$ 是两个事件，$P(B)>0$，在 $B$ 已经发生的条件下 $A$ 发生的概率，称为 $A$ 对 $B$ 的条件概率，记作 $P(A|B)$

对于无条件概率 $P(A)$ 样本空间为 $\Omega$，而对于条件概率 $P(A|B)$ 而言样本空间转变为 $B$，也可以记作 ${\Omega }_B$

计算条件概率的公式为：
$$P(A|B)=\frac{n_{AB}}{n_B}=\frac{n_{AB}/n}{n_B/n}=\frac{P(AB)}{P(B)}$$

乘法公式

$$P(A_1{A}_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)\cdots P(A_n|A_1\cdots A_{n-1})$$

全概率公式

定理：$A_1,A_2,\cdots ,A_n$ 是 $E$ 的完备事件组，则 $P(B)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$

贝叶斯公式

定理：$A_1\cdots A_n$ 完备，则有：
$$P(A_k|B)=\frac{P(A_{k}B)}{P(B)}=\frac{P(A_k)P(B|A_k)}{\sum _{i=1}^{n}P(A_i)P(B|A_i)}$$

我们将 $P(A_i)$ 叫做 先验概率，$P(A_i|B)$ 叫做 后验概率；

事件的独立性

定义：$A$ 事件的概率不受 $B$ 事件发生与否的影响，$P(A|B)=P(A)$，此时称 $A$ 与 $B$ 相互独立

定理：$P(A)>0$ 且 $P(B)>0$，那么有：$A,B$ 独立 $\iff$ $P(AB)=P(A)P(B)$

证明：

1、充分性：

$$P(AB)=P(A)P(B)\Rightarrow P(A|B)=\frac{P(AB)}{P(B)}=\frac{P(A)P(B)}{P(B)}=P(A)$$

2、必要性：

已知 $A,B$ 独立，即 $P(A|B)=P(A)$，那么有：

$$P(AB)=P(B)P(A|B)=P(A)P(B)$$

*注意：$\varphi ,\Omega$ 与任意事件 $A$ 独立

定理：

(1) $A,B$ 独立，则 $A$ 与 $\overline{B}$、$\overline{A}$ 与 $B$、$\overline{A}$ 与 $\overline{B}$ 独立

(2) $P(A)=0$ 或 $P(A)=1$，$A$ 与任何事件独立

证明：

(1)：

$$\begin{array}{rl}& P(A\overline{B})=P(A-B)=P(A-AB)=P(A)-P(AB)\\ & =P(A)-P(A)P(B)=(1-P(B))P(A)=P(A)P(\overline{B})\end{array}$$

(2)：

$$\begin{array}{rl}& \text{if}P(A)=0\\ & AB\subset A\Rightarrow P(AB)⩽P(A)=0\\ & \because P(AB)⩾0\therefore P(AB)=0\\ & P(A)P(B)=0\Rightarrow P(AB)=P(A)P(B)\\ & \text{if}P(A)=1,\text{then}P(\overline{A})=0\\ & \Rightarrow \text{Events}\overline{A}\text{and}B\text{are independent.}\\ & \Rightarrow \text{Events}A\text{and}B\text{are independent.}\end{array}$$

*注意：独立与互不相容不同时成立

定理：$A,B,C$ 两两独立，要求：

1、$P(AB)=P(A)P(B)$

2、$P(AC)=P(A)P(C)$

3、$P(BC)=P(B)p(C)$

如果是 $A,B,C$ 相互独立，则需要多加上一个条件：

4、$P(ABC)=P(A)P(B)P(C)$

伯努利模型

独立实验序列：$E_1,E_2,\cdots ,E_n$ 彼此独立

$n$ 重独立实验：将一个实验 $E$ 做 $n$ 遍，且彼此独立，记作 $E^n$

伯努利试验：结果只有两种的实验

$n$ 重伯努利试验：做 $n$ 次独立的伯努利试验

定理：$A$ 发生的概率为 $p(0<p<1)$，那么 $n$ 重伯努利实验中 $A$ 发生 $k$ 次的概率为：
$$P_n(k)=C_n^k{p}^k(1-p{)}^{n-k}$$

将其称为 二项概率式