当前位置：首页 > news >正文

概率论基础教程第4章随机变量(三)

news 2025/8/19 12:13:42

4.5 方差

定义

方差是衡量随机变量取值相对于均值离散程度的重要指标。
若随机变量 $ X $ 的期望为 $ \mu = E[X] $，则 $ X $ 的方差记为 $ Var(X) $，定义为：

$\mu)^2]$

方差的等价计算公式：
$\begin{aligned} Var(X) &= E[(X - \mu)^2] = \sum_x (x - \mu)^2 p(x) \\ &= \sum_x (x^2 - 2\mu x + \mu^2) p(x) \\ &= \sum_x x^2 p(x) - 2\mu \sum_x x p(x) + \mu^2 \sum_x p(x) \\ &= E[X^2] - 2\mu^2 + \mu^2 = E[X^2] - \mu^2 \end{aligned}$

即：

$\boxed{Var(X) = E[X^2] - (E[X])^2} \tag{5.1}$

例如：考虑三个随机变量 $ W, Y, Z $：

$ W = 0 $（常数）
$ Y = \begin{cases} -1 & \text{概率 } 1/2 \ +1 & \text{概率 } 1/2 \end{cases} $
$ Z = \begin{cases} -100 & \text{概率 } 1/2 \ +100 & \text{概率 } 1/2 \end{cases} $

三者期望值均为 0，但方差分别为：

$ Var(W) = 0 $
$ Var(Y) = 1 $
$ Var(Z) = 10000 $

方差反映了取值离散程度的不同。

性质

定理 5.1

对于任意常数 $ a $ 和 $ b $，有：

$\boxed{Var(aX + b) = a^2 Var(X)} \tag{5.2}$

证明：

令 $ \mu = E[X] $，由推论 4.1 知 $ E[aX + b] = a\mu + b $
因此：
$\begin{aligned} Var(aX + b) &= E[(aX + b - a\mu - b)^2] \\ &= E[a^2(X - \mu)^2] \\ &= a^2E[(X - \mu)^2] \\ &= a^2Var(X) \end{aligned}$

[!NOTE]
方差不受常数项影响，但会受比例因子的平方影响。这表明方差衡量的是数据的"分散程度"，而不是位置。

标准差

标准差（Standard Deviation）是方差的平方根，记为 $ SD(X) $：
$\sqrt{Var(X)}$
标准差与原始数据具有相同的量纲，更便于解释。

例题

例 5a：掷骰子方差计算

设 $ X $ 表示掷一枚均匀骰子出现的点数，计算 $ Var(X) $。

由例 3a 知 $ E[X] = \frac{7}{2} $
计算 $ E[X^2] $：
$E[X^2] = 1^2 \times \frac{1}{6} + 2^2 \times \frac{1}{6} + 3^2 \times \frac{1}{6} + 4^2 \times \frac{1}{6} + 5^2 \times \frac{1}{6} + 6^2 \times \frac{1}{6} = \frac{91}{6}$
应用公式 (5.1)：
$\frac{91}{6} - \left(\frac{7}{2}\right)^2 = \frac{91}{6} - \frac{49}{4} = \frac{35}{12}$

4.6 伯努利随机变量和二项随机变量

伯努利随机变量

伯努利随机变量表示一次试验的结果（成功或失败）：
$\begin{cases} 1 & \text{if 成功} \\ 0 & \text{if 失败} \end{cases}$
分布列为：
$\quad p(1) = P(X = 1) = p$
其中 $ 0 \leq p \leq 1 $ 是每次试验成功的概率。
伯努利随机变量是参数为 $ (1, p) $ 的二项随机变量的特例。

二项随机变量

二项随机变量表示 $ n $ 次独立重复伯努利试验中成功的次数。
若 $ X $ 是参数为 $ (n, p) $ 的二项随机变量，则其分布列为：
$\boxed{p(i) = \binom{n}{i} p^{i} (1-p)^{n-i} \qquad i = 0, 1, \cdots, n} \tag{6.2}$
由二项式定理可知概率和为 1：
$\sum_{i=0}^{n} \binom{n}{i} p^{i} (1-p)^{n-i} = [p + (1-p)]^{n} = 1$

推导说明：

特定序列中有 $ i $ 次成功和 $ n-i $ 次失败的概率为 $ p^i(1-p){n-i} $
有 $ \binom{n}{i} $ 种方式安排 $ i $ 次成功和 $ n-i $ 次失败
因此，$ n $ 次试验中恰好 $ i $ 次成功的概率为 $ \binom{n}{i} p^i(1-p){n-i} $

例题

例 6a：掷硬币分布

掷 5 枚均匀硬币，求正面朝上硬币数的分布列。

$ X $ 是参数为 $ (n=5, p=1/2) $ 的二项随机变量
分布列：
$\begin{aligned} P(X=0) &= \binom{5}{0}\left(\frac{1}{2}\right)^{5} = \frac{1}{32} \\ P(X=1) &= \binom{5}{1}\left(\frac{1}{2}\right)^{5} = \frac{5}{32} \\ P(X=2) &= \binom{5}{2}\left(\frac{1}{2}\right)^{5} = \frac{10}{32} \\ P(X=3) &= \binom{5}{3}\left(\frac{1}{2}\right)^{5} = \frac{10}{32} \\ P(X=4) &= \binom{5}{4}\left(\frac{1}{2}\right)^{5} = \frac{5}{32} \\ P(X=5) &= \binom{5}{5}\left(\frac{1}{2}\right)^{5} = \frac{1}{32} \end{aligned}$

例 6b：残次品退货率

工厂以 10 颗为一盒出售螺钉，残次品率 0.01，求退货比例。

$ X $ 是参数为 $ (10, 0.01) $ 的二项随机变量
退货条件：$ X \geq 2 $
退货概率：
$\begin{aligned} P(X \geq 2) &= 1 - P(X = 0) - P(X = 1) \\ &= 1 - \binom{10}{0}(0.01)^0(0.99)^{10} - \binom{10}{1}(0.01)^1(0.99)^9 \\ &\approx 0.004 \end{aligned}$
因此，约 0.4% 的螺钉将被退回。

例 6c：运气轮赌博

赌徒押注掷 3 枚骰子中某数的出现次数，计算期望收益。

$ X $ 是参数为 $ (3, 1/6) $ 的二项随机变量
赢得单位数的分布：
$\begin{aligned} P(X = -1) &= \binom{3}{0}\left(\frac{1}{6}\right)^0\left(\frac{5}{6}\right)^3 = \frac{125}{216} \\ P(X = 1) &= \binom{3}{1}\left(\frac{1}{6}\right)^1\left(\frac{5}{6}\right)^2 = \frac{75}{216} \\ P(X = 2) &= \binom{3}{2}\left(\frac{1}{6}\right)^2\left(\frac{5}{6}\right)^1 = \frac{15}{216} \\ P(X = 3) &= \binom{3}{3}\left(\frac{1}{6}\right)^3\left(\frac{5}{6}\right)^0 = \frac{1}{216} \end{aligned}$
期望收益：
$\frac{-125 + 75 + 30 + 3}{216} = \frac{-17}{216}$
长期来看，每 216 局赌徒将输掉 17 个单位。

例 6d：遗传学问题

混合型父母的 4 个孩子中，3 个具有显性特征的概率。

每个孩子具有显性特征的概率 $ p = 3/4 $
$ X $ 是参数为 $ (4, 3/4) $ 的二项随机变量
所求概率：
$\binom{4}{3}\left(\frac{3}{4}\right)^3\left(\frac{1}{4}\right)^1 = \frac{27}{64}$

例 6e：陪审团判决

陪审团正确判决的概率计算。

无罪时正确判决：少于 8 人投票有罪 → $ \sum_{i=0}^{7} \binom{12}{i} \theta^i (1-\theta)^{12-i} $
有罪时正确判决：至少 8 人投票有罪 → $ \sum_{i=8}^{12} \binom{12}{i} \theta^i (1-\theta)^{12-i} $
若被告有罪的先验概率为 $ \alpha $，则总体正确判决概率为：
$\alpha \sum_{i=8}^{12} \binom{12}{i} \theta^i (1-\theta)^{12-i} + (1-\alpha) \sum_{i=0}^{7} \binom{12}{i} \theta^i (1-\theta)^{12-i}$

期望和方差

若 $ X $ 是参数为 $ (n, p) $ 的二项随机变量，则：

$\boxed{E[X] = np} \tag{6.3}$

$\boxed{Var(X) = np(1-p)} \tag{6.4}$

推导过程：

令 $ Y $ 是参数为 $ (n-1, p) $ 的二项随机变量
利用恒等式 $ i\binom{n}{i} = n\binom{n-1}{i-1} $

$\begin{aligned} i \cdot C(n,i) &= i \cdot \frac{n!}{i!(n-i)!} \\ &= \frac{n!}{(i-1)!(n-i)!} \\ &= n \cdot \frac{(n-1)!}{(i-1)!(n-i)!} \\ &= n \cdot \frac{(n-1)!}{(i-1)!((n-1)-(i-1))!} \\ &= n \cdot C(n-1,i-1) \end{aligned}$

计算 $ E[X] $：
$\sum_{j=0}^{n-1} \binom{n-1}{j} p^j (1-p)^{n-1-j} = np$

[!NOTE]

根据期望的定义：
$\sum_{i=0}^{n} i \cdot P(X=i) = \sum_{i=0}^{n} i \cdot \binom{n}{i} p^i (1-p)^{n-i}$

注意到当 $i = 0$ 时， $\cdot \binom{n}{0} p^0 (1-p)^n = 0$ ，因此可以将求和从 $i = 1$ 开始：
$\sum_{i=1}^{n} i \cdot \binom{n}{i} p^i (1-p)^{n-i}$

使用组合恒等式 $i(ni)=n(n−1i−1)i\binom{n}{i} = n\binom{n-1}{i-1}$ （证明见下文），代入得：
$\sum_{i=1}^{n} n\binom{n-1}{i-1} p^i (1-p)^{n-i}$

将常数 $n$ 提取到求和符号外：
$\sum_{i=1}^{n} \binom{n-1}{i-1} p^i (1-p)^{n-i}$

将 $p^i$ 拆分为 $\cdot p^{i-1}$ ：
$\sum_{i=1}^{n} \binom{n-1}{i-1} p \cdot p^{i-1} (1-p)^{n-i}$

将常数 $p$ 提取到求和符号外：
$\sum_{i=1}^{n} \binom{n-1}{i-1} p^{i-1} (1-p)^{n-i}$

令 $j = i - 1$ ，则：

当 $i = 1$ 时， $j = 0$
当 $i = n$ 时， $j = n - 1$
$i = j + 1$
$n - i = (n - 1) - j$

代入后得到：
$\sum_{j=0}^{n-1} \binom{n-1}{j} p^j (1-p)^{(n-1)-j}$

注意到求和部分正是二项式定理的形式：
$\sum_{j=0}^{n-1} \binom{n-1}{j} p^j (1-p)^{(n-1)-j} = [p + (1-p)]^{n-1} = 1^{n-1} = 1$

因此：
$\cdot 1 = np$

计算 $ E[X^2] $：
$E[X^2] = npE[Y+1] = np[(n-1)p+1]$

[!NOTE]

根据期望的定义：
$E[X^2] = \sum_{i=0}^{n} i^2 \cdot P(X=i) = \sum_{i=0}^{n} i^2 \binom{n}{i} p^i (1-p)^{n-i}$

当 $i = 0$ 时， $i2⋅(n0)p0(1−p)n=0i^2 \cdot \binom{n}{0} p^0 (1-p)^n = 0$ ，因此可以从 $i = 1$ 开始求和：
$E[X^2] = \sum_{i=1}^{n} i^2 \binom{n}{i} p^i (1-p)^{n-i}$

使用组合恒等式 $i(ni)=n(n−1i−1)i\binom{n}{i} = n\binom{n-1}{i-1}$ ，代入得：
$\begin{aligned} E[X^2] &= \sum_{i=1}^{n} i \cdot i\binom{n}{i} p^i (1-p)^{n-i} \\ &= \sum_{i=1}^{n} i \cdot n\binom{n-1}{i-1} p^i (1-p)^{n-i} \\ &= n \sum_{i=1}^{n} i \binom{n-1}{i-1} p^i (1-p)^{n-i} \end{aligned}$

将 $p^i$ 拆分为 $\cdot p^{i-1}$ ，并提取常数 $p$ ：
$E[X^2] = np \sum_{i=1}^{n} i \binom{n-1}{i-1} p^{i-1} (1-p)^{n-i}$

令 $j = i - 1$ ，则：

当 $i = 1$ 时， $j = 0$
当 $i = n$ 时， $j = n - 1$
$i = j + 1$
$n - i = (n - 1) - j$

代入后得到：
$E[X^2] = np \sum_{j=0}^{n-1} (j+1) \binom{n-1}{j} p^j (1-p)^{(n-1)-j}$

将 $(j + 1)$ 拆分为 $j$ 和 $1$ ：
$\begin{aligned} E[X^2] &= np \left[ \sum_{j=0}^{n-1} j \binom{n-1}{j} p^j (1-p)^{(n-1)-j} + \sum_{j=0}^{n-1} \binom{n-1}{j} p^j (1-p)^{(n-1)-j} \right] \end{aligned}$

第一项： $∑j=0n−1j(n−1j)pj(1−p)(n−1)−j\sum_{j=0}^{n-1} j \binom{n-1}{j} p^j (1-p)^{(n-1)-j}$ 正是参数为 $(n - 1, p)$ 的二项随机变量 $Y$ 的期望 $E [Y]$
第二项： $∑j=0n−1(n−1j)pj(1−p)(n−1)−j\sum_{j=0}^{n-1} \binom{n-1}{j} p^j (1-p)^{(n-1)-j}$ 是二项分布的总概率，根据二项式定理等于 $1$

因此：
$E[X^2] = np [E[Y] + 1]$

由于 $Y$ 是参数为 $(n - 1, p)$ 的二项随机变量，我们知道 $E [Y] = (n - 1) p$ ，因此：
$E[X^2] = np [(n-1)p + 1]$

方差：
$Var(X) = E[X^2] - (E[X])^2 = np[(n-1)p+1] - (np)^2 = np(1-p)$

分布列的单调性

命题 6.1：若 $ X $ 是参数为 $ (n, p) $ 的二项随机变量（$ 0 < p < 1 $），则当 $ k $ 从 0 增加到 $ n $ 时，$ P(X = k) $ 先单调递增，后单调递减，最大值出现在 $ k = \lceil (n+1)p \rceil $。

证明：

考虑比值：
$\frac{P(X = k)}{P(X = k-1)} = \frac{(n-k+1)p}{k(1-p)}$
$ P(X=k) \geq P(X=k-1) $ 当且仅当：
$\geq k(1-p) \iff k \leq (n+1)p$
因此，当 $ k \leq (n+1)p $ 时分布列递增，当 $ k > (n+1)p $ 时递减

递推关系

二项分布的计算可利用以下递推关系：

$\boxed{P(X = k+1) = \frac{p}{1-p} \cdot \frac{n-k}{k+1} P(X = k)} \tag{6.5}$

例 6h：设 $ X $ 是参数为 $ n = 6 $, $ p = 0.4 $ 的二项随机变量。

从 $ P(X=0) = 0.6^6 \approx 0.0467 $ 开始
递推计算：
$\begin{aligned} P(X=1) &= \frac{0.4}{0.6} \cdot \frac{6}{1} \cdot 0.0467 \approx 0.1866 \\ P(X=2) &= \frac{0.4}{0.6} \cdot \frac{5}{2} \cdot 0.1866 \approx 0.3110 \\ P(X=3) &= \frac{0.4}{0.6} \cdot \frac{4}{3} \cdot 0.3110 \approx 0.2765 \\ P(X=4) &= \frac{0.4}{0.6} \cdot \frac{3}{4} \cdot 0.2765 \approx 0.1382 \\ P(X=5) &= \frac{0.4}{0.6} \cdot \frac{2}{5} \cdot 0.1382 \approx 0.0369 \\ P(X=6) &= \frac{0.4}{0.6} \cdot \frac{1}{6} \cdot 0.0369 \approx 0.0041 \end{aligned}$