2.3 伯努利试验和直线上的随机游动

§3 Bernoulli试验和直线上的随机游动

1.Bernoulli 概型

定义2.3.1（Bernoulli）试验

只有两种可能结果的实验被称为 Bernoulli试验。在这类问题中，我们可将事件域取为：
$$\mathcal{F}=\{\varnothing ,A,\overline{A},\Omega \}$$
并称出现 $A$ 为“成功”，出现 $\overline{A}$ 为“失败”。

在某些情况中，试验的结果不止两个。但是，如果我们可以认为：出现且仅仅出现某一个特定的结果时认为其“成功”，其余任何结果都视为“失败”，则此时我们也可以把问题视为 Bernoulli 试验。

在 Bernoulli 试验中，首先需要给出下面概率:
$$P(A)=p,P(\overline{A})=q$$
显然， $p,q⩾0$，且 $p+q=1.$

现在，我们考虑重复进行 $n$ 次独立的 Bernoulli 试验。

定义2.3.2（$n$ 重Bernoulli试验）

在每次试验中事件 $A$ 和事件 $\overline{A}$ 出现的概率都保持不变。我们称这样的试验为 n重Bernoulli试验 ，记为 $E^n$.

对于 $n$ 重Bernoulli试验，我们有下列的四个约定：

1. 每次试验最多出现两个可能结果之一： $A$ 或 $\overline{A}$ ；
2. $A$ 在每次实验中出现的概率 $p$ 保持不变；
3. 各次实验相互独立；
4. 总共进行 $n$ 次试验。

下面，我们给出 $n$ 重Bernoulli 试验的概率空间：

$n$ 重Bernoulli试验 $E^n$ 的样本点形如：
$$({\hat{A}}_1,{\hat{A}}_1,\cdots ,{\hat{A}}_n)$$
其中， ${\hat{A}}_i$ 是 $A_i$ 或 ${\overline{A}}_i$ ，分别表示第 $i$ 次试验中出现 $A$ 或 $\overline{A}$.显见，这样的样本点总共有 $2^n$ 个，这是一个有限样本空间。
为书写方便起见，我们进行如下约定：
$$(A_1,A_2,\cdots ,A_{n-1},{\overline{A}}_n)$$
表示前 $n-1$ 次试验均出现事件 $A$ ，而第 $n$ 次试验出现事件 $\overline{A}$，简记为
$$A_1{A}_2\cdots A_{n-1}{\overline{A}}_n.$$
为给定 $n$ 重Bernoulli试验的样本点的概率，我们主要考察在它中 $A$ 或 $\overline{A}$ 出现的次数。若其中有 $l$ 个 $A$ ，从而有 $n-l$ 个 $\overline{A}$ ，则利用试验的独立性可知：
$$P({\hat{A}}_1{\hat{A}}_1\cdots {\hat{A}}_n)=P({\hat{A}}_1)P({\hat{A}}_2)\cdots P({\hat{A}}_n)$$
$$=p^l{q}^{n-l}.$$
一般事件的概率由它所含样本点的概率求和得到。这样一来，我们已对 $n$ 重Bernnoulli试验给定了概率空间。

Bernoulli试验是一种重要的概率模型。它是“在相同条件下进行重复试验”的一种数学模型，尤其在讨论某事件出现的频率时常用这种模型。

2. Bernoulli概型中的一些分布

2.1 Bernoulli 分布

若我们只进行一次Bernoulli试验，则这种概率分布称为 Bernoulli分布，这是最简单的情况。

2.2 二项分布

我们记 $n$ 重Bernoulli试验中事件 $A$ 出现 $k$ 次的概率，记之为 $b(k;n,p):$

若以 $B_k$ 记 $n$ 重Bernoulli试验中事件 $A$ 恰好出现 $k$ 次这一事件，而用 $A_i$ 表示第 $i$ 次试验中出现事件 $A$，以 ${\overline{A}}_i$ 表示第 $i$ 次试验中出现 $\overline{A}$ ，则
$$\begin{gathered} B_k=A_1{A}_2\cdots A_k{\overline{A}}_{k+1}\cdots {\overline{A}}_n+ \\ \cdots +{\overline{A}}_1{\overline{A}}_2\cdots {\overline{A}}_{n-k}{A}_{n-k+1}\cdots A_n. \end{gathered}$$
右边的每一项表示在某 $k$ 次试验中出现事件 $A$ ，而在另外 $n-k$ 次实验中出现 $\overline{A}$，这种项共有 $\left(\genfrac{}{}{0ex}{}{n}{k}\right)$ 个，而且两两互不相容。

显见右边各项所对应事件的概率均为 $p^k{q}^{n-k}$ ，我们利用概率的可加性即得：
$$P(B_k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k{q}^{n-k}$$
即:
$$b(k;n,p)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k{q}^{n-k},k=0,1,2,\cdots ,n$$

注意到 $b(k;n,p)，k=0,1,2,\cdots ,n$ 是二项式 $(q+ps{)}^n$ 展开式中 $s^k$ 项的系数，因此上式称为 二项分布 。

特别地：
$$\sum _{k=0}^{n}b(k;n,p)=\sum _{k=0}^n\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k{q}^{n-k}=(p+q{)}^n=1.$$

2.3 几何分布

下面, 我们讨论在 Bernoulli 试验中"首次成功"出现在第 $k$ 次试验的概率. 要使"首次成功"出现在第 $k$ 次试验时, 必须且只需在前 $k-1$ 次试验中均出现事件 $\overline{A}$, 而在第 $k$ 次时出现 $A$, 因此该事件 (我们记为 $W_k$ ) 可表示为
$$W_k=P({\overline{A}}_1)P({\overline{A}}_2)\cdots P({\overline{A}}_{k-1})P(A_k)=q^{k-1}p.$$
记
$$g(k;p)=q^{k-1}p,k=1,2,\cdots$$
$g(k;p)$ 是几何级数的一般项, 故称上式为 几何分布. 此处有;
$$\sum _{k=1}^{\infty }g(k;p)=\sum _{k=1}^{\infty }{q}^{k-1}p=p\frac{1}{1-q}=1.$$
几何分布给出了等待事件 $A$ 出现共需要试验 $k$ 次的概率. 这类概率在许多问题中都有涉及.

2.4 Pascal分布

下面, 我们讨论更为复杂的情况,也就是 Pascal 分布. 可以视其为几何分布的一种推广.

考虑 Bernoulli 试验,让我们考察要经过多长时间才会出现第 $r$ 次成功:
若第 $r$ 次成功发生在第 $\zeta$ 次试验,则必然有 $\zeta ⩾r.$
下面以 $C_k$ 表示"第 $r$ 次成功发生在第 $k$ 次试验" 这一事件,并且记其概率为 $f(k;r,p)$.

$C_k$ 发生当且仅当前面的 $k-1$ 次试验中有 $r-1$ 次成功, $k-r$ 次失败,而第 $k$ 次试验的结果为成功,这两个事件的概率分别为:$\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^{r-1}{q}^{k-r}$ 和 $p$. 利用试验的独立性,得到:
$$P(C_k)=\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^{r-1}{q}^{k-r}\cdot p=P(C_k)=\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^r{q}^{k-r}.$$
即:
$$f(k;r,p)=\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^r{q}^{k-r},k=r,r+1,\cdots$$
注意到:
$$\begin{gathered} \sum _{k=r}^{\infty }f(k;r,p)=\sum _{k=r}^{\infty }\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^r{q}^{k-r} \\ =\sum _{l=0}^{\infty }\left(\genfrac{}{}{0ex}{}{r+l-1}{r-1}\right)p^r{q}^l=\sum _{l=0}^{\infty }\left(\genfrac{}{}{0ex}{}{r+l-1}{l}\right)p^r{q}^l \\ =\sum _{l=0}^{\infty }\left(\genfrac{}{}{0ex}{}{-r}{l}\right)(-1{)}^l{p}^r{q}^l=p^r(1-q{)}^{-r}=1. \end{gathered}$$

我们称 $f(k;r,p)$ 为 Pascal分布. 特别地,当 $r=1$ 时,我们得到几何分布.

3. 直线上的随机游动

定义2.3.3 (随机游动)

我们考虑位于 $x$ 轴上的一个质点,并限制它只能位于整数点. 在时刻 $t=0$ 时, 它处于初始位置 $aa\in \mathbb{Z}$ , 以后每个单位时间他总受到某个外力的随机作用使位置发生变化,分别以概率 $p$ 和概率 $q=1-p$ 向正方向/负方向移动一个单位.

在这个问题中, 我们所感兴趣的是质点在时刻 $t=n$ 时的位置. 我们称用这种方式描述的质点运动为 随机游动.

定义2.3.4(无限制随机游动和有吸收壁的随机游动)

若质点可在整个数轴的整数点上游动,则称这种随机游动为 无限制随机游动.

若在某点 $d$ 设有一个吸收壁, 质点一旦到达该点则被吸收从而不再游动, 因而游动过程结束,称这种随机游动为 在 $d$ 点有吸收壁的随机游动.

此外, 我们还可以相应地考虑带有 “反射壁” 及 “弹性壁” 的随机游动, 在一个随机游动中还可以存在不止一个壁.

当 $p=q=\frac{1}{2}$ 时,称这样的随机游动为 对称的, 此时质点向两方向移动的可能性相等.

在自然科学中, 我们可以将大量的问题都归结为随机游动问题. 例如: 随机游动模型可作为布朗运动的初步近似. 概率论中的一些古典问题也可引导到随机游动问题. 实际上, 随机游动可以视为 Bernoulli试验的一种描述法.

下面,我们简介随机游动的两个最简单的模型:

3.1 无限制随机游动

假定质点在时刻 $0$ 从原点出发, 以 $S_n$ 记它在时刻 $t=n$ 时的位置. 为了使质点在时刻 $t=n$ 时位于 $k$ ($k$ 也可以是负整数), 质点必须而且只需在前 $n$ 次游动中向右游动的次数比向左游动的次数多 $k$ 次.

若以 $x$ 记它在前 $n$ 次游动中向右游动的次数, $y$ 记向左游动的次数,则
$$\{\begin{array}{l}x+y=n\\ x-y=k\end{array}$$
即 $x=\frac{n+k}{2}$, 因为 $x$ 是整数, 故 $k$ 必须和 $n$ 具有相同的奇偶性.

事件 $\{S_n=k\}$ 发生相当要求在前 $n$ 次游动中有 $\frac{n+k}{2}$ 次向右, $\frac{n-k}{2}$ 次向左. 利用二项分布即得:
$$P\{S_n=k\}=\left(\genfrac{}{}{0ex}{}{n}{\frac{n+k}{2}}\right)q^{\frac{n-k}{2}}{p}^{\frac{n+k}{2}}.$$
当 $k$ 和 $n$ 奇偶性相反时, 概率为 $0.$

3.2 两端带有吸收壁的随机游动

假定质点在时刻 $t=0$ 时, 位于 $x=a$, 而在 $x=0$ 和 $x=a+b$ 处各有一个吸收壁,我们求质点在 $x=0$ 被吸收或在 $x=a+b$ 被吸收的概率. 使用的是差分方程法:

若以 $q_n$ 记质点的初始位置为 $n$, 而最终在 $a+b$ 点被吸收的概率, 显然;$$q_0=0,q_{a+b}=1$$若某时刻质点位于 $x=n$, 此处 $1⩽n⩽a+b-1$, 则它要被 $x=a+b$ 吸收.

有两种实现方式: 第一种是接下去的一次移动是向右的, 从而最终被 $x=a+b$ 吸收; 另一种是接下去的一次移动是向左的, 而最终被 $x=a+b$ 吸收. 所以, 按照全概率公式有:$$q_n=p{q}_{n+1}+q{q}_{n-1},n=1,2,\cdots ,a+b-1.$$这样, 我们就得到了关于 $q_n$ 的一个二阶差分方程 (上式), 再利用边界条件 $q_0=0,q_{a+b}=1$ 就可以求解.
利用这个差分方程系数的特殊性, 较为方便的解法是将原差分方程改写为:$$p(q_{n+1}-q_n)=q(q_n-q_{n-1}),n=1,2,\cdots ,a+b-1.$$
下面分两种情况求解;

1. $r=1$, 即 $p=q=\frac{1}{2}$, 也即对称随机游动的场合:

此时 $c_n=c_{n-1}.$
因此, 若记
$$q_{n+1}-q_n=q_n-q_{n-1}=\cdots =q_1-q_0=d$$
则
$$q_n=q_0+nd$$
由于 $q_0=0,q_{a+b}=1$, 故有:
$$q_n=\frac{n}{a+b}$$
特别地:
$$q_a=\frac{a}{a+b}.$$

2. $r\ne 1$, 即 $p\ne q$ 的场合:

此时
$$c_n=r{c}_{n-1}=r^2{c}_{n-2}=\cdots =r^n{c}_0.$$
从而:
$$q_n-q_0=\sum _{k=0}^{n-1}(q_{k+1}-q_k)=\sum _{k=0}^{n-1}{c}_k=\sum _{k=0}^{n-1}{r}^k{c}_0=\frac{1-r^n}{1-r}{c}_0.$$
由于 $q_0=0,q_{a+b}=1$, 故有:
$$\frac{1-r^{a+b}}{1-r}{c}_0=1$$
因此
$$q_n=\frac{1-r^n}{1-r^{a+b}}$$
特别地:
$$q_a=\frac{1-r^n}{1-r^{a+b}}=\frac{1-(\frac{q}{p}{)}^a}{1-(\frac{q}{p}{)}^{a+b}}.$$

若以 $p_n$ 记质点从 $n$ 出发而在 $0$ 点被吸收的概率,则同样可列出差分方程:
$$p_n=p{p}_{n+1}+q{p}_{n+1},n=1,2,\cdots ,a+b-1.$$
及边界条件:
$$p_0=1,p_{a+b}=0.$$
类似地可以求得:当 $p=q=\frac{1}{2}$ 时:
$$p_a=\frac{a}{a+b}$$
而在 $p\ne q$ 的情况下:
$$p_a=\frac{1-(\frac{p}{q}{)}^b}{1-(\frac{p}{q}{)}^{a+b}}=\frac{(\frac{q}{p}{)}^a-(\frac{q}{p}{)}^{a+b}}{1-(\frac{q}{p}{)}^{a+b}}.$$
在任何情况下,均有:
$$p_a+p_b=1.$$
也就是说, 随机游动的质点最终必被两个端点之一所吸收.

4. 推广的 Bernoulli 试验与多项分布

二项分布可以被很容易地推广到 $n$ 次重复独立试验且每次试验可能有若干个结果的情形. 将每次试验的可能结果记为 $A_1,A_2,\cdots ,A_r$, 而 $P(A_i)=p_i,i=1,2,\cdots ,r,$ 且
$$p_1+p_2+\cdots +p_r=1,p_i⩾0.$$
当 $r=2$ 时, 我们即得到 Bernoulli 试验.

在这种推广的 Bernoulli 试验中,不难推出在 $n$ 次试验中 $A_i$ 出现 $k_i$ 次 ($i=1,2,\cdots ,r$) 的概率为;
$$\frac{n!}{k_1!k_2!\cdots k_r!}{p}_1^{k_1}{p}_2^{k_2}\cdots p_r^{k_r}.$$
此处 $k_i⩾0$, 且 $k_1+k_2+\cdots +k_r=n.$
上式称为 多项分布, 因其为$(p_1+p_2+\cdots +p_r{)}^n$ 展开式的一般项,且知:
$$\sum _{k_i⩾0k_1+k2+\cdots +kr=1}\frac{n!}{k_1!k_2!\cdots k_r!}{p}_1^{k_1}{p}_2^{k_2}\cdots p_r^{k_r}.$$
显然,多项分布是二项分布的推广, 二项分布的许多结论均和多项分布的场合平行. 以后, 我们只详细讨论二项分布的有关问题.