随机过程(一)——基本概念

样本空间(S)： 一个试验所有可能结果的集合称为样本空间
事件(E)： 样本空间S的任意子集E称为一个事件
不可能事件： 概率为0的事件，记为$\varphi$
互不相容事件： $E\cap F=\varphi$
对立事件$(E^c)$： 由样本空间S中不属于E的所有结果构成，即$E^c$发生当且仅当E没有发生
概率： $\forall 事件E\in 样本空间S$，若P(E)满足
$$\{\begin{array}{l}0\le P(E)\le 1\\ P(S)=1\\ n\ne m且E_n{E}_m=\varphi \Rightarrow P({\cup }_{n=1}^{\infty }P(E_n))={\sum }_{n=1}^{\infty }P(E_n)\end{array}$$

则称P(E)为事件E的概率

$P(E^c)=1-P(E)$
$P(E)+P(F)=P(E\cup F)+P(EF)⟺P(E\cup F)=P(E)+P(F)-P(EF)$
$\begin{array}{rl}P(E\cup F\cup G)& =P(E)+P(F)-P(EF)+P(G)-P(EG\cup FG)\\ & =P(E)+P(F)-P(EF)+P(G)-P(EG)-P(FG)+P(EGFG)\\ & =P(E)+P(F)+P(G)-P(EF)-P(EG)-P(FG)+P(EFG)\end{array}$

$$\begin{gathered} P(E_1\cup E_2\cup \cdots \cup E_n)=\sum _{i}P(E_i)-\sum _{i<j}P(E_i{E}_j)+\sum _{i<j<k}P(E_i{E}_j{E}_k) \\ -\sum _{i<j<k<l}P(E_i{E}_j{E}_k{E}_l)+\cdots +(-1{)}^{n+1}P(E_1{E}_2\cdots E_n) \end{gathered}$$

条件概率： 已知F发生的前提下E发生的条件概率，记为$P(E|F)$，$P(E|F)=\frac{P(EF)}{P(F)}$

例如：
1. 假定在帽子中混杂地放了写有1到10的10张卡片，然后抽取了其中的一张。如果我们被告知抽出的卡片上的数至少是5，那么它是10的条件概率是多少？
解： 以E记抽出的卡片上的数为10这一事件，以F记抽出的卡片上的数至少为5这一事件，所求的概率是$$P(E|F)=\frac{\frac{1}{10}}{\frac{6}{10}}=\frac{1}{6}$$
2. John可以修计算机课，也可以修化学课。如果修计算机课，那么得A的概率是$\frac{1}{2}$。如果修化学课，那么得A的概率是$\frac{1}{3}$。John掷硬币决定，则John在化学课上得A的概率是多少？
解： 以C记John修化学课这一事件，而以A记不管他选修什么课都得A这一事件，则所求的概率为
$$P(AC)=P(C)P(A|C)=\frac{1}{2}\times \frac{1}{3}=\frac{1}{6}$$
独立事件： $P(EF)=P(E)P(F)或P(E|F)=P(E)$

\newline
设E和F为事件，则E可以表示为
$$\begin{gathered} E=EF\cup E{F}^c\Rightarrow \\ \begin{array}{rl}P(E)& =P(EF)+P(E{F}^c)\\ & =P(E|F)P(F)+P(E|F^c)P(F^c)\\ & =P(E|F)P(F)+P(E|F^c)(1-P(F))\end{array} \end{gathered}$$

例如：
1. 考虑两个翁，第一个翁中2个白球，7个黑球；第二个翁中5个白球，6个黑球。我们抛掷一枚均匀的硬币，由其结果是正面还是反面决定是从第一个翁还是从第二个翁中抽取一个球。已知取到的球是白球，问抛掷的结果是正面的条件概率是多少？
解： 记W为取到白球这一事件，记H为抛掷的硬币正面向上这一事件，则要求解的条件概率为P(H|W)
$$\begin{array}{rl}P(H|W)& =\frac{P(HW)}{P(W)}\\ & =\frac{P(W|H)P(H)}{P(WH)+P(W{H}^c)}\\ & =\frac{P(W|H)P(H)}{P(W|H)P(H)+P(W|H^c)P(H^c)}\\ & =\frac{\frac{2}{9}\times \frac{1}{2}}{\frac{2}{9}\times \frac{1}{2}+\frac{5}{11}\times \frac{1}{2}}=\frac{22}{67}\end{array}$$

贝叶斯公式： $$P(F_j|E)=\frac{P(E{F}_j)}{P(E)}=\frac{P(E|F_j)P(F_j)}{{\sum }_{i=1}^{n}P(E|F_i)P(F_i)}$$