概率论与数理统计--基本概念笔记
概率论与数理统计是人工智能的基础中的基础啊，赶紧学习一波。
1随机试验
1 相同条件下可重复进行
2 结果多样，实验前可能的结果是确定的
3 实验前不确定具体的结果
2样本空间
随机试验的所有可能的基本结果的集合
3 随机事件
样本空间的子集称为随机事件
空集为样本空间的子集，空集称为不可能事件
样本空间为样本空间的子集，样本空间为必然事件
事件的关系
| 包含：A发生，B必然发生，则A⊂B |
|---|
| 相等：A发生，B必然发生，反之亦然，则A=B |
| 互斥：A,B不能同时发生，则AB互斥 |
| 对立（逆）：A,B不能同时发生，且至少发生一个，则A,B对立 |
事件的运算
| 和（或）事件：A或者B发生 则A+B (A∪B) |
|---|
| 积（与）事件：A,B同时发生。则 AB(A∩B) |
| 差事件：A发生且B不发生，则A-B |
| 补（逆）事件：A的对立事件，则 A ‾ \overline{A} A |
A 和 B 互 斥 则 A B = ∅ A和B互斥则 AB=\varnothing A和B互斥则AB=∅
A 和 B 对 立 则 A B = ∅ 且 A + B = Ω A和B对立则 AB=\varnothing 且 A+B=\Omega A和B对立则AB=∅且A+B=Ω
A = ( A − B ) + A B A=(A-B)+AB A=(A−B)+AB
A + B = ( A − B ) + A B + ( B − A ) A+B=(A-B)+AB+(B-A) A+B=(A−B)+AB+(B−A)
A + B ‾ = A ‾ ∗ B ‾ \overline{A+B}= \overline{A}* \overline{B} A+B=A∗B
A B ‾ = A ‾ + B ‾ \overline{AB}= \overline{A}+ \overline{B} AB=A+B
交 换 律 ： A ∪ B = B ∪ A ； A ∩ B = B ∩ A 交换律：A∪ B=B∪A；A∩ B=B∩ A 交换律：A∪B=B∪A；A∩B=B∩A
结 合 律 ： A ∪ ( B ∪ C ) = ( A ∪ B ) ∪ C ； A ∩ ( B ∩ C ) = ( A ∩ B ) ∩ C 结合律：A∪ (B∪C)=(A∪B)∪C；A∩ (B∩ C)=(A∩ B)∩ C 结合律：A∪(B∪C)=(A∪B)∪C；A∩(B∩C)=(A∩B)∩C
分 配 率 ： A ∪ ( B ∩ C ) = ( A ∪ B ) ∩ ( A ∪ C ) ； A ∩ ( B ∪ C ) = ( A ∩ B ) ∪ ( A ∩ C ) 分配率：A∪ (B∩C)=(A∪ B)∩ (A∪C)；A∩(B∪ C)=(A∩B)∪ (A∩ C) 分配率：A∪(B∩C)=(A∪B)∩(A∪C)；A∩(B∪C)=(A∩B)∪(A∩C)
4 频率
在相同条件下进行N次试验，A发生K次，则称k/n为A发生的频率并记成 f n ( A ) f_n(A) fn(A)
5 概率
设E是随机试验，S是它的样本空间。对于E的每一事件A赋予一个实数，记作P(A)，称为事件A的概率
1: P ( ∅ ) = 0 P(∅)=0 P(∅)=0
2:有限可加性:对于互斥事件 P ( A 1 ∪ A 2 ∪ ⋅ ⋅ ⋅ ) = P ( A 1 ) + P ( A 2 ) + ⋅ ⋅ ⋅ + P ( A n ) P(A 1∪A 2∪⋅⋅⋅)=P(A 1)+P(A 2)+⋅⋅⋅+P(A n) P(A1∪A2∪⋅⋅⋅)=P(A1)+P(A2)+⋅⋅⋅+P(An)
3逆事件的概率公式: P ( A ) = 1 − P ( A ) P( A )=1−P(A) P(A)=1−P(A)
4:概率的加法公式: P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A B ) P(A∪B)=P(A)+P(B)−P(AB) P(A∪B)=P(A)+P(B)−P(AB)
5 概率的减法公式： P ( A − B ) = P ( A ) − P ( A B ) P(A-B)=P(A)-P(AB) P(A−B)=P(A)−P(AB)
6古典概型(等可能概型)
1：样本空间中个数有限
2：每个元素等可能发生P(A)=P(A1)=P(A2)…
3: P ( A ) = K / N = A 中 样 本 总 数 K / 样 本 总 数 N P(A)=K/N=A中样本总数K / 样本总数N P(A)=K/N=A中样本总数K/样本总数N
7条件概率
定义：设A,B是两个事件，且P(A)>0,A条件下B的概率称
P ( B ∣ A ) = P ( A B ) P ( A ) P ( B ∣ A ) = P ( A B ) P ( A ) P(B∣A)=P(AB)P(A) P(B|A)=\frac{P(AB)}{P(A)} P(B∣A)=P(AB)P(A)P(B∣A)=P(A)P(AB)
条件减法公式： P ( A − B ∣ C ) = P ( A ∣ C ) − P ( A B ∣ C ) P(A-B|C)=P(A|C)-P(AB|C) P(A−B∣C)=P(A∣C)−P(AB∣C)
条件加法公式： P ( A ∪ B ∣ C ) = P ( A ) + P ( B ∣ C ) − P ( A B ∣ C ) P(A∪B|C)=P(A)+P(B|C)−P(AB|C) P(A∪B∣C)=P(A)+P(B∣C)−P(AB∣C)
乘法定理 ：设P(A)>0,则有 P ( A B ) = P ( B ∣ A ) P ( A ) P(AB)=P(B∣A)P(A) P(AB)=P(B∣A)P(A)
P ( A B C ) = P ( C ∣ A B ) P ( B ∣ A ) P ( A ) P(ABC)=P(C∣AB)P(B∣A)P(A) P(ABC)=P(C∣AB)P(B∣A)P(A)
n事件的乘法公式：
P ( A 1 A 2 ⋅ ⋅ ⋅ A n ) = P ( A n ∣ A 1 A 2 ⋅ ⋅ ⋅ A n − 1 ) P ( A n − 1 ∣ A 1 A 2 ⋅ ⋅ ⋅ A n − 2 ) ⋅ ⋅ ⋅ P ( A 2 ∣ A 1 ) P ( A 1 ) P(A 1A 2 ⋅⋅⋅A n)=P(A n∣A 1 A 2 ⋅⋅⋅A n−1 )P(An−1 ∣A 1 A 2 ⋅⋅⋅A n−2 )⋅⋅⋅P(A 2 ∣A 1 )P(A 1 ) P(A1A2⋅⋅⋅An)=P(An∣A1A2⋅⋅⋅An−1)P(An−1∣A1A2⋅⋅⋅An−2)⋅⋅⋅P(A2∣A1)P(A1)
8完备事件组
若事件两两互斥，A1+A2+An+…=样本空间则称A1,A2,An为完备事件组
9全概率公式
设B1,B2,Bn为完备事件组，任意的A属于样本空间，则：
P ( A ) = P ( A B 1 ) + P ( A B 2 ) + ⋅ ⋅ ⋅ + P ( A B n ) P(A)=P(AB 1 )+P(AB 2 )+⋅⋅⋅+P(AB n ) P(A)=P(AB1)+P(AB2)+⋅⋅⋅+P(ABn)
则全概率公式：
P ( A ) = P ( A ∣ B 1 ) P ( B 1 ) + P ( A ∣ B 2 ) P ( B 2 ) + ⋅ ⋅ ⋅ + P ( A ∣ B n ) P ( B n ) P(A)=P(A∣B 1 )P(B 1 )+P(A∣B 2 )P(B 2 )+⋅⋅⋅+P(A∣B n )P(B n ) P(A)=P(A∣B1)P(B1)+P(A∣B2)P(B2)+⋅⋅⋅+P(A∣Bn)P(Bn)
10 贝叶斯公式
11独立性
AB为事件，若 P ( B ∣ A ) = P ( A B ) P ( A ) = P ( B ) P(B|A)=\frac{P(AB)}{P(A)}=P(B) P(B∣A)=P(A)P(AB)=P(B)
则： P ( A B ) = P ( A ) ∗ P ( B ) P(AB)=P(A) *P(B) P(AB)=P(A)∗P(B)称A,B独立
1：若 ( A , B ) ( A , B ‾ ) ( A ‾ , B ) ( A ‾ , B ‾ ) (A,B) (A,\overline{B})(\overline{A},B)(\overline{A},\overline{B}) (A,B)(A,B)(A,B)(A,B)有一对独立则全部独立
三事件独立
设A,B,C是三个事件，如果满足公式：
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
P ( B C ) = P ( B ) P ( C ) P(BC)=P(B)P(C) P(BC)=P(B)P(C)
P ( A C ) = P ( A ) P ( C ) P(AC)=P(A)P(C) P(AC)=P(A)P(C)
P ( A B C ) = P ( A ) P ( B ) P ( C ) P(ABC)=P(A)P(B)P(C) P(ABC)=P(A)P(B)P(C)
则称事件A,B,C 相互独立