AI 人工智能之概率论基础(概念总结和复习)

样本空间：将随机试验E的所有可能结果组成的集合称为E的样本空间，记为S。 样本点：构成样本空间的元素，即E中的每个结果，称为样本点。 
频数：事件A发生的次数 。
频率：频数/总数。
概率：当重复试验的次数n逐渐增大，频率值就会趋于某一稳定值，这个值就是概率。 概率的特点：1）非负性。2）规范性。3）可列可加性。
概率性质：1）P(空集)=0，2）有限可加性，3）加法公式：P(A+B)=P(A)+P(B)-P(AB)

条件概率：A事件发生条件下B发生的概率P(B|A)=P(AB)/P(A)。 乘法公式：P(AB)=P(B|A)P(A)。 

全概率公式：

贝叶斯公式：
   注：上述公式中事件 的个数可为可列个。

独立性检验：设 A、B是两事件，如果满足等式 P(AB)=P(A)P(B) 则称事件A、B相互独立，简称A、B独立。
随机变量：设随机试验的样本空间为S={e}。 X=X(e)是定义在样本空间S上的单值函数，称X=X(e)为随机变量。
三大离散型随机变量的分布:
1）(0-1）分布：E(X)=p, D(X )=p(1-p)
2）伯努利试验：设试验E只有两个可能结果，A和非A,则称E为伯努利试验。成功概率为p，则失败概率为q=1-p。 均值：E(X)=p, 方差：D(X)=p(1-p)。概率质量函数为：P(x) = p^x(1-p)^(1-x),  x=0,1。
3) 泊松分布：设随机变量 X 取值为0, 1, … ，分布律为 ：称X服从参数为 λ 的泊松分布，记为X~P(λ)。

随机变量及概率分布: 取值带有随机性的变量，严格地说是定义在样本空间上，取值于实数的函数称为随机变量，概率分布通常指分布函数或分布律。 称为随机变量X的概率分布，成为分布律。
随机变量的分布函数：设X是一个随机变量，x是任意的实数，则函数 F(x)=P(X≤x) 为随机变量X的分布函数。分布函数是一个累计概率。分布函数的性质：　　
1） F(x) 是一个不减函数;    2） 0≤ F(x) ≤1;    3）P(a) = 0, F() = 1
离散型随机变量的概率分布：

连续性随机变量及其概率密度：连续性随机变量的分布函数等于其概率密度函数在负无穷到x的变上限广义积分。相反密度函数等与对应区间上分布函数的导数。概率密度函数 f(x) 的性质：
(1）f(x) ≥ 0;  (2)   3）x为f(x)的连续点，则:

对任意一点a，始终有P(X=a)=0.

均匀分布：若连续型随机变量X具有概率密度为，则称X在区间（a,b）上服从均匀分布 X~U(a,b)。

指数分布：概率密度为，其中为常数。

正态分布：概率密度为，其中为常数。记为X~。特殊的当时，称X服从标准正态分布，即X~N(0,1)。

随机变量函数的概率分布：

二维随机变量及其联合分布
　　定义 设(X，Y)是二维随机变量，对于任意实数x, y 的二元函数 F(X, Y)=P[X≤x, Y≤y] 称为二维随机变量(X，Y)的分布函数或称为随机变量联合分布函数
由两个随机变量构成的随机向量(X,Y)， 联合分布为F(x,y)=P(X≤x,Y≤y)。

二维离散型随机变量的分布

 二维连续性随机变量的密度

数学期望

 性质：

方差

 

 标准差：

 离散型：

连续型：