概率论基本概念

1、随机试验T:同条件可重复进行,结果预知但不能确定。

2、基本事件(样本点):随机试验的每一个可能结果,其集合(所有结果)构成样本空间。

3、随机事件A:随机试验中,对一次试验而言,可能出现或者不出现的事情。为基本事件的集合,样本空间的子集。

4、概率:随机事件出现可能性大小的数值。

5、古典概型:结果有限,机会均等。

6、古典概型中,事件A的概率P(A)=事件A包含的基本事件数/基本事件总数,表示A出现可能性的大小

7、不相容:AB不相交,即A和B不同时出现,或者说A和B中没有相同的基本事件。

8、任意随机试验中,事件A的频率fn(A)=n次试验中A出现的次数/n,表示A出现可能性的大小

9、概率的公理化定义:P(A)非负、规范、完全可加(对不相容事件)。

10、条件A下B的概率:P(B|A ) A已经出现条件下,B出现的概率。P(B|A )=定义=P(AB)/P(A)

11、事件B对事件A独立:P(B|A )=P(B),P(A)>0。即B出现的概率与A出不出现无关。

性质:A、B相互独立的充要条件为P(AB )=P(A)P(B )。

12、贝努里概型:将试验重复进行n次,如果每次试验的结果都不影响其它各次试验结果出现的概率,即各次试验结果相互独立,则称这n次重复试验是n次重复独立试验,如果在n次重复独立试验中,每次试验的结果只有两个:A和非A,且P(A)=p,P(非A)=1-p=q(0

13、随机变量(random variable)的本质是一个函数,是从样本空间的子集到实数的映射,将事件转换成一个数值。

14、随机变量的相互独立性:

    参考:P(B|A )=定义=P(AB)/P(A)

    概率论基本概念_第1张图片

    上述红色等号在随机变量X、Y相互独立下成立!

概率论基本概念_第2张图片

 

15、数学期望:随机变量的各取值按概率累计。     

 16、方差:度量随机变量和其数学期望(即均值)之间的偏离程度。

          D(X)=E{[X-E(X)]^2}=E(X^2) - [ E(X)]^2    D(X)=

(x-μ)^2 f(x) dx

 

17、协方差(相关距、二阶混合中心距):用于衡量两个随机变量的总体误差。

 

       性质:

                D(X+Y)=D(X)+D(Y)+2Cov(X,Y)
                D(X-Y)=D(X)+D(Y)-2Cov(X,Y)
 
18、相关系数:表示随机变量X和Y之间的线性相关的程度。
        ??Cov(X,Y)进行归一化处理成无量纲的量【-1,1】

 

 概率论基本概念_第3张图片

 19、大数定??一组相互独立随机变量的和依概率收敛于其数学期望的和。点击打开链接

20、中心极限定理:??一组相互独立随机变量的和近似服从正态分布。点击打开链接

 

切比雪夫不等式(英语:Chebyshev's Inequality)显示了随机变量的“几乎所有”值都会“接近”平均。切比雪夫不等式,对任何分布形状的数据都适用。

设随机变量X的数学期望和方差都存在,则对任意常数 ε>0,有P( | X - E(X) | ≥ ε ) ≤ D(X) / ε² ,或P( | X - E(X) | < ε ) ≥ 1 - D(X) / ε²

 

 

你可能感兴趣的:(机器学习笔记)