概率和统计学基础

概率

条件概率

P(B|A) = P(AB) / P(A)

P(ABC) = P(C|AB)P(B|A)P(A) = P(A|BC)P(B|C)P©

全概率公式

全概率就是表示达到某个目的，有多种方式（完备事件组），问达到目的的概率是多少（造成这种结果的概率是多少）?

P(A) = P(AB1) + P(AB2) + P(AB3) = P(A|B1)P(B1) + P(A|B2)P(B2) + P(A|B3)P(B3)

贝叶斯公式

贝叶斯公式就是当已知结果，问导致这个结果的第i原因的可能性是多少？执果索因！

总结

• 乘法公式、全概率公式和贝叶斯公式
  1. 乘法公式是求“几个事件同时发生”的概率；
  2. 全概率公式是求“最后结果”的概率；
  3. 贝叶斯公式是已知“最后结果” ，求“某个事件”的概率.
• 先验概率和后验概率
  1. P(Bj|A)是在事件A发生的条件下, 某个事件Bj发生的概率, 称为 “后验概率”;
  2. Bayes公式又称为“后验概率公式”戒“逆概公式”;
  3. 称P(Bj) 为“先验概率”

相互独立事件、互斥事件、对立事件

• 相互独立事件：风马牛不相及。两个事件没有一点关系。例如，A、Ｂ分别表示甲、乙 两人患感冒，且甲乙两人的活动范围相距甚进，那么甲是否患感冒跟乙没什么关系， 所以可以认为A、B独立。
• 互斥事件：要么只有其中一个事件发生，要么两个事件都不发生。在某次抽奖活动中， 一等奖只有一个名额，A={甲中一等奖}，B={乙中一等奖}。那么A、B互为互斥事件， 实际情况可能是甲中一等奖，可能是乙中一等奖，当然，更有可能甲乙都不中奖。
• 对立事件：两个只能活一个，不是你死就是我亡。跟互斥事件相比，对立事件必然会 有一个事件发生。例如在上述的抽奖活动中，C={甲不中一等奖}，那么Ａ不Ｃ是对立 事件。
• 互斥事件不对立事件都不是相互独立事件

统计学基础

离散型分布

（0-1）分布——the Bernoulli distribution

​ 0—1分布就是n=1情况下的二项分布。即只先进行一次事件试验，该事件发生的概率为p，不发生的概率为1-p。这是一个最简单的分布，任何一个只有两种结果的随机现象都服从0-1分布。

二项分布

​ 二项分布是由伯努利提出的概念，指的是重复n次独立的伯努利试验。在每次试验中只有两种可能的结果，而且两种结果发生与否互相对立，并且相互独立，与其它各次试验结果无关，事件发生与否的概率在每一次独立试验中都保持不变，则这一系列试验总称为n重伯努利实验，当试验次数为1时，二项分布服从0-1分布。

泊松分布

​ 泊松分布的概率函数为：

​ 泊松分布的参数λ是单位时间(或单位面积)内随机事件的平均发生次数。 泊松分布适合于描述单位时间内随机事件发生的次数。

​ 当二项分布的n很大而p很小时，泊松分布可作为二项分布的近似，其中λ为np。通常当n≧20,p≦0.05时，就可以用泊松公式近似得计算。事实上，泊松分布正是由二项分布推导而来的

连续型分布

连续型随机变量

对于随机变量X，若存在一个非负的可积函数f(x)，使得对任意实数x，有

则称X为连续性随机变量。其中f(x)为X的概率分布密度函数，简称概率密度记为X～f(x)。

单纯的讲概率密度没有实际的意义，它必须有确定的有界区间为前提。可以把概率密度看成是纵坐标，区间看成是横坐标，概率密度对区间的积分就是面积，而这个面积就是事件在这个区间发生的概率，所有面积的和为1。所以单独分析一个点的概率密度是没有任何意义的，它必须要有区间作为参考和对比。

均匀分布——Uniform distribution

正态分布

一维正态分布

若随机变量 X服从一个位置参数为u，、尺度参数为a的概率分布，且其概率密度函数为

则这个随机变量就称为正态随机变量，正态随机变量服从的分布就称为正态分布，记作

μ维随机向量具有类似的概率规律时，称此随机向量遵从多维正态分布。多元正态分布有很好的性质，例如，多元正态分布的边缘分布仍为正态分布，它经任何线性变换得到的随机向量仍为多维正态分布，特别它的线性组合为一元正态分布。

标准正态分布

当u=0，a=1时，正态分布就成为标准正态分布

数学期望

在概率论和统计学中，数学期望(mean)（或均值，亦简称期望）是试验中每次可能结果的概率乘以其结果的总和，是最基本的数学特征之一。它反映随机变量平均取值的大小。

随机变量的期望值=均值

(0-1)分布的数学期望

结论：若X服从参数为p的（0-1）分布，则E(X)=p

二项分布的数学期望

连续型随机变量的数学期望

均匀分布的数学期望

（a+b）/ 2 可以根据连续型的计算

正态分布的数学期望