概率论基础

一、条件概率的三大公式

条件概率中的条件就代表观测变量，观测变量意思就是这个变量的取值是否已经定下来了

1.乘法公式

2.全概率公式

随机现象：在一定的条件下，并不总出现相同结果的现象称为随机现象。随机现象的各种结果会表现出一定的规律性，这种规律性称之为统计规律性。如投掷一枚硬币，正面朝上？反面朝上？

样本空间：随机试验是对随机现象进行的实验和观察，随机试验的每一个可能结果称为样本点；样本空间是指所有样本点构成的。

3.贝叶斯公式

二、独立性

1.独立性

2.条件独立性是概率图模型表示中最为重要的一个概念：

下图表示在给定C的条件下，A和B这两个变量是条件独立的，即已知赖床这个事件已经发生了，那么这个人是否熬夜就不会影响他是否迟到。由这个例子，我们可以根据条件独立性和联合概率分布链式法则推导得到贝叶斯网络定义里的联合概率表达形式的数学公式。

满足下图中以下任意一个条件，就能证明随便变量X和Y是条件独立的（第二个等式子表示的意思：给定Y和Z条件下的P(X)的概率等于给定Z条件下P(X)的概率）：

三、概率图模型常用的三个概念，对应概率图模型推理的三个任务

1.联合概率分布：指的是我们感兴趣的系统或者对象（X）包含了N个变量，这些变量分别取不同值的时候，它对应的概率值是多少：

2.边缘概率：边缘概率是指考虑联合概率分布的部分变量，其他不考虑的变量计算概率时要做边缘化求和，具体见下图公式：

3.最大后验概率状态：在联合概率分布里面，当每个变量分别取什么值的时候，使得联合概率分布的值最大。

四、概率影响的流动性

观测变量：变量的取值是否已经定下来了。
隐变量：变量取值未知。