基本概念:
后验概率是信息理论的基本概念之一。在一个通信系统中,在收到某个消息之后,接收端所了解到的该消息发送的概率称为后验概率。
后验概率的计算要以先验概率为基础。后验概率可以根据通过贝叶斯公式,用先验概率和似然函数计算出来。
假设一个学校里有60%男生和40%女生。女生穿裤子的人数和穿裙子的人数相等,所有男生穿裤子。一个人在远处随机看到了一个穿裤子的学生。那么这个学生是女生的概率是多少?
使用贝叶斯定理,事件A是看到女生,事件B是看到一个穿裤子的学生。我们所要计算的是P(A|B)。
P(A)是忽略其它因素,看到女生的概率,在这里是40%
P(A')是忽略其它因素,看到不是女生(即看到男生)的概率,在这里是60%
P(B|A)是女生穿裤子的概率,在这里是50%
P(B|A')是男生穿裤子的概率,在这里是100%
P(B)是忽略其它因素,学生穿裤子的概率,P(B) = P(B|A)P(A) + P(B|A')P(A'),在这里是0.5×0.4 + 1×0.6 = 0.8。
根据贝叶斯定理,我们计算出后验概率P(A|B)
P(A|B)=P(B|A)*P(A)/P(B)=0.25
可见,后验概率实际上就是条件概率。
举一个简单的例子:一口袋里有3只红球、2只白球,采用不放回方式摸取,求:
⑴ 第一次摸到红球(记作A)的概率;
⑵ 第二次摸到红球(记作B)的概率;
⑶ 已知第二次摸到了红球,求第一次摸到的是红球的概率。
解:
⑴ P(A)=3/5,这就是验前概率;
⑵ P(B)=P(A)P(B|A)+P(A逆)P(B|A逆)=3/5
⑶ P(A|B)=P(A)P(B|A)/P(B)=1/2,这就是后验概率。
蒙特卡洛采样的思想就是用平均值来代替积分,求期望
这可以从大数定理的角度去理解它。我们用这种思想去指定不同的f(x)以便达到估计不同东西的目的。比如:要估计一批同龄人的体重,不分男女,在大样本中男的有100个,女的有20个,为了少做事,我们按比例抽取10个男的,2个女的,测算这12个人的体重求平均就完事了。注意这里的按比例抽取,就可以看成从概率分布p(x)中进行抽样。
1。建议分布自适应
2.状态空间自适应
3. 粒子数目自适应
4. 进化算子自适应
建议分布自适应和状态空间自适应通常是粒子数目自适应调整的重要原因。粒子数通过计算两个不同粒子数目的粒子集表示的近似分布之间的KL距离(KLD, Kullback-Leibler Divergence)的大小自适应地调整
模糊自适应粒子滤波算法FAPF,应用于移动机器人航迹推算系统传感器故障的诊断。核心是利用模糊逻辑表示领域知识,将采样空间约束到全状态空间的某一模糊子空间,模糊子空间可以自然地通过转移概率矩阵表示,从模糊子空间采样可以提高故障识别能力。
参考博文
https://blog.csdn.net/piaoxuezhong/article/details/78619150
一、贝叶斯滤波
假设有一个系统,我们知道他的状态方程,和测量方程如下:
其中x为系统状态,y为测量到的数据,f,h是状态转移函数和测量函数,v,n为过程噪声和测量噪声,噪声都是独立同分布的。
从贝叶斯理论的观点来看,状态估计问题(目标跟踪,信号滤波)就是根据之前一系列的已有数据y1:k(后验知识)递推的计算出当前状态xk的可信度,这个可信度就是概率公式p(xk|y1:k),它需要通过预测和更新两个步骤来递推的计算。
预测过程是利用系统模型(状态方程1)预测状态的的先验概率密度,也就是通过已有的先验知识对未来的状态进行猜测,即p(x(k)|x(k-1)).更新过程则利用最新的测量值对先验概率密度进行修正,得到后验概率密度,也就是对之前的猜测进行修正。
在处理这些问题时,一般都先假设系统的状态转移服从一阶马尔科夫模型,即当前时刻的状态x(k)只与上一个时刻的状态x(k-1)有关。这是很自然的一种假设,就像小时候玩飞行棋,下一时刻的飞机跳到的位置只由当前时刻的位置和骰子决定。同时,假设k时刻测量到的数据y(k)只与当前的状态x(k)有关,如上面的状态方程2。
为了进行递推,不妨假设已知k-1时刻的概率密度函数
预测:由上一时刻的概率密度得到,这个公式的含义是既然有了前面1:k-1时刻的测量数据,那就可以预测一下状态x(k)出现的概率。
计算推导如下:
等式的第一行到第二行纯粹是贝叶斯公式的应用。第二行得到第三行是由于一阶马尔科夫过程的假设,状态x(k)只由x(k-1)决定。