【贝叶斯滤波与卡尔曼滤波】 第四讲 连续随机变量的贝叶斯公式

声明：【贝叶斯滤波与卡尔曼滤波】系列是博主对B站up主：忠厚老实的老王所分享教学内容的学习笔记，并且该系列每篇博客都会将博主听课后总结的纸质版笔记附于文末，供大家参考。

B站up主：忠厚老实的老王是一位研究汽车领域，无人驾驶方向及其相关方向的大佬，也算是博主在无人驾驶方向的启蒙老师。所以研究相关领域的朋友推荐去听一听他的视频讲解。

---

1. 为何将传感器的准确度命名为“似然”？

似然：英文为Likelihood，意为可能性；相似，像；源自于最大似然估计。
表示这个原因最有可能（最像）是导致了哪个可能的结果。

举例如：A班：99男，1女。B班：1男，99女。
先随机抽一个班，在从此班抽一个人进行观测，结果是女。
则认为此女最有可能（最像）是从B班抽出来的。

2. 后验概率与似然概率的关系

$$P(状态|观测)=\eta \ast P(观测|状态)\ast P(状态)$$

将状态视为原因，观测视为结果。

后验概率即为由果推因。$$P(状{态}_1|观测),P(状{态}_2|观测),P(状{态}_3|观测)\cdots$$

似然概率即为由因推果。$$P(观测|状{态}_1),P(观测|状{态}_2),P(观测|状{态}_3)\cdots$$

两者是相对的。

3. 独立与存在函数关系

提问：如果两个随机变量存在一定的函数关系，两者是否一定不独立？
回答：不一定。
等价命题：如果两个随机变量相互独立，两者是否一定没有函数关系？
回答：不一定。

---

举例如：$Y$和$X$都是随机变量，满足一定的关系：$Y=f(X)$

$Y$与$X$可能独立，也可能不独立。

(1)、 $Y$与$X$满足一定关系，则两者不独立这种情况显然成立。

(2)、 $Y$与$X$满足一定关系，则两者独立：

解释：(举例必然事件与随机事件)

必然事件：$Y=X+1$
$P(X=1)=1，P(Y=2)=1，P(X=1,Y=2)=1$
$X=1$和$Y=2$之间相互独立。

随机事件：设有一个正态概率分布$N(\mu ,{\sigma }^2)$，$(\mu ,\sigma )$未知，从此分布中，抽取n个独立的样本$X_1,X_2,\cdots X_n$,则$X_1,X_2,\cdots X_n$独立同分布。
则随机变量$$\overline{X}=\frac{X_1+X_2+\cdots +X_n}{n}$$$$S^2=\frac{1}{n-1}\ast \sum _{i=1}^n(X_i-\overline{X}{)}^2$$
样本均值$\overline{X}$与样本方差$S^2$相互独立。

4. 连续随机变量的贝叶斯公式

贝叶斯公式：
$$P(X=x|Y=y)=\frac{P(Y=y|X=x)\ast P(X=x)}{P(Y=y)}$$

贝叶斯公式无法直接运用于连续随机变量。

如：使用贝叶斯公式求解连续随机变量
$$P(X<x,Y=y)=\frac{P(Y=y|X<x)\ast P(X<x)}{P(Y=y)}$$该式中：

$P(Y=y)=0$且$P(Y=y|X<x)$无实际意义。

---

对于连续随机变量的贝叶斯公式的推导中存在一个小技巧：

即为化积分为求和。

$$X<x⟹\sum _{u=-\infty }^{x}X=u$$

针对概率分布：
$$P(X<x|Y=y)=\sum _{u=-\infty }^{x}P(X=u|Y=y)$$$$=\sum _{u=-\infty }^x\frac{P(Y=y|X=u)\ast P(X=u)}{P(Y=y)}$$$$=\underset{\epsilon \to 0}{\lim }\sum _{u=-\infty }^x\frac{P(y<Y<y+\epsilon |X=u)\ast P(u<X<u+\epsilon )}{P(y<X<y+\epsilon )}$$$$=\underset{\epsilon \to 0}{\lim }\sum _{u=-\infty }^x\frac{(f_{Y|X}({\xi }_1|u)\ast \epsilon )\ast (f_X({\xi }_2)\ast \epsilon )}{f_Y({\xi }_3)\ast \epsilon }$$$$=\underset{\epsilon \to 0}{\lim }\sum _{u=-\infty }^x\frac{f_{Y|X}(y|u)\ast f_X(u)}{f_Y(y)}\ast \epsilon$$$$={\int }_{-\infty }^x\frac{f_{Y|X}(y|u)\ast f_X(u)}{f_Y(y)}du$$$$⟹{\int }_{-\infty }^x\frac{f_{Y|X}(y|x)\ast f_X(x)}{f_Y(y)}dx$$

该式即为连续随机变量的贝叶斯公式。

---

针对概率密度：
$$P(X<x|Y=y)={\int }_{-\infty }^x{f}_{X|Y}(x|y)dx$$

已知：
$$P(X<x|Y=y)={\int }_{-\infty }^x\frac{f_{Y|X}(y|x)\ast f_X(x)}{f_Y(y)}dx$$

可得：
$$f_{X|Y}(x|y)=\frac{f_{Y|X}(y|x)\ast f_X(x)}{f_Y(y)}$$$$=\eta \ast f_{Y|X}(y|x)\ast f_X(x)$$

该式即为连续随机变量的贝叶斯公式。

---

$$f_Y(y)={\int }_{-\infty }^{+\infty }f(y,x)dx$$

上式为联合概率密度与边缘概率密度的关系。

$$={\int }_{-\infty }^{+\infty }{f}_{Y|X}(y|x)\ast f_x(x)dx=C（常数）$$
即$\eta$为：

$$\eta =\frac{1}{{\int }_{-\infty }^{+\infty }{f}_{Y|X}(y|x)\ast f_x(x)dx}$$

注：博主笔记