贝叶斯滤波(Bayes filters)

细说贝叶斯滤波：Bayes filters

(一)概率论公式

1. 全概率公式：

离散情况下：
$$p(x)=\sum _{y}p(x,y)=\sum _{y}p(x|y)p(y)$$

连续情况下：
$$p(x)=\int p(x,y)dy=\int p(x|y)p(y)dy$$

2. 贝叶斯公式：
   $$P(x|y)=\frac{P(y|x)p(x)}{P(y)}$$

这里$x$一般是某种状态，$y$一般代表某种观测。$P(x|y)$表示基于观测对状态进行诊断或推断。
贝叶斯公式的分母项$P(y)$,与$P(x|y)$无关，可以把它作为归一化系数：
$$P(x|y)=\frac{P(y|x)p(x)}{P(y)}=\eta P(y|x)P(x)$$
$$\eta =P(y{)}^{-1}=\frac{1}{{\sum }_{x}P(y|x)P(x)}$$

3. 贝叶斯公式中融合多种预测

$$\begin{array}{l}P(x|y,z)=\frac{P(x,y,z)}{P(y,z)}\\ =\frac{P(y|x,z)p(x,z)}{P(y,z)}\\ =\frac{P(y|x,z)p(x|z)p(z)}{P(y|z)p(z)}\\ =\frac{P(y|x,z)p(x|z)}{P(y|z)}\end{array}$$

所以有$$P(x|y,z)=\frac{P(y|x,z)P(x|z)}{P(y|z)}$$
$$P(x,y,z)=P(x|y,z)P(y|z)P(z)$$
$$P(x,y,z)=P(y|x,z)P(x|z)P(z)$$

此外有其他形式：

$$\begin{array}{rl}P(x,y|z)& =\frac{P(x,y,z)}{P(z)}\\ & =\frac{P(x,y,z)}{P(y,z)}\cdot \frac{P(y,z)}{P(z)}\\ & =P(x|y,z)P(y|z)\end{array}$$

因此有 $$P(x,y|z)=P(x|y,z)p(y|z)$$

4. 贝叶斯递推公式

由此，我们来推导贝叶斯滤波的递推公式：

我们的目标是: $P(x|z_1,\dots ,z_n)$

这里我们把$z_n$看作$y$，把$z_1,\dots ,z_{n-1}$看作$z$，代入上面的公式中$$P(x|y,z)=\frac{P(y|x,z)P(x|z)}{P(y|z)}$$
得到：

$$P(x|z_1,\dots ,z_n)=\frac{P(z_n|x,z_1,\dots ,z_{n–1})P(x|z_1,\dots ,z_{n–1})}{P(z_n|z_1,\dots ,z_{n–1})}$$

再由Markov性质，在$x$已知的情况下，$z_n$与$\{z_1,\dots ,z_{n-1}\}$无关，所以：
$$\begin{array}{rl}P(x|z_1,\dots ,z_n)& =\frac{P(z_n|x,z_1,\dots ,z_{n–1})P(x|z_1,\dots ,z_{n–1})}{P(z_n|z_1,\dots ,z_{n–1})}\\ & =\frac{P(z_n|x)P(x|z_1,\dots ,z_{n–1})}{P(z_n|z_1,\dots ,z_{n–1})}\end{array}$$
从而我们得到贝叶斯的递推公式：
$$\begin{array}{rl}P(x|z_1,\dots ,z_n)& =\frac{P(z_n|x)P(x|z_1,\dots ,z_{n-1})}{P(z_n|z_1,\dots ,z_{n-1})}\\ & ={\eta }_{n}P(z_n|x)P(x|z_1,\dots ,z_{n-1})\\ & ={\eta }_{n}P(z_n|x){\eta }_{n-1}P(z_{n-1}|x)P(x|z_1,\dots ,z_{n-2})\\ & ={\eta }_1\cdots {\eta }_n\prod _{i=1\dots n}P(z_i|x)P(x)\end{array}$$

(二)如何融入动作

在实际问题中，对象总是处在一个动态变化的环境中，例如：

1. 机器人自身的动作影响了环境状态

2. 其它对象，比如人的动作影响了环境状态

3. 或者就是简单的环境状态随着时间发生了变化.

如何在Bayes模型中来描述动作的影响呢?

1. 首先，动作所带来的影响也总是具有不确定性的

2. 其次，相比于观测，动作一般会使得对象的状态更为模糊(或更不确定).

我们用$u$来描述动作，在$x^{\prime }$状态下，执行了动作$u$之后，对象状态改变为$x$的概率表述为：$$P(x|u,x^{\prime })$$
动作对状态的影响一般由状态转移模型来描述.

执行某一动作后，计算动作后的状态概率，需要考虑动作之前的各种状态情况，把所有情况用全概率公式计算：

$\cdot$ 连续情况下：
$$P(x|u)=\int P(x|u,x^{\prime })P(x^{\prime })d{x}^{\prime }$$

$\cdot$ 离散情况下：
$$P(x|u)=\sum P(x|u,x^{\prime })P(x^{\prime })$$

(三) 贝叶斯滤波算法

算法设定

由上述推导和示例，我们可以给出贝叶斯滤波的算法，算法的输入输出设定如下:

$1^{\circ }$ 系统输入

1. $1$到$t$时刻的状态观测和动作:$d_t=\{u_1,z_1,\dots ,u_t,z_t\}$

2. 观测模型：$P(z|x)$

3. 动作的状态转移模型 $P(x|u,x^{\prime })$

4. 系统状态的先验概率分布 $P(x)$.

$2^{\circ }$ 期望输出

计算状态的后延概率，称为状态的置信概率：$$Bel(x_t)=P(x_t|u_1,z_1,\dots ,u_t,z_t)$$

[z = observation, u = action,x = state ]

$3^{\circ }$算法的基本假设

贝叶斯滤波的基本假设：

1. Markov性假设:t时刻的状态由$t-1$时刻的状态和t时刻的动作决定。$t$时刻的观测仅同$t$时刻的状态相关，如下图所示：

$$p(z_t|x_{0:t},z_{1:t},u_{1:t})=p(z_t|x_t)$$$$p(x_t|x_{1:t-1},z_{1:t},u_{1:t})=p(x_t|x_{t-1},u_t)$$

2. 静态环境，即对象周边的环境假设是不变的.
3. 观测噪声、模型噪声等是相互独立的.

$4^{\circ }$ Bayes滤波算法
基于上述设定和假设，我们给出贝叶斯滤波算法的推导过程：
$$\begin{array}{l}\mathrm{Bel}\left(x_t\right)=P\left(x_t|u_1,z_1\dots ,u_t,z_t\right)\\ =\eta P\left(z_t|x_t,u_1,z_1,\dots ,u_t\right)P\left(x_t|u_1,z_1,\dots ,u_t\right)<-\text{ Bayes }\\ =\eta P\left(z_t|x_t\right)P\left(x_t|u_1,z_1,\dots ,u_t\right)<-\text{ Markov }\\ =\eta P\left(z_t|x_t\right)\int P\left(x_t|u_1,z_1,\dots ,u_t,x_{t-1}\right)P\left(x_{t-1}|u_1,z_1,\dots ,u_t\right)d{x}_{t-1}<-\text{ TotalProb. }\\ =\eta P\left(z_t|x_t\right)\int P\left(x_t|u_t,x_{t-1}\right)P\left(x_{t-1}|u_1,z_1,\dots ,u_t\right)d{x}_{t-1}<-\text{ Markov }\\ =\eta P\left(z_t|x_t\right)\int P\left(x_t|u_t,x_{t-1}\right)P\left(x_{t-1}|u_1,z_1,\dots ,z_{t-1}\right)d{x}_{t-1}<-\text{ Markov }\\ =\eta P\left(z_t|x_t\right)\int P\left(x_t|u_t,x_{t-1}\right)\mathrm{Bel}\left(x_{t-1}\right)d{x}_{t-1}\end{array}$$

其中第一步采用贝叶斯公式展开，第二步使用Markov性质($z_t$仅由$x_t$决定); 第三步使用全概率公式对$x_{t-1}$进行展开; 第四步继续使用Markov性质($x_t$仅由$x_{t-1}$和$u_t$决定);第五步继续使用Markov性质，因为$x_{t-1}$同$u_t$无关，最终得到$Bel(x_t)$的递推公式。

可见递推公式分为两个步骤，$\int P(x_t|u_t,x_{t-1})Bel(x_{t-1})d{x}_{t-1}$部分是基于$x_{t-1}$,$u_t$预测$x_t$的状态；$\eta P(z_t|x_t)$部分是基于观测$z_t$更新状态$x_t$.