随机马尔科夫链（Stochastic Markov Chain）卡尔曼滤波（Kalman Filter）

随机马尔科夫链（Stochastic Markov Chain）：

• $x_0$已知，$A,B,c,d,E,F$已知。
• $x_{t+1}=A{x}_t+c+ϵ$，$ϵ\sim \mathcal{N}(0,E)$。
• $o_{t+1}=B{x}_t+d+\delta$，$\delta \sim \mathcal{N}(0,F)$。
• 问题：
  • $t$滤波：$p(x_t\mid o_{1:t})$。
  • $t$预测：$p(x_t\mid o_{1:t-1})$。

卡尔曼滤波（Kalman Filter）：

• $t$滤波归结为$t-1$预测：
  • $p(x_t\mid o_{1:t})=\frac{p(o_{1:t-1})}{p(o_{1:t})}p(x_t,o_t\mid o_{1:t-1})\propto p(x_t,o_t\mid o_{1:t-1})$
  • $p(x_t,o_t\mid o_{1:t-1})=p(o_t\mid x_t,o_{1:t-1})p(x_t\mid o_{1:t-1})=p(o_t\mid x_t)p(x_t\mid o_{1:t-1})$
• $t-1$预测归结为$t-1$滤波：
  • $p(x_t\mid o_{1:t-1})=\int p(x_t,x_{t-1}\mid o_{1:t-1})\mathrm{d}{x}_{t-1}$
  • $p(x_t,x_{t-1}\mid o_{1:t-1})=p(x_t\mid x_{t-1},o_{1:t-1})p(x_{t-1}\mid o_{1:t-1})=p(x_t\mid x_{t-1})p(x_{t-1}\mid o_{1:t-1})$

基础知识：

• 仿射合同：$p(x)=\mathcal{N}({\mu }_1,{\Sigma }_1)$，$y=Ax+b$，$p(y)=\mathcal{N}(A{\mu }_1+b,A{\Sigma }_1{A}^T)$。
• 独立可加：$p(x_1)=\mathcal{N}({\mu }_1,{\Sigma }_1)$，$p(x_2)=\mathcal{N}({\mu }_2,{\Sigma }_2)$，$y=x_1+x_2$，$p(y)=\mathcal{N}({\mu }_1+{\mu }_2,{\Sigma }_1+{\Sigma }_2)$。
• 边缘正态：$p\left(\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]\right)=\mathcal{N}\left(\left[\begin{array}{c}{\mu }_1\\ {\mu }_2\end{array}\right],\left[\begin{array}{cc}{\Sigma }_{11}& {\Sigma }_{12}\\ {\Sigma }_{21}& {\Sigma }_{22}\end{array}\right]\right)$，$p(x_2\mid x_1)=\mathcal{N}({\mu }_2+{\Sigma }_{21}{\Sigma }_{11}^{-1}(x_1-{\mu }_1),{\Sigma }_{22}-{\Sigma }_{21}{\Sigma }_{11}^{-1}{\Sigma }_{12})$。
• $p(x)=\mathcal{N}({\mu }_x,{\Sigma }_x)$，$p(y\mid x)=\mathcal{N}(Ax+b,{\Sigma }_y)$，$p(y)=\mathcal{N}(A{\mu }_x+b,A{\Sigma }_x{A}^T+{\Sigma }_y)$。
• $p(x)=\mathcal{N}({\mu }_x,{\Sigma }_x)$，$p(y\mid x)=\mathcal{N}(Ax+b,{\Sigma }_y)$，$p(x\mid y)=\mathcal{N}({\mu }_x+{\Sigma }_x{A}^T(A{\Sigma }_x{A}^T+{\Sigma }_y{)}^{-1}(y-Ax-b),{\Sigma }_x-{\Sigma }_x{A}^T(A{\Sigma }_x{A}^T+{\Sigma }_y{)}^{-1}A{\Sigma }_x^T)$。

具体算法：

• $t-1$预测：
  • $p(x_t\mid o_{1:t-1})=\mathcal{N}({\mu }_t,{\Sigma }_t)$
  • ${\mu }_t=A{\mu }_{t-1}^{\ast }+c$
  • ${\Sigma }_t=A{\Sigma }_{t-1}^{\ast }{A}^T+E$
• $t$滤波：
  • $p(x_t\mid o_{1:t})=\mathcal{N}({\mu }_t^{\ast },{\Sigma }_t^{\ast })$
  • $K_t={\Sigma }_t{B}^T(B{\Sigma }_t{B}^T+F{)}^{-1}$
  • ${\mu }_t^{\ast }={\mu }_t+K_t(o_t-B{\mu }_t-d)$
  • ${\Sigma }_t^{\ast }={\Sigma }_t-K_{t}B{\Sigma }_t^T$