数学小抄系列:舒尔补/schur补

介绍

舒尔补在机器学习中有着重要的作用,主要体现在多维高斯函数的边缘分布推导,以及条件分布推导的过程.在机器人学中的状态估计也有比较重要的作用.
下文记录(抄写)一个个人来说比较好理解的叙述(非讲解,不证明),来自于上交大许志钦老师的凸优化课程

公式叙述

舒尔补主要是告诉我们: $n\times n$的矩阵可以写为分块形式:
$$M={\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}_{n\times n}$$
其中A与D为方阵

• 若A为非奇异,则A在M中的舒尔补为$D-C{A}^{-1}B$
• 若D为非奇异,则D在M中的舒尔补为$A-B{D}^{-1}C$

若A为非奇异有:
$$\left[\begin{array}{cc}I& 0\\ -C{A}^{-1}& I\end{array}\right]\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\left[\begin{array}{cc}I& -A{B}^{-1}\\ 0& I\end{array}\right]=\left[\begin{array}{cc}A& 0\\ 0& D-C{A}^{-1}B\end{array}\right]$$

观察等号左侧,可知该过程是对M施加初等行列变换. 初等行列变换并不会改变原来矩阵的行列式的值

$$\left|\begin{array}{cc}A& B\\ C& D\end{array}\right|=\left|\begin{array}{cc}A& 0\\ 0& D-C{A}^{-1}B\end{array}\right|=|A||D-C{A}^{-1}B|$$

此时$M$非奇异有$D-C{A}^{-1}B$非奇异
同理, 当$D$非奇异时, $A-B{D}^{-1}C$非奇异

22/9/17 补充

$$\left[\begin{array}{cc}I& -B{D}^{-1}\\ 0& I\end{array}\right]\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\left[\begin{array}{cc}I& 0\\ -D^{-1}C& I\end{array}\right]=\left[\begin{array}{cc}A-B{D}^{-1}C& 0\\ 0& D\end{array}\right]$$