多智能体一致性(Consensus)中的矩阵理论(Matrix Theory)

写在前面

最近在看一些分布式优化的文章，但是大部分文章都是用的离散时间算法。我之前一直研究的是连续时间一致性(consensus)控制问题，现在想把离散时间控制拾起来。

这篇文章前半部分讲解连续和离散系统的一致性算法，互相做个对比，加深一下印象和理解；后半部分回顾在算法证明中会用到的矩阵理论的基本知识。

下面进入文艺复兴环节，让我们回顾一下最经典的一致性算法和矩阵理论的基本知识吧。

一致性算法

考虑状态$x_i\in {\mathbb{R}}^m$，图$\mathcal{G}=(\mathcal{V},\mathcal{E})$和单积分器系统
$${\dot{x}}_i=u_i,i\in \mathcal{V}.$$

连续时间

首先，给出连续时间一致性算法：
$${\dot{x}}_i=-\sum _{j\in {\mathcal{N}}_i}{a}_{ij}(x_i-x_j),i\in \mathcal{V},$$
写成矩阵形式为
$$\dot{x}=-(L\otimes I_m)x,$$
其中$A=[a_{ij}]\in {\mathbb{R}}^{n\times n}$是邻接矩阵(adjacency matrix)，如果$(j,i)\in \mathcal{E}$，那么$a_{ij}>0$，否则$a_{ij}=0$；$L=[l_{ij}]\in {\mathbb{R}}^{n\times n}$是拉普拉斯矩阵(Laplacian matrix)，满足
$$l_{ii}=\sum _{j=1,j\ne i}^n{a}_{ij},l_{ij}=-a_{ij},i\ne j。$$

离散时间

然后，给出离散时间一致性算法：
$$x_{i,k+1}=\sum _{j\in {\mathcal{N}}_i}{d}_{ij}{x}_{i,k},i\in \mathcal{V},$$
写成矩阵形式为
$$x_{k+1}=(D\otimes I_m)x_k,$$
其中$k\in N$是离散时间指数(discrete-time index)；$D=[d_{ij}]\in {\mathbb{R}}^{n\times n}$是行随机矩阵(row-stochastic matrix)，满足$d_{ii}>0$对所有$i\in \mathcal{V}$成立，如果$(j,i)\in \mathcal{E}$，那么$d_{ij}>0$，否则$d_{ij}=0$。

Vicsek模型¹是离散时间一致性算法的特例，该模型中如果$(j,i)\in \mathcal{E}$，那么令$d_{ij}=\frac{1}{1+|{\mathcal{N}}_i|}$，$|{\mathcal{N}}_i|$表示智能体$i$的邻居(neighbor)个数。但是Vicsek模型不一定能保证为双随机矩阵(doubly-stochastic matrix)。已知$L$的情况下，令$D=e^{-L}$虽然可以得到双随机矩阵，但是无法保证分布式实现。

想要得到满足前面条件的双随机矩阵，一种简单的办法是：如果$(j,i)\in \mathcal{E}$，那么令$d_{ij}=1/g$，$d_{ii}=1-{\sum }_{j\ne i}{d}_{ij}$，其中$g>n$。

一致性证明

无论对于连续时间或是离散时间系统，状态$x$都可以写成关于$t$或$k$的函数，即
$$x(t)=(e^{-Lt}\otimes I_m)x(0)，$$
或者
$$x_k=(D^k\otimes I_m)x_0。$$
下面需要一致集$\mathcal{S}=\{x\in {\mathbb{R}}^{nm}|x_1=\cdots =x_n\}$是吸引(attractive)的正不变(positive invariant)集，即满足
$$\underset{t\to \infty }{\lim }{e}^{-Lt}=\underset{k\to \infty }{\lim }{D}^k=1_n{c}^T，$$
才有${\lim }_{t\to \infty }x(t)={\lim }_{k\to \infty }{x}_k=(1_n{c}^T\otimes I_m)x(0)$。

连续时间

定理1 (Lemma 2.6 ²)：拉普拉斯矩阵$L\in {\mathbb{R}}^{n\times n}$对应的$e^{-Lt},\forall t\ge 0$是主对角元大于0的行随机矩阵。另外，$\mathrm{Rank}(L)=n-1$当且仅当$L$有单个0特征根。此外，若$L$有单个0特征根，且$L^T$关于0特征根的标准化特征向量为$c$，即
$$1_n^{T}c=1,L^{T}c=0,$$
那么$e^{-Lt}\to 1_n{c}^T$，当$t\to \infty$。

证明：由于$L$是方阵，将$-L$特征分解(谱分解)得到$-L=PJ{P}^{-1}$，其中$P=[p_1,\cdots ,p_n]\in {\mathbb{R}}^{n\times n}$，$J=\mathrm{diag}(0,-{\lambda }_2,\cdots ,-{\lambda }_n)$。不失一般性，我们令$p_1=1_n$对应0特征根，而${\lambda }_2,\cdots ,{\lambda }_n$都大于0。

由矩阵指数的性质³，易知$e^{-Lt}=P{e}^{Jt}{P}^{-1}$。故$e^{-Lt}$有特征根1对应特征向量$1_n$，即$e^{-Lt}{1}_n=1_n$，因此是行随机矩阵。此外，可以看出$e^{Jt}\to \mathrm{diag}(1,0,\cdots ,0)$，当$t\to \infty$，即
$$P{e}^{Jt}{P}^{-1}\to \left[\begin{array}{cccc}{1}_n& p_2& \cdots & p_n\end{array}\right]\left[\begin{array}{cccc}1& 0& \cdots & 0\\ 0& 0& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & 0\end{array}\right]\left[\begin{array}{c}{c}^T\\ {\nu }_2^T\\ ⋮\\ {\nu }_n^T\end{array}\right],$$
当$t\to \infty$。故$e^{-Lt}\to 1_n{c}^T$，当$t\to \infty$，又因为$e^{-Lt}$行随机，即$e^{-Lt}{1}_n=1_n(c^T{1}_n)=1_n$，故$1_n^{T}c=1$。

引理1 (Lemma C.2)：给定矩阵$A\in {\mathbb{R}}^{n\times n}$和特征根$\lambda \in \mathbb{C}$，假设$x,y$满足(i)$Ax=\lambda x$，(ii)$A^{T}y=\lambda y$，(iii)$x^{T}y=1$。如果$|\lambda |=\rho (A)>0$，其中$\rho (A)$为$A$的谱半径，且$\lambda$是唯一具有最大模数(maximum modulus)的特征根，那么${\lim }_{m\to \infty }({\lambda }^{-1}A{)}^m\to x{y}^T$。

$A\in {\mathbb{R}}^{n\times n}$是可约矩阵(reducible)，即要么为全0矩阵，要么存在置换矩阵$P\in {\mathbb{R}}^{n\times n}$使得$P^{T}AP$为分块上三角阵(block upper triangular form)。 $A\in {\mathbb{R}}^{n\times n}$是非负矩阵(nonnegative)，即所有元素都大于等于0。

命题1 (Lemma C.3)：方阵$A\in {\mathbb{R}}^{n\times n}$是不可约的当且仅当与矩阵$A$对应的有向图$\Gamma (A)$是强连通的。

引理2 (Lemma C.4)：如果$A\in {\mathbb{R}}^{n\times n}$是非负的不可约(irreducible)矩阵，那么$\rho (A)$是$A$的一个特征根，且存在一个非0特征向量$x\ge 0$(即非负)使得$Ax=\rho (A)x$。

接下来需要证明$c\ge 0$且$c$是$L$关于0的左特征向量，即$L^{T}c=0$。由引理1和引理3可得，$c$是$(e^{-L}{)}^T$的关于1的特征向量，再由下章的定理1.1，$c$是$L^T$关于0的特征向量。由引理2可知，$c\ge 0$。$L$是不可约矩阵可由强连通性保证，下面的引理3证明$L$的单个0特征根性质。

一般来说，$L$有至少一个0特征根，而圆盘定理(Gershgorin’s disc theorem)只能确保$L$的根都位于右半平面或虚轴上，但无法保证0特征根只有一个。事实上，当图$\mathcal{G}$不连通时，可能有多个0特征根，且0特征根的个数等于图的连通分量个数。

引理3 (Lemma 2.4)：给定矩阵$A\in {\mathbb{R}}^{n\times n}$，其中$a_{ii}\le 0$，$a_{ij}\ge 0$，$\forall i\ne j$，且${\sum }_{j=1}^n{a}_{ij}=0$对任意$i$成立，那么$A$有至少一个0特征根和相关的特征向量$1_n$，其他非0特征根都位于右半开平面。此外，$A$有唯一的0特征根，当且仅当$A$对应的有向图$\Gamma (A)$有一个有向生成树(directed spanning tree)。

离散时间

引理4 (Lemma 2.16)：如果一个非负矩阵$A=[a_{ij}]\in {\mathbb{R}}^n$满足${\sum }_{j=1}^n{d}_{ij}=\mu >0$，那么$\mu$是$A$关于特征向量$1_n$的一个特征根，且$\rho (A)=\mu$，其中$\rho (\cdot )$表示谱半径。另外，特征根$\mu$的代数重数(algebraic multiplicity)为1，当且仅当$A$对应的有向图$\Gamma (A)$有一个有向生成树。此外，如果$d_{ii}>0,i=1,\cdots ,n$，(i) 那么$|\lambda |<\mu$对任意$\lambda \ne \mu$成立，(ii) 如果有向图$\Gamma (A)$有一个有向生成树，那么$\mu$是唯一具有最大模数的特征根。

证明：矩阵$A$行和为$\mu$，即$A{1}_n=\mu 1_n$。再由非负性和圆盘定理，$\rho (A)\le \mu$。故$\mu$是$A$关于特征向量$1_n$的一个特征根，且$\rho (A)=\mu$。

(充分性) 若$A$对应的有向图$\Gamma (A)$有一个有向生成树，令$B=A-\mu I$，则$B$满足引理3的条件。$B$的0根的代数重数为1，自然$A$的$\mu$根代数重数也为1。

(必要性) (逆否) 若$A$对应的有向图$\Gamma (A)$没有向生成树，令$B=A-\mu I$，则$B$有不止一个0根，$A$的$\mu$根代数重数大于1。

定理2 (Perron-Frobenius theorem)：如果$A\in {\mathbb{R}}^{n\times n}$非负且不可约，那么 (i) $\rho (A)>0$，(ii) $\rho (A)$是$A$的一个特征根，(iii) 存在正向量$x$使得$Ax=\rho (A)x$，(iv) $\rho (A)$是$A$的一个代数重数为1(几何重数也为1)的特征根。

一个行随机矩阵$A$是不可分解且非周期的(indecomposable and aperiodic, SIA)，如果${\lim }_{k\to \infty }{A}^k=1_n{\nu }^T$，即极限存在且每一行都相同。

定理3 (Lemma 2.19)：给定行随机矩阵$A\in {\mathbb{R}}^{n\times n}$。如果$A$有代数重数为1的特征根$\lambda =1$，且其他特征根满足$|\lambda |<1$，那么$A$是SIA。特别地，${\lim }_{m\to \infty }{A}^m\to 1_n{\nu }^T$，其中$A^T\nu =\nu$且$1_n^T\nu =1$。此外，$\nu$的每一个元素非负。

证明：SIA和左特征向量可由引理1直接推出。而$A$和$A^T$特征根相同(下章的结论2.1)，由引理2可知特征根1对应的特征向量非负。

矩阵理论

主要介绍了特征值、特征向量、特征多项式、代数重数、几何重数以及重要的性质⁴⁵。

特征值和特征向量

这个定理前面有用到，如果0是$L$的一个特征根，那么$e^0=1$也是$e^{-L}$的一个特征根，且它们相应的特征向量都为$1_n$，反之也一样。

定义$\sigma (A)$为矩阵$A$的特征根集。有几个重要性质：

$n$ 阶方阵$A$是非奇异方阵的充要条件是$A$可逆，即可逆方阵就是非奇异方阵。以下命题等价：

• 一个矩阵非奇异当且仅当它的行列式不为零。
• 一个矩阵非奇异当且仅当它代表的线性变换是个自同构。
• 一个矩阵半正定当且仅当它的每个特征值大于或等于零。
• 一个矩阵正定当且仅当它的每个特征值都大于零。
• 一个矩阵非奇异当且仅当它的秩为$n$（满秩）。

证明：如果$\lambda \in \sigma (A)$，则存在一个非零向量$x$，使得$Ax=\lambda x$，从而$(A+\mu I)x=Ax+\mu x=\lambda x+\mu x=(\lambda +\mu )x$。于是$\lambda +\mu \in \sigma (A+\mu I)$。反过来，如果$\lambda +\mu \in \sigma (A+\mu I)$，则存在非零向量$y$，使得$Ay+\mu y=(A+\mu I)y=(\lambda +\mu )y=\lambda y+\mu y$。于是$Ay=\lambda y$, 从而$\lambda \in \sigma (A)$。

特征多项式

证明：

1. 多项式次数最高的两项和常数项已经给出，而其他求和项包含非对角因子$-a_{ij}$，故次数不会大于$n-2$，因为$t-a_{ij}$和$t-a_{jj}$不是因子。
2. $p_A(\lambda )=0\iff \det (\lambda I-A)=0\iff (\lambda I-A)x=0,x\ne 0\iff \lambda \in \sigma (A)$
3. 次数为$n⩾1$的多项式至多有$n$个不同零点。

$p_A(t)$的零点之和是$A$的迹$\mathrm{tr}(A)$，而零点之积则是$A$的行列式$\det (A)$。

代数重数

$\lambda$的代数重数是特征方程里面有几个根是$\lambda$。

矩阵的谱半径(spectral radius)是模最大特征根对应的模数。

上述定理表明，一个奇异的复矩阵总可以稍加平移使之成为非奇异的。

几何重数

证明：由于$\det (tI-A^T)=\det (tI-A{)}^T=\det (tI-A)$, 我们有$p_{A^T}(t)=p_A(t)$, 所以有$p_A^T(\lambda )=0$ 当且仅当 $p_A(\lambda )=0$。 类似地，$\det (\bar{t}I-A^{\ast })=\det [(tI-A{)}^{\ast }]=\overline{\det (tI-A)}$, 所以$p_{A^{\ast }}(\bar{t})=\overline{p_A(t)}$, 又$p_A^{\ast }(\bar{\lambda })=0$当且仅当$p_A(\lambda )=0$。

如果$x,y\in {\mathbb{C}}^n$两者都是$A\in M^n$的与特征值$\lambda$相伴的特征向量，那么$x$与$y$的任何非零的线性组合也是它的与$\lambda$相伴的特征向量 。实际上，与一个给定的$\lambda \in \sigma (A)$相伴的所有特征向量组成的集合与零向量合起来作成${\mathbb{C}}^n$的一个子空间，该子空间就是$A-\lambda I$的零空间，就是齐次线性方程组$(A-\lambda I)x=0$的解集，由秩的关系知其维数是 $n-\mathrm{rank}(A-\lambda I)$。该空间有个名字就是特征空间，下面给出特征空间的完整定义：

介绍完特征空间，就可以定义几何重数了，特征空间的维数即为几何重数。

可以证明特征值的几何重数小于或者等于它的代数重数的。

即，几何重数$=n-\mathrm{rank}(A-\lambda I)\le k=$代数重数。

一个矩阵可对角化，当且仅当它是无亏的；它有完全不同的特征值，当且仅当它是无损的且是无亏的。考虑以下矩阵的特征值$\lambda =1$, 矩阵$\left[\begin{array}{cc}1& 0\\ 0& 2\end{array}\right]$，代数重数等于它的几何重数且都是 1, 它是无亏的，单位矩阵$I_2$是无亏的且是有损的，矩阵$\left[\begin{array}{cc}1& 1\\ 0& 1\end{array}\right]$，几何重数是1, 代数重数是2，它是有亏的且是无损的。

尽管$A$与$A^T$有相同的特征值，它们与给定特征值相伴的特征空间有可能是不同的。比如，矩阵$A=\left[\begin{array}{cc}2& 3\\ 0& 4\end{array}\right]$，那么$A$的与特征值2相伴的（一维）特征空间是由$\left[\begin{array}{c}1\\ 0\end{array}\right]$生成的，而$A^T$的与特征值2相伴的特征空间是由$\left[\begin{array}{cc}1& 0\\ 0& -3/2\end{array}\right]$生成的。

总结

• $\lambda$的代数重数是特征方程里面有几个根是$\lambda$。
• $\lambda$的几何重数是线性空间$Ax=\lambda x$的维数。
• 代数重数大于等于几何重数，代数重数如果大于几何重数，那么原因在于这个矩阵的Jordan标准型里面有维数大于1的Jordan块。
• 强连通$\iff$有向生成树$\iff$不可约$\iff$最大模数特征根代数重数为1$\iff$相应特征向量非负
• 如果是行随机，则上面条件$\iff$SIA$\iff$极限为$1_n{\nu }^T$，其中$\nu$为左特征向量

---

1. Vicsek, T., Czirók, A., Ben-Jacob, E., Cohen, I., Shochet, O. (1995). Novel type of phase transition in a system of self-driven particles. Physical review letters, 75(6), 1226. ↩︎

2. Ren, W., & Beard, R. W. (2008). Distributed consensus in multi-vehicle cooperative control . London: Springer London. ↩︎

3. 矩阵指数. (2020, September 15). Retrieved from 维基百科, 自由的百科全书: https://zh.wikipedia.org/w/index.php?title=%E7%9F%A9%E9%98%B5%E6%8C%87%E6%95%B0&oldid=61692808 ↩︎

4. 特征值和特征向量. 小鱼吻水. https://www.cnblogs.com/zhoukui/p/7672972.html ↩︎

5. 特征多项式、代数重数与几何重数. 小鱼吻水. https://www.cnblogs.com/zhoukui/p/7685318.html ↩︎