27复矩阵和快速傅里叶变换

这一节，我们将会把线性代数扩展到新的数域，复数。

一、复数向量和复数矩阵

线性代数的完整讨论离不开复数。线性代数讨论到复数域，许多概念都会有新的扩展：如转置、正交、正交矩阵、模长等等。有了这些新的扩展概念，傅里叶矩阵（Fourier matrix）这类在工程领域广泛应用的复数矩阵也能够被我们用线性代数研究。傅里叶矩阵的特点就是列向量之间是相互正交的，当然这里说说的是复列向量。

共轭转置（Conjugate transpose）：
$${\bar{z}}^T=\left[\begin{array}{cccc}{\bar{z}}_1& {\bar{z}}_2& \cdots & {\bar{z}}_n\end{array}\right]$$
其中，$z$是一个复列向量。

复向量模长平方（Length squared）：
∣ ∣ z ∣ ∣ 2 = [ z ˉ 1 ⋯ z ˉ n ] [ z ˉ 1 ⋮ z ˉ n ] = ∣ z 1 ∣ 2 + ∣ z 1 2 + ⋯ + ∣ z n ∣ 2 \vert\vert z\vert\vert^2=\begin{bmatrix}\bar z_1&\cdots&\bar z_n\end{bmatrix}\begin{bmatrix}\bar z_1\\\vdots\\\bar z_n\end{bmatrix}=\vert{z_1}\vert ^2+\vert{z_1}^2+\cdots+\vert{z_n}\vert ^2 ∣∣z∣∣2=[zˉ1​​⋯​zˉn​​] ​zˉ1​⋮zˉn​​ ​=∣z1​∣2+∣z1​2+⋯+∣zn​∣2
也就是${\bar{z}}^{T}z=||z|{|}^2$，我们把对于矩阵（含列向量）的转置和共轭运算称为$Hermitian$运算。记作$z^H$。

定义复向量内积运算：
$${\bar{z}}^{T}z=z^{H}z=|z_1{|}^2+|{z_1}^2+\cdots +|z_n{|}^2$$

1.3 复对称矩阵

如果一个复矩阵满足：
$$Z^H=Z$$
那么这个矩阵就“Hermitian matrix”，显然其对角线必须是一个实数。如：$\left[\begin{array}{cc}2& 3+i\\ 3-i& 5\end{array}\right]$

这样的矩阵不仅特征值为正数，而且特征向量也相互正交。

1.4 酉矩阵（Unitary matrix）

一个复数矩阵如果满足：
$$Z^{H}Z=I$$
这个概念和单位正交概念对应。

二、傅里叶矩阵与快速傅里叶变换

2.1 傅里叶矩阵

傅里叶矩阵$F_n$本身也是一个酉矩阵，其形式如下：
[ 1 1 1 ⋯ 1 1 w w 2 ⋯ w n − 1 1 w 2 w 4 ⋯ w 2 ( n − 1 ) ⋯ ⋯ ⋯ ⋯ ⋯ 1 w n − 1 w 2 ( n − 1 ) ⋯ w ( n − 1 ) 2 ] \begin{bmatrix}1&1&1&\cdots&1\\ 1&w&w^2&\cdots&w^{n-1}\\ 1&w^2&w^4&\cdots&w^{2(n-1)}\\ \cdots&\cdots&\cdots&\cdots&\cdots\\ 1&w^{n-1}&w^{2(n-1)}&\cdots&w^{(n-1)^2} \end{bmatrix} ​111⋯1​1ww2⋯wn−1​1w2w4⋯w2(n−1)​⋯⋯⋯⋯⋯​1wn−1w2(n−1)⋯w(n−1)2​ ​
其中，$w$是一个复数：$w=e^{\frac{2\pi }{n}\cdot i}$，这里的$i$是一个复数，不是一个变量。容易得到以下结论：

• $w^n={(e^{\frac{2\pi }{n}\cdot i})}^n=e^{2\pi i}=1$

• $w^k={(e^{\frac{2\pi }{n}\cdot i})}^k=e^{k\cdot \frac{2\pi }{n}\cdot i}$ ，也就是多少次方等于均分圆的第几个

考虑4阶傅里叶矩阵：
F 4 = [ 1 1 1 1 1 w w 2 w 3 1 w 2 w 4 w 6 1 w 3 w 6 w 9 ] F_4=\begin{bmatrix} 1&1&1&1\\ 1&w&w^2&w^3\\ 1&w^2&w^4&w^6\\ 1&w^3&w^{6}&w^{9} \end{bmatrix} F4​= ​1111​1ww2w3​1w2w4w6​1w3w6w9​ ​
带入$w=e^{\frac{2\pi }{n}\cdot i}$有：
F 4 = [ 1 1 1 1 1 i − 1 − i 1 − 1 1 − 1 1 − i − 1 i ] F_4=\begin{bmatrix} 1&1&1&1\\ 1&i&-1&-i\\ 1&-1&1&-1\\ 1&-i&-1&i \end{bmatrix} F4​= ​1111​1i−1−i​1−11−1​1−i−1i​ ​
对应的共轭矩阵转置：
F H = F ˉ 4 T = [ 1 1 1 1 1 − i − 1 i 1 − 1 1 − 1 1 i − 1 − i ] F^H=\bar F_4^T= \begin{bmatrix} 1&1&1&1\\ 1&-i&-1&i\\ 1&-1&1&-1\\ 1&i&-1&-i \end{bmatrix} FH=Fˉ4T​= ​1111​1−i−1i​1−11−1​1i−1−i​ ​
首先，这个矩阵列之间是相互正交的，正交矩阵满足$Q{Q}^T=I$，不过到了复数则是满足：$Q{Q}^H=I$

有以下关系：
$$F_4^H{F}_4=4I$$
因为$|F_4|=|F_4^H|=2$，所以有：
$$(2F_4^H)(2F_4)=I$$
上面这个式子告诉我们，只需要将傅里叶矩阵正交化后其逆矩阵非常容易求解。

2.2 快速傅里叶矩阵(没咋看明白，有时间再看)

来看一下傅里叶矩阵每个元素的通项：
$$(F_n{)}_{ij}=W^{ij}$$
W的指数等于行序号乘以列序号。注意这里的$i$和$j$都是从0开始的自然数。

思考一个问题$F_{64}$和$F_{32}$的关系是什么？
答：$(W_{64}{)}^2=W_{32}$

这让我们看到一丝简化的希望：

$$\left[\begin{array}{c}{F}_{64}\end{array}\right]=\left[\begin{array}{cc}I& D\\ I& -D\end{array}\right]\left[\begin{array}{cc}{F}_{32}& 0\\ 0& F_{32}\end{array}\right]P$$
其中$P$是列的奇偶置换矩阵，矩阵$D$
D = [ 1 0 W 0 0 W 3 ] D=\begin{bmatrix}1&&&&&\\ 0&W&&&&\\ 0&0&W^3&&&&\\ &&&&&&\end{bmatrix} D= ​100​W0​W3​​​​​ ​
经过上述分解，就可以将计算出复杂度$\frac{1}{2}nlo{g}_{2}n$