27复矩阵和快速傅里叶变换
这一节，我们将会把线性代数扩展到新的数域，复数。
一、复数向量和复数矩阵
线性代数的完整讨论离不开复数。线性代数讨论到复数域，许多概念都会有新的扩展：如转置、正交、正交矩阵、模长等等。有了这些新的扩展概念，傅里叶矩阵（Fourier matrix）这类在工程领域广泛应用的复数矩阵也能够被我们用线性代数研究。傅里叶矩阵的特点就是列向量之间是相互正交的，当然这里说说的是复列向量。
共轭转置（Conjugate transpose）：
z ˉ T = [ z ˉ 1 z ˉ 2 ⋯ z ˉ n ] \bar z^T=\begin{bmatrix}\bar z_1&\bar z_2&\cdots &\bar z_n \end{bmatrix} zˉT=[zˉ1zˉ2⋯zˉn]
其中， z z z是一个复列向量。
复向量模长平方（Length squared）：
∣ ∣ z ∣ ∣ 2 = [ z ˉ 1 ⋯ z ˉ n ] [ z ˉ 1 ⋮ z ˉ n ] = ∣ z 1 ∣ 2 + ∣ z 1 2 + ⋯ + ∣ z n ∣ 2 \vert\vert z\vert\vert^2=\begin{bmatrix}\bar z_1&\cdots&\bar z_n\end{bmatrix}\begin{bmatrix}\bar z_1\\\vdots\\\bar z_n\end{bmatrix}=\vert{z_1}\vert ^2+\vert{z_1}^2+\cdots+\vert{z_n}\vert ^2 ∣∣z∣∣2=[zˉ1⋯zˉn] zˉ1⋮zˉn =∣z1∣2+∣z12+⋯+∣zn∣2
也就是 z ˉ T z = ∣ ∣ z ∣ ∣ 2 \bar z^Tz=\vert\vert z\vert\vert^2 zˉTz=∣∣z∣∣2，我们把对于矩阵（含列向量）的转置和共轭运算称为 H e r m i t i a n Hermitian Hermitian运算。记作 z H z^H zH。
定义复向量内积运算：
z ˉ T z = z H z = ∣ z 1 ∣ 2 + ∣ z 1 2 + ⋯ + ∣ z n ∣ 2 \bar z^Tz=z^Hz=\vert{z_1}\vert ^2+\vert{z_1}^2+\cdots+\vert{z_n}\vert ^2 zˉTz=zHz=∣z1∣2+∣z12+⋯+∣zn∣2
1.3 复对称矩阵
如果一个复矩阵满足：
Z H = Z Z^H=Z ZH=Z
那么这个矩阵就“Hermitian matrix”，显然其对角线必须是一个实数。如： [ 2 3 + i 3 − i 5 ] \begin{bmatrix}2&3+i\\3-i&5\end{bmatrix} [23−i3+i5]
这样的矩阵不仅特征值为正数，而且特征向量也相互正交。
1.4 酉矩阵（Unitary matrix）
一个复数矩阵如果满足：
Z H Z = I Z^HZ=I ZHZ=I
这个概念和单位正交概念对应。
二、傅里叶矩阵与快速傅里叶变换
2.1 傅里叶矩阵
傅里叶矩阵 F n F_n Fn本身也是一个酉矩阵，其形式如下：
[ 1 1 1 ⋯ 1 1 w w 2 ⋯ w n − 1 1 w 2 w 4 ⋯ w 2 ( n − 1 ) ⋯ ⋯ ⋯ ⋯ ⋯ 1 w n − 1 w 2 ( n − 1 ) ⋯ w ( n − 1 ) 2 ] \begin{bmatrix}1&1&1&\cdots&1\\ 1&w&w^2&\cdots&w^{n-1}\\ 1&w^2&w^4&\cdots&w^{2(n-1)}\\ \cdots&\cdots&\cdots&\cdots&\cdots\\ 1&w^{n-1}&w^{2(n-1)}&\cdots&w^{(n-1)^2} \end{bmatrix} 111⋯11ww2⋯wn−11w2w4⋯w2(n−1)⋯⋯⋯⋯⋯1wn−1w2(n−1)⋯w(n−1)2
其中， w w w是一个复数： w = e 2 π n ⋅ i w=e^{\frac{2\pi}{n}\cdot i} w=en2π⋅i，这里的 i i i是一个复数，不是一个变量。容易得到以下结论：
-
w n = ( e 2 π n ⋅ i ) n = e 2 π i = 1 w^n={(e^{\frac{2\pi}{n}\cdot i})}^n=e^{2\pi i}=1 wn=(en2π⋅i)n=e2πi=1
-
w k = ( e 2 π n ⋅ i ) k = e k ⋅ 2 π n ⋅ i w^k={(e^{\frac{2\pi}{n}\cdot i})}^k=e^{k\cdot\frac{2\pi}{n}\cdot i} wk=(en2π⋅i)k=ek⋅n2π⋅i ，也就是多少次方等于均分圆的第几个
考虑4阶傅里叶矩阵：
F 4 = [ 1 1 1 1 1 w w 2 w 3 1 w 2 w 4 w 6 1 w 3 w 6 w 9 ] F_4=\begin{bmatrix} 1&1&1&1\\ 1&w&w^2&w^3\\ 1&w^2&w^4&w^6\\ 1&w^3&w^{6}&w^{9} \end{bmatrix} F4= 11111ww2w31w2w4w61w3w6w9
带入 w = e 2 π n ⋅ i w=e^{\frac{2\pi}{n}\cdot i} w=en2π⋅i有：
F 4 = [ 1 1 1 1 1 i − 1 − i 1 − 1 1 − 1 1 − i − 1 i ] F_4=\begin{bmatrix} 1&1&1&1\\ 1&i&-1&-i\\ 1&-1&1&-1\\ 1&-i&-1&i \end{bmatrix} F4= 11111i−1−i1−11−11−i−1i
对应的共轭矩阵转置：
F H = F ˉ 4 T = [ 1 1 1 1 1 − i − 1 i 1 − 1 1 − 1 1 i − 1 − i ] F^H=\bar F_4^T= \begin{bmatrix} 1&1&1&1\\ 1&-i&-1&i\\ 1&-1&1&-1\\ 1&i&-1&-i \end{bmatrix} FH=Fˉ4T= 11111−i−1i1−11−11i−1−i
首先，这个矩阵列之间是相互正交的，正交矩阵满足 Q Q T = I QQ^T=I QQT=I，不过到了复数则是满足： Q Q H = I QQ^H=I QQH=I
有以下关系：
F 4 H F 4 = 4 I F_4^HF_4=4I F4HF4=4I
因为 ∣ F 4 ∣ = ∣ F 4 H ∣ = 2 \vert F_4\vert=\vert F_4^H\vert=2 ∣F4∣=∣F4H∣=2，所以有：
( 2 F 4 H ) ( 2 F 4 ) = I (2F_4^H)(2F_4)=I (2F4H)(2F4)=I
上面这个式子告诉我们，只需要将傅里叶矩阵正交化后其逆矩阵非常容易求解。
2.2 快速傅里叶矩阵(没咋看明白，有时间再看)
来看一下傅里叶矩阵每个元素的通项：
( F n ) i j = W i j (F_n)_{ij}=W^{ij} (Fn)ij=Wij
W的指数等于行序号乘以列序号。注意这里的 i i i和 j j j都是从0开始的自然数。
思考一个问题 F 64 F_{64} F64和 F 32 F_{32} F32的关系是什么？
答： ( W 64 ) 2 = W 32 (W_{64})^2=W_{32} (W64)2=W32
这让我们看到一丝简化的希望：
[ F 64 ] = [ I D I − D ] [ F 32 0 0 F 32 ] P \begin{bmatrix}F_{64}\end{bmatrix}=\begin{bmatrix}I&D\\I&-D\end{bmatrix}\begin{bmatrix}F_{32}&0\\0&F_{32}\end{bmatrix}P [F64]=[IID−D][F3200F32]P
其中 P P P是列的奇偶置换矩阵，矩阵 D D D
D = [ 1 0 W 0 0 W 3 ] D=\begin{bmatrix}1&&&&&\\ 0&W&&&&\\ 0&0&W^3&&&&\\ &&&&&&\end{bmatrix} D= 100W0W3
经过上述分解，就可以将计算出复杂度 1 2 n l o g 2 n \frac{1}{2}nlog_2n 21nlog2n