[EE261学习笔记] 15.快速傅里叶变换(FFT)原理

简单回顾

快速傅里叶变换，其实是离散傅里叶变换的一种改进算法

我们先来回忆一下离散傅里叶变换(DFT)：

$$\underline{\mathcal{F}f[m]}=\sum _{n=0}^{N-1}\underline{f[n]}{\underline{\omega [m]}}^{-n}\text{\hspace{1em}(1)}$$

其中 $\underline{\omega [m]}=e^{2\pi i\frac{m}{N}}$

对应的矩阵形式为：

$$\left[\begin{array}{c}\underline{\mathcal{F}f[0]}\\ \underline{\mathcal{F}f[1]}\\ ⋮\\ \underline{\mathcal{F}f[N-1]}\end{array}\right]=\left[\begin{array}{cccc}1& 1& \cdots & 1\\ 1& {\underline{\omega }}^{-1\cdot 1}& \cdots & {\underline{\omega }}^{-1\cdot (N-1)}\\ ⋮& ⋮& \ddots & ⋮\\ 1& {\underline{\omega }}^{-(N-1)\cdot 1}& \cdots & {\underline{\omega }}^{-(N-1{)}^2}\end{array}\right]\left[\begin{array}{c}\underline{f[0]}\\ \underline{f[1]}\\ ⋮\\ \underline{f[N-1]}\end{array}\right]$$

不难发现，如果要对 $N$ 个采样点进行DFT，则时间复杂度为 $o\left(N^2\right)$

接下来，我们将讲解时间复杂度为 $o\left(N\log N\right)$ 的FFT算法

为了书写方便，我们记

$$\underline{\omega }[p,q]=e^{2\pi i\frac{q}{p}}\text{\hspace{1em}(2)}$$

这样，$\underline{\omega [m]}$就可以改写为

$$\underline{\omega [m]}=e^{2\pi i\frac{m}{N}}=\underline{\omega }[N,m]$$

同时，不难发现，

$$\underline{\omega }[N,n+m]=e^{2\pi i\frac{n+m}{N}}=e^{2\pi i\frac{n}{N}}{e}^{2\pi i\frac{m}{N}}=\underline{\omega }[N,n]\underline{\omega }[N,m]$$

$$\underline{\omega }[\frac{N}{2},-nm]=e^{-2\pi i\frac{nm}{\frac{N}{2}}}=e^{-2\pi i\frac{2nm}{N}}=\underline{\omega }[N,-2nm]$$

---

FFT推导

FFT的核心思想就是：将DFT的$N\times N$矩阵该写为对几个$\frac{N}{2}\times \frac{N}{2}$的矩阵的操作，并用这种方式进行递归，最后得到FFT

首先，我们将$(1)$式拆分为奇数、偶数两部分，即

$$\begin{array}{rl}\underline{\mathcal{F}f[m]}& =\sum _{n=0}^{N-1}\underline{f[n]}{\underline{\omega [m]}}^{-n}\\ & =\left(\underline{f[0]}{\underline{\omega [m]}}^{-0}+\underline{f[2]}{\underline{\omega [m]}}^{-2}+\cdots +\underline{f[N-2]}{\underline{\omega [m]}}^{-\left(N-2\right)}\right)+\left(\underline{f[1]}{\underline{\omega [m]}}^{-1}+\underline{f[3]}{\underline{\omega [m]}}^{-3}+\cdots +\underline{f[N-1]}{\underline{\omega [m]}}^{-\left(N-1\right)}\right)\\ & =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}{\underline{\omega [m]}}^{-2n}+\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}{\underline{\omega [m]}}^{-(2n+1)}\end{array}$$

利用 $(2)$ 式，可将上式改写为

$$\begin{array}{rl}\underline{\mathcal{F}f[m]}& =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[N,-2nm]+\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[N,-(2n+1)m]\\ & =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[N,-2nm]+\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[N,-2nm]\underline{\omega }[N,-m]\\ & =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[\frac{N}{2},-nm]+\underline{\omega }[N,-m]\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[\frac{N}{2},-nm]\end{array}\text{\hspace{1em}(3)}$$

注意我们要使用递归来计算的话，必须把式子写成矩阵形式，那么$(3)$式就可以写为：

$${\underline{\mathcal{F}}}_N\underline{f[m]}=\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{\text{even}}[m]}+\underline{\omega }[N,-m]\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{\text{odd}}[m]}\text{\hspace{1em}(4)}$$

我们仔细看看从 $(3)$ 式的求和形式到 $(4)$ 的矩阵矩阵形式，$(3)$ 式完全是没有问题的，但是 $(4)$ 式却有问题： $(4)$ 式中的 ${\underline{\mathcal{F}}}_{\frac{N}{2}}$ 是 $\frac{N}{2}\times \frac{N}{2}$ 的矩阵，那么与之相乘的矩阵必然有 $\frac{N}{2}$ 行，也就是说 $m\le \frac{N}{2}-1$。换句话说，$(4)$ 式计算出的其实是 ${\underline{\mathcal{F}}}_N$ 的前半部分。

那么对于 $m\in [\frac{N}{2},N-1]$ 的情况，应该如何写出相应的矩阵形式呢？我们将 $(3)$ 式左边的系数写成 $m+\frac{N}{2}$，这样一来，$m$ 的取值依然是 $[0,\frac{N}{2}-1]$。于是就有：

$$\begin{array}{rl}\underline{\mathcal{F}f[m+\frac{N}{2}]}& =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[\frac{N}{2},-n\left(m+\frac{N}{2}\right)]\\ & +\underline{\omega }[N,-\left(m+\frac{N}{2}\right)]\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[\frac{N}{2},-n\left(m+\frac{N}{2}\right)]\\ & =\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[\frac{N}{2},-nm]\underline{\omega }[\frac{N}{2},-n\frac{N}{2}]\\ & +\underline{\omega }[N,-m]\underline{\omega }[N,-\frac{N}{2}]\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[\frac{N}{2},-nm]\underline{\omega }[\frac{N}{2},-n\frac{N}{2}]\end{array}\text{\hspace{1em}(5)}$$

注意到，

$$\underline{\omega }[\frac{N}{2},-n\frac{N}{2}]=e^{-2\pi in}=1$$

$$\underline{\omega }[N,-\frac{N}{2}]=e^{-\pi i}=-1$$

带入 $(5)$ 式，有：

$$\underline{\mathcal{F}f[m+\frac{N}{2}]}=\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n]}\underline{\omega }[\frac{N}{2},-nm]-\underline{\omega }[N,-m]\sum _{n=0}^{\frac{N}{2}-1}\underline{f[2n+1]}\underline{\omega }[\frac{N}{2},-nm]$$

写成矩阵的形式，即

$${\underline{\mathcal{F}}}_N\underline{f[m+\frac{N}{2}]}=\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{even}[m]}-\underline{\omega }[N,-m]\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{odd}[m]}\text{\hspace{1em}(6)}$$

结合 $(4)$，$(6)$ 两式，我们可以得到FFT的矩阵递归式：

$${\underline{\mathcal{F}}}_N\underline{f[m]}=\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{\text{even}}[m]}+\underline{\omega }[N,-m]\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{\text{odd}}[m]}$$

$${\underline{\mathcal{F}}}_N\underline{f[m+\frac{N}{2}]}=\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{even}[m]}-\underline{\omega }[N,-m]\underline{{\mathcal{F}}_{\frac{N}{2}}{f}_{\text{odd}}[m]}$$

其中 $m\in [0,\frac{N}{2}-1]$，第一个等式为前 $\frac{N}{2}$ 项，第二个等式为后 $\frac{N}{2}$ 项

这个式子很明确地告诉我们：

FFT实际上就是将DFT的矩阵，通过一定的方式进行拆分，从而降低时间复杂度的一种算法

---

FFT的时间复杂度

有了递归式，我们就可以来算时间复杂度。

方便起见，我们将矩阵写成 $\left[n\times m\right]$，其中 $n$，$m$ 分别表示行列数。并设 $N=2^k$

1. 那么前 $\frac{N}{2}$ 项就可以写成

$$\left[\frac{N}{2}\times \frac{N}{2}\right]+C_N\left[\frac{N}{2}\times \frac{N}{2}\right]$$

其中 $C_N$ 为一常数，该式花费的时间为 $o\left(\left[\frac{N}{2}\times \frac{N}{2}\right]\right)+1+o\left(\left[\frac{N}{2}\times \frac{N}{2}\right]\right)$，其中 $1$ 就是常数相乘的操作

对于后 $\frac{N}{2}$ 项，由于对应的矩阵、常数都是相同的，因此只需要额外进行 $1$ 次操作即可

2. 我们把 $n\times n$ 的矩阵记为 $[n]$，并把 $m$ 个不同的常数相乘记为 $C^m$，则如下图

注意图中 $1+2\cdots +2^{k-1}$ 是前文提到的后 $\frac{N}{2}$ 项的计算量，需要进行累加计算。到最后一项时，它的累积值为 $2^n-1$

不难发现，递归至最后一项时，总计算次数应为（图中最后一行以及虚线框内）：

$$0\cdot \left(\genfrac{}{}{0ex}{}{0}{k}\right)+1\cdot \left(\genfrac{}{}{0ex}{}{1}{k}\right)+\cdots +k\cdot \left(\genfrac{}{}{0ex}{}{k}{k}\right)+(2^k)+(2^k-1)+(2^k)\text{\hspace{1em}(7)}$$

简单解释一下上式

• 前面的各项排列组合表示的是各个常数 $C^x$ 所需的计算时间，如系数 $C^k$ 只在最后一个一阶矩阵前出现，计算量为 $k\cdot \left(\genfrac{}{}{0ex}{}{k}{k}\right)=k$ 次，又如系数 $C^1$ 必然会出现 $\left(\genfrac{}{}{0ex}{}{1}{k}\right)$ 次，因此计算量为 $1\cdot \left(\genfrac{}{}{0ex}{}{1}{k}\right)=k$；
• 第一个 $2^n$ 表示的是所有 $1$ 阶矩阵的计算时间总和；
• $2^n-1$ 表示的是后 $\frac{N}{2}$ 项的计算量；
• 第二个 $2^n$ 表示的是计算所有加号花费的时间

$(7)$ 式不容易计算，但是我们可以直观地估计一下，对于前面的阶乘项，最多用时为 $k$ 次，最少为 $1$ 次，那么不严格地估计一下，我们取平均 $\frac{k+1}{2}$ 次，这样共需要计算 $N$ 次（有 $N$ 个 $[1]$），因此时间复杂度应为：

$$o\left(\left(N\frac{k}{2}\right)+3N-1\right)=o\left(\frac{1}{2}N{\log }_{2}N+3N-1\right)=o\left(N{\log }_{2}N\right)$$

因此，FFT的时间复杂度就是

$$o\left(N\lg N\right)$$