下了好大决心,花了一个晚上的时间,终于看懂了FFT的理论与流程,然后又花了一个晚上实现代码,做了几道模板题。
FFT理论很深,却又很实用,一个很常用的用法就是加速多项式乘法,使得原来O(n^2)的复杂度减小到O(nlogn)。
下面我来大概讲述一下FFT的基本理论与算法流程,帮助初学者了解FFT,同时也是自己的复习。
<1> 介绍:
FFT,全称快速傅里叶变换(fast Fourier transform),是用来计算离散傅里叶变换(DFT)及其逆变换(IDFT)的快速算法。对于DFT,迷一点讲就是说它把时域信号转化为频域信号(不明白也没关系,并不影响学习算法)。在算法竞赛中,我们经常用FFT来加速卷积,做一些多项式乘法或是高精度乘法之类的。
我主要基于多项式乘法来介绍FFT,下面也都是用多项式乘法来讲的~
<2>一些定义:
我们将一个以x为变量的多项式A(x)表示为:
<3>系数表达与点值表达:
对一个次数界为n的多项式 A(x) 而言,其系数表达是一个由系数组成的向量 a=(a0,a1,...,an−1) 。
而它的点值表达是一个由n个点值对组成的集合
<4>FFT的大致流程:
现在我们已经能在线性时间内将两个多项式进行乘法操作了,那么剩下的问题就是如何快速实现多项式系数表达与点值表达的快速转化。
上面提到如果巧妙地选取 xk ,就可以加速这一过程,而我们要选取的点,就是“单位复数根”,具体介绍将在下节展开。
现在给出FFT算法的大致流程:
*1.加倍次数界:将两个多项式 A(x) , B(x) 先补为2n次(高次系数为0);若不足2的整数次幂位,则再补至2的整数次幂位(以便二分分治处理,后面讲)。
*2.求值:将系数表达式转化为点值表达式(用2n阶的FFT(DFT),求出多项式在2n次单位复根处的值)。
*3.逐点相乘:将两个多项式点值表达中的 y 逐个相乘,得到积的点值表达。
*4.差值:利用积的点值表达再用FFT(IDFT)求出系数表达。
如此,多项式乘法就做完了,我们从两个多项式的系数表达,得到了积的系数表达。
<5>单位复数根:
学FFT,这是极其重要的一点,希望能完全理解其中的变换与结论,最好能手动推算一下,并不难推,大部分是基础的指数运算,但推过与没推过是有很大区别的。
n次单位复根是满足 wn=1 的复数 w 。n次单位复根恰好有n个,为 e2πik/n ,k=0,1,…n-1。
复数的指数形式的定义:
证明:
根据消去引理,有 (wkn)2=wkn/2=(wk+n/2n)2 。( wn/2n=−1 )
求和引理:对任意整数n>=1和不能被n整除的非负整数k,有
<6>DFT:
我们希望计算次数界为n的多项式 A(x)=∑n−1j=0ajxj 在 w0n,w1n,w2n,...,wn−1n 处的值。对k=0,1,…,n-1,定义结果 yk:
<7>FFT:
通过FFT,利用单位复数根的特殊性质,我们就可以在 O(nlogn) 的时间内求出 DFTn(a) ,此时n恰好是2的整数次幂。
FFT采用分治,将原多项式偶数下标与奇数下标的系数分开,得到两个新的n/2次多项式 A[0](x) 和 A[1](x):
注意: yk 与 y[0]k 和 y[1]k 求点值所用的单位复根是不同的,前者是 wkn ,而后者是 wkn/2 。后者等于前者的平方,对应前面的 "x2" 。于是, for 循环中的第一个式子就很容易理解了,对于第二个式子,可以自己推导一下(提示:要用到1: wk+(n/2)n=−wkn ,2: w2k+nn=w2kn )。
<8>插值:
现在我们已经知道了如何快速的通过系数表达,在单位复根处快速求出点值,那么,接下来就只剩下最后一项任务,那就是在快速时间内完成DFT的逆过程IDFT,在单位复根处插值,得到结果的系数表达。
我们可以把DFT写成矩阵乘积 y=Vna ,其中 Vn 是一个由 wn 适当幂次填充成的范德蒙德矩阵,矩阵第i行,第J列的元素为 wijn (i,j从0到n-1)。
定理: V−1n的(j,k)处元素为w−kjn/n。
至于证明,只需把矩阵乘法各点的式子写出来,结合求和引理,就可以发现 VnV−1n 主对角线上的元素都为1,其余则都是0(也就是单位矩阵 I )。
于是可以推出 DFT−1n(y):
最后再来一个定理
卷积定理:对任意两个长度为n的向量a和b,其中n是2的幂,
最后,感谢大家的阅读!
如有不足之处,尽可在评论中指出。
本文参考文献:
《算法竞赛入门经典训练指南》——刘汝佳
《算法导论》
(注:本文大部分内容均摘自算法导论,自己加以筛选、注释,第7节中提到的推导过程书中有介绍,若没想出来可以查阅(P534))
另:转载请注明出处