FFT学习笔记

前言

听了周指导的讲课，一脸懵逼，大概在这之前我连复数的概念都不是很了解。

然后本来准备看各种理解的，因为文化课的缘故，又一直没有整片的时间。

所以希望写一个博客记录一下我学FFT过程中没有理解的，或者自以为比较难理解的部分。

这里是几篇阅读了很有帮助的博客:

1. zhouzhendong非常全，例题很多。
2. miskcoo。
3. GGN，很细致，还有对于二进制翻转的讲解，还有图非常优秀。
4. fhr两天没看忘光所有内容之后找到的一篇，看起来很棒棒。
5. myy论文，留着看。。。

那就开始吧。

---

2019.7.31 再次忘光，准备重学。

发现之前学的时候大概还没学过高中数学，矩阵也不熟练，于是大概就是背了一个板子。

---

前置知识：复数

1. 虚数单位 $i^2=-1$
2. 复数表示 $z=a+b\cdot i(a,b\in \mathbb{R})$
3. 复平面，向量表示复数
4. 复数加法：四边形法则
5. 复数乘法：模长相乘，极角相加

FFT

1.大名

快速傅里叶变换

2.目的

求解多项式乘法。

即对于两个多项式$$A(x)=a_0+a_{1}x+a_2{x}^2+\cdots +a_n{x}^n$$和$$B(x)=b_0+b_{1}x+b_2{x}^2+\cdots +b_m{x}^m$$求$$C(x)=A(x)\ast B(x)=a_0{b}_0+(a_0{b}_1+a_{1}b0)x+(a_0{b}_2+a_1{b}_1+a_2{b}_0)x^2+\cdots$$

3.从O(n^2)到O(nlogn)：

对于上面两个式子，最暴力的想法是$O(n^2)$将每两个项乘起来之后相加，即$$C(x)=\sum _{i=0}^{n+m}\sum _{j=0}^i{a}_j{b}_{i-j}{x}^i$$

FFT完全抛弃了上面这种暴力想法。FFT的做法是先$O(n\log n)$将系数表示转换成点值表示（具体定义见下方），再$O(n)$将两个多项式的点值相乘，最后再$O(n\log n)$将点值表达式转换回系数表达式。

即$$A(x)=\sum _{i=0}^n{a}_i\ast x^i,B(x)=\sum _{i=0}^n{b}_i\ast x^i$$

先变成$$\{x_i,A(x_i)(0\le i\le n)\},\{x_i,B(x_i)(0\le i\le n)\}$$

相乘得$$\{x_i,A(x_i)\ast B(x_i)(0\le i\le n)\}$$

最后转回系数表达式。

至于如何做到$O(n\log n)$，看到下面就知道，我们取$x_i=w_n^i$，利用单位根优秀的性质就可以分治来做到了。

之所以写的这么烦，是因为我最开始连FFT可以干什么或者他的大体思路是什么都不知道，就被强行灌输了下面的一堆东西。并不能听懂，of course。

DFT

0.目的：将系数表示转化为点值表示。

系数表示:$A(x)={\sum }_{i=0}^{n-1}{a}_i\ast x^i$
点值表示:$\{x_i,A(x_i)(0\le i<n)\}$

1.求单位根

$w_n^0,w_n^1,w_n^2,w_n^3,\dots ,w_n^{n-1}$，其中$w_n$表示辐角为正且最小的单位根，上标为次数
单位根在复平面上的几何意义：n等分单位圆，且有一根为1。

2.求$A(w_n^k)$

再设两个多项式:
$$\begin{gathered} A1(x)=\sum _{i=0}^{\frac{n}{2}-1}{a}_{2\ast i}\ast x^i \\ A2(x)=\sum _{i=0}^{\frac{n}{2}-1}{a}_{2\ast i+1}\ast x^i \end{gathered}$$

所以
$$A(x)=A1(x^2)+x\ast A2(x^2)$$

那么现在代入$w_n^k(k<\frac{n}{2})$
$$\begin{gathered} A(w_n^k)=A1(w_n^{2\ast k})+w_n^k\ast A2(w_n^{2\ast k}) \\ =A1(w_{\frac{n}{2}}^k)+w_n^k\ast A2(w_{\frac{n}{2}}^k) \end{gathered}$$

联系到了$\frac{n}{2}$，log快要出现了，那么代入$w_n^{k+\frac{n}{2}}$
$$\begin{gathered} A(w_n^{k+\frac{n}{2}})=A(w_n^k\ast w_n^{\frac{n}{2}}) \\ =A(-w_n^k) \\ =A1(w_{\frac{n}{2}}^k)-w_n^k\ast A2(w_{\frac{n}{2}}^k) \end{gathered}$$

所以只需要交换一下系数，算出$A1(w_{\frac{n}{2}}^k)$和$A2(w_{\frac{n}{2}}^k)(k<\frac{n}{2})$，就可以$O(n)$算出$A(w_n^k)$，于是总复杂度是$O(nlogn)$。

这里需要注释一下：
$n=2^k(k\in N)$，不够就高位补0
因为$w_{\frac{n}{2}}=w_n^2$，所以单位根只要一次预处理出来就好了

3.蝴蝶操作

上面的公式已经足够做递归版的DFT了，但是好像常数比较大，于是出现了迭代版。

看下面的矩阵(HE from zzd的博客)

$$\left|\begin{array}{ccccccccccccccc}000& & 001& & 010& & 011& & 100& & 101& & 110& & 111\\ 0& & 1& & 2& & 3& & 4& & 5& & 6& & 7\\ 0& & 2& & 4& & 6& |& 1& & 3& & 5& & 7\\ 0& & 4& |& 2& & 6& |& 1& & 5& |& 3& & 7\\ 0& |& 4& |& 2& |& 6& |& 1& |& 5& |& 3& |& 7\\ 000& & 100& & 010& & 110& & 001& & 101& & 011& & 111\end{array}\right|$$

发现在递归的最后一层下标恰好是原下标的二进制翻转。

观察蝴蝶操作：第一次翻转，将末位为０的都放在了左边，末位为１的都放在了右边，然后分开，左边和右边就不会再交换了。然后递归左右两边，做同样的操作，发现最后一位都一样，倒数第二位是０１０１…，所以交换系数的操作又相当于再把倒数第二位为０的放左边，为１的放右边…这就是一个类似排序的东西嘛，把二进制翻转之后的数排成了正序。

知道了这个性质有什么用吗？因为递归最底层的$A(x)$度为１，所以$A(x)=A({\omega }_1^k)=A(1)=a_i$，然后再一层一层推到顶层，就可以得到所有$A({\omega }_n^k)$了。

IDFT

这一段的矩阵我实在搞不出来，所以借鉴抄了zzd的博客，请看博客顶部链接去%zzd。

0.目的：将点值表示转回系数表示

1.理解

拿矩阵来理解DFT的话，就是这样的：

设$$\mathbf{D}=\left[\begin{array}{cccc}({\omega }_n^0{)}^0& ({\omega }_n^0{)}^1& \cdots & ({\omega }_n^0{)}^{n-1}\\ ({\omega }_n^1{)}^0& ({\omega }_n^1{)}^1& \cdots & ({\omega }_n^1{)}^{n-1}\\ ⋮& ⋮& \ddots & ⋮\\ ({\omega }_n^{n-1}{)}^0& ({\omega }_n^{n-1}{)}^1& \cdots & ({\omega }_n^{n-1}{)}^{n-1}\end{array}\right]$$

那么$$\mathbf{D}\cdot \left[\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right]=\left[\begin{array}{c}A(x_1)\\ A(x_2)\\ ⋮\\ Ａ(x_n)\end{array}\right]$$

所以做IDFT，相当于两边同乘${\mathbf{D}}^{-1}$，变成酱紫：

$$\left[\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right]={\mathbf{D}}^{-1}\cdot \left[\begin{array}{c}A(x_1)\\ A(x_2)\\ ⋮\\ A(x_n)\end{array}\right]$$

因为我们知道了点值表示，所以再当做DFT再做一遍就好了。

所以对这个$\mathbf{D}$求逆，可以先手模几个小的然后找找规律，发现逆矩阵长这个样子：

$${\mathbf{D}}^{-1}=\left[\begin{array}{cccc}\frac{({\omega }_n^{-0}{)}^0}{n}& \frac{({\omega }_n^{-0}{)}^1}{n}& \cdots & \frac{({\omega }_n^{-0}{)}^{n-1}}{n}\\ \frac{({\omega }_n^{-1}{)}^0}{n}& \frac{({\omega }_n^{-1}{)}^1}{n}& \cdots & \frac{({\omega }_n^{-1}{)}^{n-1}}{n}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{({\omega }_n^{-(n-1)}{)}^0}{n}& \frac{({\omega }_n^{-(n-1)}{)}^1}{n}& \cdots & \frac{({\omega }_n^{-(n-1)}{)}^{n-1}}{n}\end{array}\right]$$

可以发现

$$(\mathbf{D}\cdot {\mathbf{D}}^{-1}{)}_{i,j}=\frac{{\sum }_{k=0}^{n-1}{\omega }^{k(i-j)}}{n}$$

$i=j$ 时为 $1$ ，其他时候为 $0$ ，就是单位矩阵。所以两个矩阵互逆。

简单说就是对于矩阵中每一个复数取实部不变虚部取反，然后除以 $n$ 。

---

所以假如看到这里，那你应该已经会了基础的FFT了，所以快去写板子吧。

板子

[ZJOI2014]力

#include
using namespace std;
const int N = 1<<18;
const double pi = acos(-1);
int m, n, l, rev[N];
struct C{
    double r, i;
    C(){r = i = 0;}
    C(double x, double y){r = x; i = y;}
    C operator + (C u){return C(r+u.r, i+u.i);}
    C operator - (C u){return C(r-u.r, i-u.i);}
    C operator * (C u){return C(r*u.r-i*u.i, r*u.i+i*u.r);}
}q[N], p[N], a[N], w[N];

void fft(C *a)
{
    for (int i = 0; i < n; ++ i)
        if (rev[i] < i)
            swap(a[i], a[rev[i]]);
    for (int i = 1, t = n>>1; i < n; i <<= 1, t >>= 1)
        for (int j = 0; j < n; j += (i<<1))
            for (int k = 0; k < i; ++ k){
                C x = a[j+k];
                C y = w[t*k]*a[i+j+k];
                a[j+k] = x+y;
                a[i+j+k] = x-y;
            }
}

int main()
{
    scanf("%d", &m);
    for (int i = 0; i < m; ++ i){
        scanf("%lf", &q[i].r);
        p[m-i-1].r = q[i].r;
    }
    for (int i = 1; i < m; ++ i)
        a[i].r = 1.0/i/i;
    for (n = 1, l = 0; n < (m<<1); n <<= 1, ++ l);
    for (int i = 0; i < n; ++ i){
        rev[i] = (rev[i>>1]>>1)^((i&1)<<(l-1));
        w[i] = C(cos(2.0*pi*i/n), sin(2.0*pi*i/n));
    }
    fft(q); fft(p); fft(a);
    for (int i = 0; i < n; ++ i){
        q[i] = q[i]*a[i], p[i] = p[i]*a[i];
        w[i].i *= -1; // !!!
    }
    fft(q); fft(p);
    for (int i = 0; i < n; ++ i)
        p[i].r = p[i].r/n, q[i].r = q[i].r/n;
    for (int i = 0; i < m; ++ i)
        printf("%.10f\n", q[i].r-p[m-i-1].r);
    return 0;
}

“三次变两次”优化

假设我们要求的是 $(A\ast B)(x)$ ，且两个多项式的系数都是实数。

设 $C(x)=(A(x)+i\cdot B(x){)}^2=A(x{)}^2-B(x{)}^2+2\cdot i\cdot (A\ast B)(x)$ ，其中 $i$ 是虚数单位。

那么我们只要两次 FFT 求出 $C(x{)}^2$ ，这个多项式的虚部就是答案。

能小小的大大地优化常数。

NTT

数论变换，和FFT类似，只是多了一个取模的操作。既然有取模那我们就不能用复数了，那不是不能用单位根的优秀性质了吗？

所以我们找到了原根来代替单位根。在模意义下原根有单位根所有需要用到的性质。

原根的性质

设$g$是质数$p$的原根，再设${\omega }_n=g^{(p-1)/n}$（$p$满足$n|p-1$）。

1. ${\omega }_n^n\equiv 1(modp)$
2. ${\omega }_n^0,{\omega }_n^1,\dots ,{\omega }_n^{n-1}$在$modp$意义下互不相同（重要！）
3. ${\omega }_n^k\equiv -{\omega }_n^{k+n/2}$即${\omega }_n^{n/2}\equiv -1(modp)$

所以原根可以完全替代单位根完成NTT。

板子

51nod大数乘法

#include
#define ll long long
using namespace std;
const int N = 1<<20;
const int mod = 998244353;
char sa[N], sb[N];
int na, nb, a[N], b[N], n, l, r[N], g[N];

int add(int x, int y){int z = (x+y)%mod; if (z < 0) z += mod; return z;}
int mul(int x, int y){int z = 1ll*x*y%mod; if (z < 0) z += mod; return z;}

int Pow(int x, int y)
{
	int ret = 1;
	while (y){if (y&1) ret = mul(ret, x); x = mul(x, x); y >>= 1;}
	return ret;
}

void Init()
{
	scanf("%s%s", sa, sb);
	na = strlen(sa); nb = strlen(sb);
	for (int i = 0; i < na; ++ i) a[na-i-1] = sa[i]-'0'; // reverse !!!
	for (int i = 0; i < nb; ++ i) b[nb-i-1] = sb[i]-'0';
}

void ntt(int *a)
{
	for (int i = 0; i < n; ++ i) if (r[i] < i) swap(a[i], a[r[i]]);
	for (int i = 1, t = n>>1; i < n; i <<= 1, t >>= 1)
		for (int j = 0; j < n; j += (i<<1))
			for (int k = 0; k < i; ++ k){
				int x = a[j+k], y = mul(g[t*k], a[i+j+k]);
				a[j+k] = add(x, y); a[i+j+k] = add(x, -y);
			}
}

int main()
{
	Init();
	for (n = 1, l = 0; n < na+nb; n <<= 1, ++ l);
	g[0] = 1; g[1] = Pow(3, (mod-1)/n); // mod 998244353 g=3, g^(p-1)=wn^n=1, wn=g^((p-1)/n)
	for (int i = 2; i < n; ++ i) g[i] = mul(g[i-1], g[1]);
	for (int i = 0; i < n; ++ i) r[i] = (r[i>>1]>>1)^((i&1)<<(l-1));
	ntt(a); ntt(b);
	for (int i = 0; i < n; ++ i) a[i] = mul(a[i], b[i]);
	g[0] = 1; g[1] = Pow(g[1], mod-2);
	for (int i = 2; i < n; ++ i) g[i] = mul(g[i-1], g[1]);
	ntt(a);
	int invn = Pow(n, mod-2);
	for (int i = 0; i < n; ++ i) a[i] = mul(a[i], invn);
	for (int i = 0; i < n; ++ i){a[i+1] += a[i]/10; a[i] %= 10;}
	for (-- n; n && !a[n]; -- n);
	for (int i = n; i >= 0; -- i)
		printf("%d", a[i]);
	return 0;
}

分治FFT

CDQ分治+FFT

求解$$f_n=\sum _{i=1}^n{a}_i{f}_{n-i}$$

每次做完左边，然后用左边贡献右边，再做右边 （废话）。

练习

bzoj 万径人踪灭

bzoj3160

题意：

给一个字符串，求不连续的回文子序列（不连续意味着不能是子串）。

思路：

首先一个无比显然的容斥：不连续回文子序列=所有回文子序列-回文子串

于是把原问题拆成了两个毫不相干的问题。

第二个问题用manacher做，就是模板。

第一个问题，用一般fft处理字符串问题的套路，找卷积的形式。假如我们设$$f(n)=\sum _{i=0}^n(s(i)-s(n-i){)}^2$$

这个$f(n)$的意义就是以$\frac{n}{2}$为对称中心（假如n是奇数那就是两个字符中间那个位置）的所有有序字符对中有多少个不相同的。所以只要求出$f(n)$，用总对数减一下就是相同的。

然后我们来拆出卷积：

$$\begin{gathered} f(n)=\sum _{i=0}^{n}s(i{)}^2+s(n-i{)}^2-2s(i)s(n-i) \\ =2\sum _{i=0}^{n}s(i{)}^2-2\sum _{i=0}^{n}s(i)s(n-i) \end{gathered}$$

一个前缀和一个卷积，搞定。

注意：

1. 当$f(n)$中的$n$大于字符串长度时，上面式子中的$i$不一定能取到边界，需要再判一下。

2. 卡精度，FFT太毒瘤了。

bzoj 二元运算

题意：

有一个运算

$$xopty=\{\begin{array}{rlr}& x+y& ,x<y\\ & x-y& ,x\ge y\end{array}$$

给出序列 $\{a_i\}$ 和 $\{b_i\}$ ，每次询问一个数 $c$ ，问有多少组 $i,j$ 满足 $a_{i}opt{b}_j=c$ 。

思路：

假如单独对 $x+y$ 或者 $x-y$ 做的话，是一个 FFT 的套路。

把 $a_i$ 和 $b_i$ 放进桶里，做一遍 FFT ，得到的多项式的系数 $c_i$ 表示的就是两边各选一个数加起来为 $i$ 的方案数。

但是这题对 $x,y$ 的大小关系有限制。所以可以考虑分治来去掉限制，每次分一个 $mid$ ，考虑 $mid\in [a_i,b_j]$ 或者 $mid\in [b_j,a_i]$ 的数对的贡献。因为大小关系确定，所以直接 FFT 就好了。

最后 $O(n{\log }^{2}n)$ 。因为 FFT 常数有点大，所以稍稍卡一下常，比如要做 FFT 的两个数组中只要有一个是全空的就不做。

[TJOI 2017] DNA

题意：

两个串 $S1,S2$ ，字符集 ${\{}^{\prime }{A}^{\prime }{,}^{\prime }{G}^{\prime }{,}^{\prime }{C}^{\prime }{,}^{\prime }{T}^{\prime }\}$ 。

问 $S1$ 中有多少子串可以通过修改小于等于 3 个字符变成 $S2$ 。

思路：

题目要我们求 $S1$ 中有多少子串满足，与 $S2$ 的对应位置字符不同的位置 $\le 3$。

按照套路，将某一个串翻转，分字符讨论。

对于每一个字符 $c$，把字符串等于 $c$ 的位置赋值为 1，其余位置赋值为 0 ，那么某个位置的匹配中， $S1$ 和 $S2$ 某位都为 $c$ 的位置个数 $eq{u}_n={\sum }^{i+j=n}{a}_i{b}_j$ ，是卷积的形式。

在 bzoj 上会被卡常。并且貌似 NTT 还没 三次变两次优化的 FFT 快。所以还是乖乖用 SAM 做吧。