常系数齐次线性递推学习笔记
定义
对于数列 f f f，如果有递推式
f n = ∑ i = 1 k a i × f n − i ( n ≥ k ) f_n=\sum_{i=1}^k a_i\times f_{n-i} \quad (n\geq k) fn=i=1∑kai×fn−i(n≥k)
并且已知前 k k k项，可称其为 k k k 阶齐次线性递推数列。
这个算法可以快速求出 f f f的第 n n n项，复杂度为 O ( k 2 log n ) O(k^2\log n) O(k2logn),可优化至 O ( k log k log n ) O(k\log k\log n) O(klogklogn)
前置知识
矩阵快速幂
不难看出矩阵快速幂可以解决这个问题
我们构造 k k k转移矩阵
A = ( a 1 a 2 a 3 ⋯ a k − 1 a k 1 0 0 ⋯ 0 0 0 1 0 ⋯ 0 0 0 0 1 ⋯ 0 0 ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ 0 0 0 ⋯ 1 0 ) A=\left( \begin{matrix} a_1&a_2&a_3&\cdots&a_{k-1}&a_k\\ 1&0&0&\cdots&0&0\\ 0&1&0&\cdots&0&0\\ 0&0&1&\cdots&0&0\\ \vdots&\vdots&\vdots&\ddots&\vdots&\vdots\\ 0&0&0&\cdots&1&0 \end{matrix} \right) A=⎝⎜⎜⎜⎜⎜⎜⎜⎛a1100⋮0a2010⋮0a3001⋮0⋯⋯⋯⋯⋱⋯ak−1000⋮1ak000⋮0⎠⎟⎟⎟⎟⎟⎟⎟⎞
对于一个状态
S = ( f i + k − 1 f i + k − 2 ⋮ ⋮ f i + 1 f i ) S=\left( \begin{matrix} f_{i+k-1}\\ f_{i+k-2}\\ \vdots\\ \vdots\\ f_{i+1}\\ f_{i} \end{matrix} \right) S=⎝⎜⎜⎜⎜⎜⎜⎜⎜⎛fi+k−1fi+k−2⋮⋮fi+1fi⎠⎟⎟⎟⎟⎟⎟⎟⎟⎞
左乘上转移矩阵即可得到下一个状态
A S = ( f i + k f i + k − 1 ⋮ ⋮ f i + 2 f i + 1 ) AS=\left( \begin{matrix} f_{i+k}\\ f_{i+k-1}\\ \vdots\\ \vdots\\ f_{i+2}\\ f_{i+1} \end{matrix} \right) AS=⎝⎜⎜⎜⎜⎜⎜⎜⎜⎛fi+kfi+k−1⋮⋮fi+2fi+1⎠⎟⎟⎟⎟⎟⎟⎟⎟⎞
我们只需要求出 A n S A^nS AnS就可以算出答案
直接求的复杂度是 O ( k 3 log n ) O(k^3\log n) O(k3logn)，不可接受
接下来将对矩阵快速幂进行优化
特征向量、值、多项式、方程
对于一个 k k k阶方阵 A A A，如果有列向量 x x x和实数 λ \lambda λ，满足
A x = λ x Ax=\lambda x Ax=λx
我们称 x x x为 A A A的特征向量， λ \lambda λ为 A A A对于 x x x的特征值。
对这个式子变形
( λ I − A ) x = 0 (\lambda I-A)x=0 (λI−A)x=0
其中 I I I为 k k k阶单位矩阵
鬼知道我为什么要写这个
我们记关于 λ \lambda λ的多项式
f ( λ ) = ∣ λ I − A ∣ f(\lambda)=|\lambda I-A| f(λ)=∣λI−A∣
为 A A A的特征多项式
f ( λ ) = 0 f(\lambda)=0 f(λ)=0称为特征方程，不过我们用不上
Caylay-Hamilton 定理
定理内容：对于方阵 A A A,设 f ( λ ) f(\lambda) f(λ)为其特征多项式，有 f ( A ) = 0 f(A)=0 f(A)=0
你没看错， f ( A ) f(A) f(A)是矩阵的多项式，就是把矩阵 A A A代进去，计算 a 0 I + a 1 A + a 2 A 2 + ⋯ + a k A k a_0I+a_1A+a_2A^2+\dots+a_kA^k a0I+a1A+a2A2+⋯+akAk得到一个零矩阵
证明有太多前置知识，我还不会，希望有生之年能补上。
代数余子式
余子式：一个矩阵 A A A去掉 A i , j A_{i,j} Ai,j所在的第 i i i行第 j j j列后的行列式称为余子式（对就是矩阵树那样），记为 a i , j a_{i,j} ai,j,是个具体的数。
代数余子式： ( − 1 ) i + j a i , j (-1)^{i+j}a_{i,j} (−1)i+jai,j
引理 矩阵的行列式等于它第一行的代数余子式之和。
对于第 1 1 1行第 i i i个元素，因为是第一行，所以贡献的逆序对个数为 i − 1 i-1 i−1,刚好和代数余子式的 ( − 1 ) i + j (-1)^{i+j} (−1)i+j消掉，去掉第 1 1 1行第 i i i列之后顺序没有任何影响，所以乘一个 a i , j a_{i,j} ai,j即可
算法流程
考虑之前的矩阵快速幂，最后推到了 A n S A^nS AnS
我们考虑怎么快速求出 A n A^n An
我们发现 A n A^n An是一个矩阵的多项式，考虑前面的CH定理
我们设 A A A的特征多项式为 f ( λ ) f(\lambda) f(λ)
那么我们可以把 A n A^n An写成
A n = f ( A ) g ( A ) + h ( A ) A^n=f(A)g(A)+h(A) An=f(A)g(A)+h(A)
因为 f ( A ) = 0 f(A)=0 f(A)=0,所以
A n = h ( A ) A^n=h(A) An=h(A)
也就是说， A n A^n An和 h ( A ) h(A) h(A)在矩阵意义上等价
那么如果我们知道 A A A的特征多项式，我们就可以用一般意义下的多项式取模（具体做法后面讲）算出 h ( A ) h(A) h(A)的表达式,并且最高项次数不超过 k − 1 k-1 k−1
我们设求出的
h ( x ) = ∑ i = 0 k − 1 b i x i h(x)=\sum_{i=0}^{k-1}b_ix^i h(x)=i=0∑k−1bixi
考虑我们要求的
A n S A^nS AnS
因为 A n = h ( A ) A^n=h(A) An=h(A),所以等于
∑ i = 0 k − 1 b i A i S \sum_{i=0}^{k-1}b_iA^iS i=0∑k−1biAiS
A i S A^iS AiS相当于是第 i + 1 i+1 i+1个状态，我们写成矩阵形式
∑ i = 0 k − 1 b i ( f i + k − 1 f i + k − 2 ⋮ ⋮ f i + 1 f i ) = A n S = ( f n + k − 1 f n + k − 2 ⋮ ⋮ f n + 1 f n ) \sum_{i=0}^{k-1}b_i\left(\begin{matrix} f_{i+k-1}\\ f_{i+k-2}\\ \vdots\\ \vdots\\ f_{i+1}\\ f_{i} \end{matrix}\right)=A^nS=\left(\begin{matrix} f_{n+k-1}\\ f_{n+k-2}\\ \vdots\\ \vdots\\ f_{n+1}\\ f_n \end{matrix}\right) i=0∑k−1bi⎝⎜⎜⎜⎜⎜⎜⎜⎜⎛fi+k−1fi+k−2⋮⋮fi+1fi⎠⎟⎟⎟⎟⎟⎟⎟⎟⎞=AnS=⎝⎜⎜⎜⎜⎜⎜⎜⎜⎛fn+k−1fn+k−2⋮⋮fn+1fn⎠⎟⎟⎟⎟⎟⎟⎟⎟⎞
仔细观察，发现我们只需要最下面的元素
所以
∑ i = 0 k − 1 b i f i = f n \sum_{i=0}^{k-1}b_if_i=f_n i=0∑k−1bifi=fn
也就是把 b b b和题目给的前 k k k项对应乘起来就好了
现在的问题是如何求特征多项式
λ I − A = ( λ − a 1 − a 2 − a 3 − a 4 ⋯ − a k − 1 − a k − 1 λ 0 0 ⋯ 0 0 0 − 1 λ 0 ⋯ 0 0 0 0 − 1 λ ⋯ 0 0 ⋮ ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ 0 0 0 0 ⋯ λ 0 0 0 0 0 ⋯ − 1 λ ) \lambda I-A=\left(\begin{matrix} \lambda-a_1&-a_2&-a_3&-a_4&\cdots&-a_{k-1}&-a_k\\ -1&\lambda&0&0&\cdots&0&0\\ 0&-1&\lambda&0&\cdots&0&0\\ 0&0&-1&\lambda&\cdots&0&0\\ \vdots&\vdots&\vdots&\vdots&\ddots&\vdots&\vdots\\ 0&0&0&0&\cdots&\lambda&0\\ 0&0&0&0&\cdots&-1&\lambda \end{matrix}\right) λI−A=⎝⎜⎜⎜⎜⎜⎜⎜⎜⎜⎛λ−a1−100⋮00−a2λ−10⋮00−a30λ−1⋮00−a400λ⋮00⋯⋯⋯⋯⋱⋯⋯−ak−1000⋮λ−1−ak000⋮0λ⎠⎟⎟⎟⎟⎟⎟⎟⎟⎟⎞
根据上面的引理，
∣ λ I − A ∣ = ( λ − a 1 ) a 1 , 1 + ∑ i = 2 k ( − 1 ) i + 1 ( − a i ) a 1 , i |\lambda I-A|=(\lambda-a_1)a_{1,1}+\sum_{i=2}^k(-1)^{i+1}(-a_i)a_{1,i} ∣λI−A∣=(λ−a1)a1,1+i=2∑k(−1)i+1(−ai)a1,i
其中 a i , j a_{i,j} ai,j为余子式
因为去掉第 1 1 1行和任意一列后剩下的是一个下三角矩阵，并且对角线上删除的列的左边是 − 1 -1 −1,右边是 λ \lambda λ,所以
a 1 , i = ( − 1 ) i − 1 λ k − i a_{1,i}=(-1)^{i-1}\lambda^{k-i} a1,i=(−1)i−1λk−i
所以
∣ λ I − A ∣ = ( λ − a 1 ) λ k − 1 + ∑ i = 2 k a i λ k − i = λ k − ∑ i = 1 k a i λ k − i |\lambda I-A|=(\lambda-a_1)\lambda^{k-1}+\sum_{i=2}^ka_i\lambda^{k-i}\\=\lambda^k-\sum_{i=1}^ka_i\lambda^{k-i} ∣λI−A∣=(λ−a1)λk−1+i=2∑kaiλk−i=λk−i=1∑kaiλk−i
即
f ( λ ) = λ k − ∑ i = 1 k a i λ k − i f(\lambda)=\lambda^k-\sum_{i=1}^ka_i\lambda^{k-i} f(λ)=λk−i=1∑kaiλk−i
就是特征多项式
实现
前面的多项式取模部分是挖了坑的
A n = f ( A ) g ( A ) + h ( A ) A^n=f(A)g(A)+h(A) An=f(A)g(A)+h(A)
我们已知 f ( A ) f(A) f(A)为特征多项式，要求出余数 h ( A ) h(A) h(A)
因为 n n n很大，所以我们倍增计算并顺便取模
常用的暴力取模好写的多，复杂度 O ( k 2 log n ) O(k^2\log n) O(k2logn)，具体实现见代码注释
BZOJ4161 Shlw loves matrixI
#include 如果不幸遇到了毒瘤出题人，则需要用多项式全家桶中的多项式取模
复杂度为 O ( k log k log n ) O(k\log k\log n) O(klogklogn),常数较大
Luogu P4723
#include