Mathematics

复数

代数表示，，其中为实部，为虚部。

坐标表示，以复平面为承载：

复平面，以直角（Rectangular）坐标系/笛卡尔（Cartesian）坐标系为例，X坐标轴为实轴，Y坐标轴为虚轴。复数用（X坐标、Y坐标）来表示，向量称为复向量。向量模长为复数模长（Modulus），又称强度（Magnitude），幅值（Amplitude，电子学常用），。
复平面，以极坐标系（Polar）为例，复数用（半径坐标和角坐标）来表示，半径为复数模长，极角为复数幅角（Argument），又称角度（Angle）。对应复向量，半径为复向量的模长，极角为极轴（即实轴）逆时针方向到复向量的夹角。

除代数表示、坐标表示外还有：

三角表示，。其中为模长，为幅角。
指数表示，。根据欧拉公式。其中或称为相位（Phase），有时直接称为相位。相同的复数可以有不同的相位，如。

代数表示适合加减法，指数表示适合乘除法，复平面坐标表示适合理解几何意义。
以复数运算的几何意义：

加减法的几何意义按照向量加减来理解。
复数乘法，，相当于模长相乘，幅角相加，相位相加。
复数除法，，相当于模长相除，幅角相减，相位相减。
，相当于模长相乘，幅角相减，相位相减。

复函数在定义域上可导，称作全纯（Holomorphic）/可解析（Analytic）

空间

欧几里得空间：满足可依据距离和角表达的特定联系的点所成的集合。

向量空间：线性代数里的概念，指一组向量及相关的运算（向量加法、标量乘法），以及对运算的限制（封闭性、结合律）。

内积空间：Inner product space，线性代数里的概念，是增加了内积（标量积）的向量空间。内积涉及向量的夹角、长度及正交性，内积是点积的抽象。又称准希尔伯特空间（pre-Hilbert space）,由内积定义的距离完备化之后可得希尔伯特空间。

希尔伯特空间：Hilbert space，是完备的内积空间（带有内积的完备向量空间）。是有限维欧几里得空间的一个推广（在高等数学教科书中也被称为欧几里得空间），使之不局限于实数的情形和有限的维数，但又不失完备性（而不像一般的非欧几里得空间那样破坏了完备性）。也是一个内积空间，其上有距离和角的概念（及由此引申而来的正交性与垂直性的概念）。此外，希尔伯特空间还是一个完备的空间，其上所有的柯西序列会收敛到此空间里的一点，从而微积分中的大部分概念都可以无障碍地推广到希尔伯特空间中。

向量

正交性：两个向量的内积（标量积）为0。

乘法

向量乘法，设a和b为线性无关的两个(m,)维向量（方向不相同也不相反，否则外积为0）：

点乘/点积/内积/标量乘（Dot Product，Inner Product, Scalar Product），为标量，即对应元素积的和，或。
叉乘/叉积/外积/向量积（Cross Product, Outer Prodcut, Vector Product），，，是一个(m,)维的向量（a和b所在平面的法向量）。模长为（构成的平行四边形的面积），方向遵守右手定则。的坐标可用和坐标按乘法分配律计算得到。

向量夹角：两个向量方向之间的夹角，即将起点重合后较小的夹角，<180度。
右手定则：在右手坐标系中，右手四指从a以向量夹角转向b时，竖起的大拇指的方向即为c的方向。
右手坐标系：基向量x,y,z满足（反过来则得负），。

矩阵乘法，设A为(m,n)矩阵，B为(m,n)矩阵，C为(n,o)矩阵，D为(p,q)矩阵：

矩阵乘是一个(m,o)矩阵。
按元素积（Elementwise Product）/Hadamand积或是一个(m,n)矩阵。
克罗内克积是一个(mp,nq)分块矩阵。

秩

矩阵A的列秩是A的线性独立的纵列的极大数目（极大线性无关组），表示为，或。

设 A 为矩阵。若A 至少有一个阶非零子式，而其所有阶子式全为零，则称为A的秩。

矩阵的列秩和行秩总是相等的，因此它们可以简单地称作矩阵A的秩。表示为，或。等于向量组A生成的子空间的维数。

一个的矩阵，如果秩很低（秩r远小于m,n），则它可以拆成一个矩阵和一个矩阵之积（类似于SVD分解）。后面这两个矩阵所占用的存储空间比原来的矩阵小得多。

范数

Norm（范数）是向量和矩阵上的概念。标量可以作为向量的特例，即标量的绝对值。Lp Norm常写作p-Norm。

向量范数，对于向量：

L0 Norm，向量非零元素的个数。0的0次幂为0，非零数的0次幂为1。
L1 Norm，向量元素绝对值之和。用于计算曼哈顿距离，绝对值误差等。表示点x到原点的曼哈顿距离。
L2 Norm，Euclid Norm（欧几里得范数），向量元素绝对值的平方和再开方。用于计算欧式距离，平方误差/均方误差（MSE）等。表示点x到原点的欧氏距离。
L Norm，向量元素绝对值的最大值。当p趋向于正无穷时，其他元素会被绝对值最大的元素掩盖。
L- Norm，向量元素绝对值的最小值。当p趋向于正无穷时，绝对值最小的元素的次幂最大，其他元素被掩盖。

矩阵范数，对于矩阵：

L1 Norm，，列和范数，矩阵列向量元素绝对值之和（列向量的L1 Norm）的最大值。
L2 Norm，，谱范数，表示的最大特征值。
L Norm，，行和范数，矩阵行向量元素绝对值之和（行向量的L1 Norm）的最大值。
LF Norm，，Frobenius Norm（斐波那契范数），矩阵元素绝对值的平方和再开方。
L2,1 Norm，，矩阵行向量的2-Norm之和，即矩阵先在行上2-Norm，然后在结果上1-Norm。当矩阵每行越多的元素为0时（行稀疏），L2,1 Norm约小。
L1,2 Norm，与L2,1类似，表示列稀疏。

矩阵

线性代数和矩阵论概念。

方阵：行数和列数相同的矩阵，如矩阵，又称阶方阵。对角线是左上角到右下角的连线。的行列式是其个特征值之积。的迹是个特征值之和。

单位矩阵：主对角线全是1而其他元素全是0的方阵，如矩阵。

可逆矩阵：非奇异方阵，当方阵满足时，和为可逆矩阵，称作的逆矩阵，记作。可逆矩阵行列式非零。

转置矩阵：矩阵的转置是以对角线为轴，将左下方和右上方的元素兑换。

对称矩阵：Symmetric Matrices，指转置矩阵为自身的方阵。。

斜对称矩阵：又称反对称矩阵，指对角线全是0、转置矩阵和自身符号相反（加法逆元）的方阵。。任一矩阵，为斜对称矩阵。

埃尔米特矩阵：Hermitian matrix，又称厄米特矩阵，厄米矩阵，自伴随矩阵。指对角线为实数的共轭对称的方阵，即方阵的共轭转置等于自身，。

斜埃尔米特矩阵：指对角线全是虚数、共轭转置与自身符号相反（加法逆元）的方阵。。

正定矩阵：Positive-definite matrix，又称正定阵。对称矩阵是正定的，当且仅当对所有非零向量都有。对称矩阵是正定的，当且仅当对所有非零向量都有。等价于的所有特征值均为正。对应的有负定矩阵。

半正定矩阵：Positive semi-definite matrix，上述条件换为，等级于特征值非负，对应的有半负定矩阵。

三角矩阵：上三角矩阵对角线左下方元素全是0。下三角矩阵对角线右上方元素全是0。是特殊方阵。

对角矩阵：Diagonal matrix，除主对角线外全是0的方阵，对角线上元素不必非零。对角矩阵是对称矩阵、上三角矩阵、下三角矩阵。单位矩阵、零矩阵、一维矩阵为对角矩阵。如对角矩阵的特征值为，对应的特征向量为单位向量。

数量矩阵：对角线上元素皆相等的对角矩阵。单位矩阵、零矩阵为数量矩阵。

可对角化矩阵：若一个方阵相似于对角矩阵，即存在可逆矩阵使得是对角矩阵，则是可对角化的。

三对角矩阵：除对角线、对角线低一行、对角线高一行外全是0的方阵。是海森堡矩阵。

行阶梯行矩阵：Row Echelon Form，所有非零行（至少有一个非零元素的行）在全零行上方，非零行首项系数（leading coefficient，也称主元，左边首个非零元素）严格比上方行的首项系数更靠右。

简约行阶梯形矩阵：Reduced row echelon form，又称简化列阶梯型矩阵，行规范形矩阵（Row canonical form）。每行首项系数是1，且是其所在列唯一非零元素。

增广矩阵：线性方程组系数矩阵右侧加上方程组等号右边的常数列。

旋转矩阵：Rotation matrix，在乘以一个向量的时改变向量的方向但不改变大小并保持了手性的矩阵。是行列式为1的正交矩阵。可表示为斜对称矩阵的指数。

下列关于方阵的命题等价：

可逆/逆矩阵存在。
。
。
的任一特征值非零。
可逆。

酉矩阵

酉矩阵（又称幺正矩阵，unitary matrix），在线性代数中，指其共轭转置恰为其逆矩阵的复数方阵。

其中，为的共轭转置，为的逆矩阵，为单位矩阵。

所有特征值（复数）模长为1：。

行列式（复数）模长为1：。

对于复向量，酉矩阵有：

点积（内积的一种特殊形式，运算结果为标量）：。
希尔伯特内积：。
酉矩阵和酉矩阵的矩阵乘还是酉矩阵。
U的列向量是上的一组正交基，行向量也是。

正交矩阵

orthogonal matrix，实数方阵Q，且行向量与列向量皆为正交的单位向量，转置矩阵为其逆矩阵。是实数化的酉矩阵。

其中，为的转置，为的逆矩阵，为单位矩阵。

行列式值为+1或-1。

正规矩阵

Normal matrix，指与自己共轭转置在乘法下满足交换律的方阵。若为实矩阵，共轭转置改为转置。

正规矩阵可做酉对角化（unitary diagonalisation），其中U是酉矩阵，D是对角矩阵。反之亦然。酉矩阵、埃尔米特矩阵、斜埃尔米特矩阵、对角矩阵是正规矩阵。

矩阵变换

矩阵转置

实矩阵转置写作，有。

复数矩阵共轭转置（Conjugate transpose），又称埃尔米特转置（Hermitian transpose），写作：。

矩阵求逆

可逆矩阵的逆矩阵（又称反矩阵）写作。若可被特征分解且特征值中不含零（非奇异矩阵），则：

其中，为特征向量（列）构成的正交矩阵，为特征值构成的对角矩阵。。

任一矩阵都有Moore-Penrose广义逆（伪逆）。对于任一矩阵，若满足：

则称是的Moore-Penrose广义逆，且唯一，记作。若只满足其中某一或几条，则称为i-逆，记作，如1-逆（），1,2,4-逆（）。

吉文斯旋转

Givens rotation，又称吉文斯变换，主要用于在矩阵中介入0，可用于QR分解，易并行计算。吉文斯旋转矩阵为阶方阵（作用于矩阵），除以下元素外全为0：

吉文斯旋转矩阵左乘矩阵时，只会改变的行。是正交矩阵。

实际不必计算，计算出即可。如需将变为0，可将以及（记为）提取出来：

然后，可得的解（不唯一）。同时会作用在的行的其他元素上，改变其值。

参考资源：

Givens Rotation解Ax=b

雅可比旋转

Jacobi旋转，又称Jacobi算法，用来将阶实对称矩阵非对角线元素置零，是特征值分解的核心运算，易并行计算。雅可比旋转矩阵定义同吉文斯旋转矩阵。

若令，可以计算出，进而计算出其他元素变换后的值。实际使用中，无需计算出，可以利用中间值来计算其他元素变换后的值。

仍为对称矩阵。
，其中表示非对角线元素的平方和。

雅可比算法从出发，反复作雅可比变换。

在第步中，已有，求其非对角线元素绝对值最大者，根据雅可比旋转算法求出。
如此重复，直到非对角线元素绝对值最大值小于预设值。收敛到一个对角阵，且对角线元素为的特征值。

此法收敛较快，但是寻找非对角线元素绝对值最大者较耗时，所以有改进算法

高斯消元法

Gaussian Elimination，又称高斯消去法，可将矩阵转化为行阶梯形矩阵。用于线性方程组求解、矩阵求秩、矩阵求逆。做法是依次将第i+1行的前i个元素消除，具体的：

将其他任一行缩放后，加到第i+1行上，使得第0个元素为0，然后同样操作直到前i个元素都为0。最终得到一个行阶梯形矩阵。
对于线性方程组的增广矩阵，得到其行阶梯型形矩阵后，可以从下至上，依次求解出变量。

矩阵分解

EVD分解

特征值分解（Eigen Value Decomposition，EVD），也称作特征分解、相似对角化分解，只有对角化矩阵才可以特征值分解。

其中，为可对角化矩阵，为n维非零向量（不必标准化）。称为的一个特征值，该特征值对应的特征向量。几何意义是特征向量被施以矩阵变换，只会在长度上缩放。

对于的n个特征值和n个特征向量，若n个特征向量线性无关，则的特征值分解为

其中，。

对于实对称矩阵SVD，可将n个特征向量标准化（），构成正交矩阵（），则。

对于复正规矩阵SVD，有一组正交特征向量，构成酉矩阵，则。

求解EVD，此处以实矩阵为例：

称为矩阵的特征多项式、特征方程，是未知数的次多项式，每个特征值都有一个特征多项式。

直接求解特征多项式较难，一般通过迭代算法实现。

参考资源：

slides_ch05_eigymm_02.pdf
31 特征值和奇异值 | 统计计算

SVD分解

常见的矩阵分解有奇异值分解，Schur分解，特征值分解（针对可对角化矩阵），Jordan分解（针对不可对角化矩阵）等。奇异值分解(Singular Value Decomposition，SVD)可用于解线性方程组、线性最小二乘、Moore-Penrose广义逆，还可用于降维算法中的特征分解、推荐系统、NLP等领域。

任意矩阵，存在酉矩阵，对角矩阵，使得。

其中，

为的奇异值。

中（列向量）为奇异值对应的左奇异向量和右奇异向量，统称奇异向量。

若，则

若为实矩阵，则将共轭转置换位转置，即

奇异值与特征值的关系：

只有方阵才有特征值和特征向量，但任一矩阵都有奇异值和奇异向量。
矩阵的特征值可能是复数（即使实数矩阵），但奇异值必是非负实数（即使复数矩阵）。
的奇异值为特征值的平方根。同时为特征值的平方根（非零部分相同）。
对于方阵来说，任一特征值和奇异值有。
对于对称（或埃尔米特）半正定（或正定）矩阵，奇异值和奇异向量就是特征值和特征向量，即EVD是SVD的特殊情况。

SVD的几何意义是在一系列旋转和平移下（）转换成一个对角矩阵。旋转和平移是正交变换，所以SVD分解在数值计算上是稳定的，而特征值分解不稳定。

秩：，中非零奇异值的个数就是矩阵的秩。假设秩为r，则称作经济型SVD分解。

低秩逼近/截断SVD（truncated，tSVD）：若，则认为奇异值耗散很快，可用近似，近似误差和在一个量级。

求解SVD，此处以实矩阵为例：

所以，的特征向量组成的矩阵即。类似的的特征向量组成的矩阵即。特征值的平方根即奇异值

极分解

其中，是酉矩阵，是Hermite半正定矩阵。

根据SVD分解，，得。

参考资源：

奇异值分解(SVD)原理与在降维中的应用
矩阵的奇异值(SVD)分解及其简单应用

格拉姆-施密特正交化

基：在线性代数中，如果内积空间上的一组向量能够组成一个子空间，那么这一组向量就称为这个子空间的一组基。
Gram-Schmidt Othogonalization提供了一种方法，能通过子空间的一组基得出一组正交基，并可进一步求出对应的标准正交基。

向量在向量上的投影：

基本想法是利用投影原理在已有正交基的基础上构造一个新的正交基，即用基向量减去在（对应的正交基）上的投影，即得到一个和均正交的基向量。单位化可得标准正交基。

QR分解

实数矩阵A的QR分解是把A分解为。其中，Q是正交矩阵（），R是上三角矩阵。类似的有义A的QL, RQ和LQ分解。

更一般的，分解复数矩阵（m>n）为幺正矩阵（酉矩阵，即共轭转置为其逆矩阵的方阵，在仅考虑时，不必为方阵）和上三角矩阵。分解复数矩阵（m

QR分解方法有：Givens旋转、Householder变换，以及Gram-Schmidt正交化等。

如矩阵（为列向量），基于Gram-Schmidt正交化得出，则为：

导数和微分

导数（derivative）和微分（differential）不同，可导（derivable）和可微（differentiable）是等价的。假设函数，定义域都是可微函数，导数的值域是导函数，微分的值域是1-form。给定，导数的几种表示：

看成是一种对 f 的作用，称作“微分算子”。对 f 微分表示对函数取导数。

导数：在处的增量为（差分），若当 Δx → 0 时的极限存在，则函数在点可导，这个极限为在点处的导数，记为，也即，也记作。

微分：在的极限状态下，用切线段近似曲线段，有，令（微分，是一个线性函数）。此时。

几何意义：

微分：微小的变化量，局部范围内，用线性函数近似非线性函数，用切线段近似曲线段，在数学上称为非线性函数的局部线性化。不仅表示，同时有点的位置含义。
导数：切线的斜率，表示在某点处的变化率。

因为实数空间中不存在无穷小，即不存在点。所以不是商或分数，但有类似商的性质，如链式法则，逆函数定理。

偏微分/偏导数：多元函数有多个变量，如果函数沿着其中一个变量的方向变化，其他变量保持不变时，微分和导数就是偏微分和偏导数。

矩阵求导

参考矩阵求导术和速查手册“The Matrix Cookbook”。

狄拉克delta函数

狄拉克 delta 函数

泰勒级数

泰勒公式：泰勒展开式、泰勒多项式。
泰勒级数：Taylor Series，级数就是无限项之和。
泰勒公式通过把【任意函数表达式】转换为【多项式】形式，是一种函数近似工具。使用在处的导数来估计的信息，通常取。

$\begin{align} f(x)_{Taylor} &= \sum_{n=0}^{\infty} \frac{f^{(n)}(a)}{n!} \times (x - a)^n \\ &= f(a) + \frac{f'(a)}{1!}(x-a) + \frac{f^{(2)}(a)}{2!}(x-a)^2+ \cdots + \frac{f^{(n)}(a)}{n!}(x-a)^n + R_n(x) \end{align}$

把泰勒展开式，扩展到无限项之后，就会出现收敛（Converge）和发散（diverge）。
收敛，在泰勒展开式被推广到无限项之后，整体式子对函数拟合的非常好，代入任何x，泰勒展开式的值趋近于函数值，如的泰勒展开式。
发散，在泰勒展开式被推广到无限项之后，整体式子对函数拟合的只在部分定义域内非常好，如的泰勒展开式（a=1）在范围内才能拟合函数（收敛半径），超过收敛半径后，拟合变差。说明（a=1）处的导数信息无法估计整个函数的信息。

傅里叶级数

Fourier Series，针对连续周期性的信号，转换为离散的频谱的叠加（求和）。即，周期性函数可分解为一些列正（余）弦函数之和。

将时间轴、频率轴分别看做x、y轴，对应z轴分别表示信号强度、振幅。有：

时域图像：沿着时间轴x，每个时间点对应的信号值z。
频域图像：又称频谱或振幅谱，即沿着频率轴y，每个频率点对应的振幅z。
相位谱：沿着频率轴y，每个频率点对应的距频率轴（时间轴0点）最近的波峰的相位差x。

任一正弦函数：

其中，为正弦函数频率（广义频率可正可负，正值表示顺时针，负值表示逆时针），为初始相位，为幅度（纵轴），为时间（横轴）。

傅里叶级数为：

也可以写作：

其中，为连续周期函数，为垂直分量（波形质心在垂直方向的偏移量，标准正/余弦的垂直分量为0），为角速度（角频率），即频率乘以，为时间。构成了一组正交基。

提示：向量正交则内积为0，周期函数正交则函数乘积的积分为0。向量与自己的内积为常数，周期函数与自己乘积的积分为常数（一个周期内积分为1）。

因为傅里叶级数里各项之间都正交，为了计算，公式两边同时乘以，然后积分，右侧只保留了部分。同样可求。因此有：

复频域傅里叶级数。利用欧拉公式以及共轭复数和为实数的性质，将复频域级数转化为三角级数来求解。为连续周期函数（实数域）。

具体的，转换为，，系数共轭的两项相加，有：

可得，，即：

在复频域上也具有正交性，于是有：

过冲：使用不同频率的正（余）弦函数拟合周期函数，在周期函数的不连续点会出现过冲，即使频域扩展到无穷，过冲也不会降为零的。

一般情况下，傅里叶级数里取。

傅里叶变换

Fourier Transform（FT），即连续傅里叶变换，时傅里叶级数的推广。针对连续非周期性的信号（可以理解为周期无限大），转换为连续的频谱的累加（积分）。用复平面上的相位、振幅和旋转频率来表示信号曲线，傅立叶变换公式的联想链条：

一个逆时针旋转360°画成的圆：
表示运动，需要原函数的自变量，时间：
表示旋转速度，需要自变量，频率：
规定变换的采样方向为顺时针，加负号：
乘以原函数，将信号曲线缠绕到单位圆：
旋转频率和信号频率一致时，质心向量模长最大，为了计算质心特征，积分：
自变量为频率，时域转频域的表达式：

傅里叶变换得到的频域函数/值为复数，可以从中提取强度和相位信息。

傅里叶变换的逆变换（inverse Fourier Transform，iFT）为。

FT和iFT式前的系数（上述均为1，规范化因子）是主观选择的，两者乘积为1即可（此时称归一化系数）。若用代替，则乘积为。

一般称为原函数，为像函数，两者构成傅里叶变换对（Transform pair）。有时也写作。

分数傅里叶变换：Fractional Fourier Transform（FRFT），做傅里叶变换a次（a未必为整数），变换后信号在介于时域和频域之间的分数域（Fractional domain）。

当为偶函数时，傅里叶变换的正玄分量消失，称为余玄变换（Cosine Transform）。反之依然，称为正玄变换（Sine Transform）。

提示：偶函数是关于y轴对称的函数。奇函数是关于原点对称的函数。

连续傅里叶变换

一般情况下指傅里叶变换。

离散时间傅里叶变换

Discrete Time Fourier Transform（DTFT），用于连续函数的均匀间隔采样（实际的信号都是间隔采样得到的）。在时域上离散，在频域上则是周期的。可被看作是傅里叶级数的逆变换。

对于非周期时域序列，其DTFT为：

其逆变换（iDTFT）为：

其中，常被写作，角频率。为周期性函数，

离散傅里叶变换

Discrete Fourier Transform（DFT），傅里叶变换在时域和频域上都呈离散的形式，是离散时间傅里叶变换的特例（近似）。变换两端（时域和频域上）的序列是有限长的，这两组序列都应当被认为是离散周期信号的主值序列。可以将DFT看作经过周期延拓成为周期信号再作变换。

对于点时域序列，其DFT为：

得到点频域序列。离散傅里叶变换的逆变换（iDFT）为：

其中，

为频域点的索引，为时域点的索引。取值对应，是正频部分，是负频部分（由于正余弦函数的周期性，用代替，便于计算）。
都是复数，的虚数部分为0，实数部分是原始信号。
若将复指数写为正余弦形式，则实域频谱呈偶对称性（余弦波频谱），虚域频谱呈奇对称性（正玄波频谱）。
DFT和IDFT变换式中和式前面的归一化系数是主观选择的，有时会将式前的系数都改为。

这种DFT/iDFT方法利用了信号的相关性（Correlation），即：

DFT，某个频率（k/N）的时域函数与时域序列内积，如果频率出现在信号中（波形相似），则相关性大，内积值大（复数强度大）。反之，相关性小，内积值小（若正交则为0）。
iDFT，所有频率（k/N）的时域函数与自身强度（）相乘后累加，即可得到时域序列。

原函数在时域的离散对应于像函数在频域的周期性，在频域的离散对应在时域的周期性。反之，在一域的连续对应于在另一域的非周期性。在实际应用中，只有DFT不涉及连续（无限多），适合使用计算机计算。信号通常是有限长的、离散的（计算机中），把信号通过复值的方式无限延申，可以得到离散周期性信号，进而可用DFT做变换。通常采用快速傅里叶变换以高效计算DFT。

变换	时域信号	频域图像
连续傅里叶变换	连续，非周期性	非周期性，连续
傅里叶级数	连续，周期性	非周期性，离散
离散时间傅里叶变换	离散，非周期性	周期性，连续
离散傅里叶变换	离散，周期性	周期性，离散

离散傅里叶变换矩阵

Discrete Fourier transform matrix，可将DFT以矩阵乘法来表示。点DFT可表示为，其中是原始的输入信号，是DFT输出的信号，是一个的变换矩阵（表示乘），通常还会乘以归一化（正规化）系数或。为次单位根，即。

iDFT的变换矩阵与DFT的变换矩阵类似，但次单位根指数正负号相反，归一化系数与DFT的乘积为。变换矩阵是DFT定义的矩阵实现，效率不如FFT。

快速傅里叶变换

Fast Fourier Transform（FFT），一种快速计算DFT/iDFT的方法，通过把DFT矩阵分解为稀疏（大多为零）因子之积来计算，计算复杂度。而DFT定义中的计算利用的是相关性，计算复杂度。其中为元素个数。

库利-图基算法（Cooley-Tukey）是最常见的FFT算法。这一方法以分治法为策略递归地将长度为的DFT分解为多个较短的DFT，以及与个旋转因子的复数乘法。适用于长度为的序列（2-FFT），或者长度N可因数分解形式的序列（混合基FFT）。实现上一般将递归算法改为非递归形式。

次单位根（次幂为1的复数，Primitive Nth root of unity），其周期为，以呈奇对称性，若为的约数，。

对于点时域序列，频率对应的DFT：
$\begin{aligned} y_k &= \Sigma_{n=0}^{N-1} W_N^{kn} x_n \\ &= \Sigma_{n=2t} W_N^{kn} x_n + \Sigma_{n=2t+1} W_N^{kn} x_n \\ &= \Sigma_{t} W_{N/2}^{kt} x_{2t} + W_N^k\Sigma_{t} W_{N/2}^{kt} x_{2t+1} \\ &= F_{even}(k) + W_N^kF_{odd}(k) \end{aligned}$
只能计算出的频率（因为周期为）。结合单位根奇对称性，后个频率有：

这样，一个长度为的DFT就变为2个的DFT的加法和减法。

参考资料：

傅里叶变换算法、上 - The-Art-Of-Programming-By-July

参考文献

数学符号表
The Matrix Cookbook：官网打不开，多个网站有资源。
Matrix Calculus工具
标量导数表
导数的运算法则
矩阵求导术
矩阵求导与矩阵微分
矩阵微积分
复数矩阵求导的转置和共轭转置

Mathematics

复数

空间

向量

乘法

秩

范数

矩阵

酉矩阵

正交矩阵

正规矩阵

矩阵变换

矩阵转置

矩阵求逆

吉文斯旋转

雅可比旋转

高斯消元法

矩阵分解

EVD分解

SVD分解

极分解

格拉姆-施密特正交化

QR分解

导数和微分

矩阵求导

狄拉克delta函数

泰勒级数

傅里叶级数

傅里叶变换

连续傅里叶变换

离散时间傅里叶变换

离散傅里叶变换

离散傅里叶变换矩阵

快速傅里叶变换

参考文献

你可能感兴趣的:(Mathematics)