CQF笔记Primer数学基础

1 Calculus 微积分

1.1 Basic Terminology 基本术语

符号	含义	符号	含义	符号	含义
$\exists$	存在	$\to$	给定	$\equiv$	等价于
$\forall$	对所有……有	s.t.	such that	$\sim$	similar
$\therefore$	所以	:	such that	$\in$	是……的元素
$\because$	因为	iff	当且仅当	!x	有唯一的x

1.2 Functions 函数

输入到输出的映射 mapping：

• input记作x，independent variable，自变量
• output记作y，dependent variable，因变量

mapping 映射：

• 一对一
• 多对一
• 一对多（不是函数）

函数的定义：每个x映射到唯一的一个y

inverse function 逆函数

• 一对一映射的函数有反函数
• 多对一映射的函数没有反函数，限制自变量的值域，变成一对一映射

函数 $y=2x^2-1$的逆函数（限制x的取值范围为 $x\ge 0$）为
$$y=\sqrt{\frac{x+1}{2}}$$

$f(f^{-1}(x))=x$
$f^{-1}(f(x))=x$

even function偶函数和 odd function 奇函数

偶函数

• $f(-x)=f(x)$
• 沿y轴对称

奇函数

• $f(-x)=f(-x)$
• 中心对称（沿原点旋转180°）

大部分函数不是偶函数或者奇函数，但是可以表达为奇函数和偶函数之和

1.2.1 Explicit/Implicit Representation 显示/隐式表示

显示表示 $y=2x^2+4x-16=0$
隐式表示 $f(x,y)=0$

1.2.2 Types of function

Polynomials 多项式

$$f(x)=\sum _{k=0}^n{a}_k{x}^k,其中a_0,a_1,...,a_n是常数$$

• K = 1称为线性项
• K = 2称为二次项

二次多项式 $a{x}^2+bx+c=0$ 的解
$$x=\frac{-b\pm \sqrt{b^2-4ac}}{2a}$$

三种情况：

• $b^2-4ac>0\to x_1\ne x_2，两个实数根$
• $b^2-4ac=0\to x_1=x_2=-\frac{b}{2a}为实数$
• $b^2-4ac<0\to x_1\ne x_2，两个复数共轭根$

Modulus 模（绝对值）

$$f(x)=\{\begin{array}{ll}x& \text{x>0}\\ -x& \text{x<0}\end{array}$$

模函数是分段函数piecewise function

1.3 Limit 极限

研究逼近问题

$$\underset{x\to x_0}{\lim }f(x)\to l$$

同时从左边逼近和从右边逼近，应该相同逼近同一个值

普通极限

$$\begin{array}{rl}& \underset{x\to \infty }{\lim }\frac{x^2+2x+2}{3x^2+4}\\ =& \underset{x\to \infty }{\lim }\frac{1+\frac{2}{x}+\frac{2}{x^2}}{3+\frac{4}{x^2}}\\ =& \frac{1}{3}\end{array}$$

函数连续

$$\underset{x\to x_0}{\lim }f(x)=f(x_0)$$

1.3.1 exponential and log functions 指数和对数函数

$$\begin{gathered} y=a^x \\ y={\log }_{a}x \end{gathered}$$

以自然对数为底的指数函数和对数函数
$$\begin{gathered} y=e^x \\ y=lnx \\ y=logx \end{gathered}$$

$$e=\underset{n\to \infty }{\lim }(1+\frac{x}{n}{)}^n$$

正态分布的形式类似于$e^{-x^2/2}$

1.3.2 Trigonometric/Circular Functions 三角函数

sin 正弦函数

• 奇函数 $sin(-x)=-sin(x)$
• 周期函数 $sin(x+2\pi )=sin(x)$
• $sinx=0\iff x=n\pi \forall n\in Z$
• $Dom(sinx)=R$ and $Im(sinx)=[-1,1]$

cos 余弦函数

• 偶函数 $cos(-x)=cos(x)$
• 周期函数 $cos(x+2\pi )=cos(x)$
• $cos=0\iff x=(2n+1)\frac{\pi }{2}\forall n\in Z$
• $Dom(cosx)=R$ and $Im(cosx)=[-1,1]$

tan 正切函数

• 偶函数 $tan(-x)=tan(x)$
• 周期函数 $cos(x+\pi )=cos(x)$
• $Dom(tanx)=\{x:cosx\ne 0\}=\{x:x\ne (2n+1)\frac{\pi }{2};(n\in Z)\}=R-\{x=(2n+1)\frac{\pi }{2};(n\in Z)\}$

三角函数关系式
$$co{s}^{2}x+si{n}^{2}x=1$$

$$\begin{gathered} sin(x\pm y)=sinxcosy\mp cosxsiny \\ cos(x\pm y)=cosxcosy\mp sinxsiny \\ tan(x\pm y)=\frac{tanx\pm tany}{1\mp tanxtany} \end{gathered}$$

$$\begin{gathered} secx=\frac{1}{cosx} \\ cscx=\frac{1}{sinx} \\ cotx=\frac{1}{tanx} \end{gathered}$$

$$\begin{gathered} si{n}^{-1}x\to arcsin(x) \\ co{s}^{-1}x\to arccos(x) \\ ta{n}^{-1}x\to arctan(x) \end{gathered}$$

$$\begin{gathered} \underset{x\to 0}{\lim }sinx=0 \\ \underset{x\to 0}{\lim }\frac{sinx}{x}=1 \\ \underset{x\to 0}{\lim }|x|=0 \\ \underset{x\to 0}{\lim }\frac{|x|}{x}的左右极限分别为-1和1，因此没有极限 \end{gathered}$$

1.3.3 Hyperbolic Functions 双曲函数

$sinhx=\frac{1}{2}(e^x-e^{-x})$

• 奇函数
• $Dom(sinhx)=R$ and $Im(sinhx)=R$

$coshx=\frac{1}{2}(e^x+e^{-x})$

• 偶函数
• $Dom(coshx)=R$ and $Im(coshx)=[1,\infty )$

$tanhx=\frac{sinhx}{coshx}$

• 奇函数
• $Dom(coshx)=R$ and $Im(coshx)=(1,1)$

关系式

$$\begin{array}{rl}cos{h}^{2}x-sin{h}^{2}x& =1\\ sinh(x\pm y)& =sinhxcoshy\pm sinhxcoshy\\ consh(x\pm y)& =coshxcoshy\pm sinhxsinhy\end{array}$$

反函数

$$\begin{array}{rl}sin{h}^{-1}x& =ln\left|x+\sqrt{x^2+1}\right|\\ cos{h}^{-1}x& =ln\left|x+\sqrt{x^2-1}\right|\\ tan{h}^{-1}x& =\frac{1}{2}ln\left|\frac{1+x}{1-x}\right|\end{array}$$

1.4 Differentiation 微分

• 莱布尼兹表示
  $$\frac{df}{dx}$$
• 格朗日表示
  $$f^{\prime }(x)$$

定义

$$f^{\prime }(x)=\underset{\delta x\to 0}{\lim }\frac{f(x+\delta x)-f(x)}{\delta x}$$

上述定义式为前向微分

• 反向微分
  $$f^{\prime }(x)=\underset{\delta x\to 0}{\lim }\frac{f(x)-f(x-\delta x)}{\delta x}$$
• 中心微分
  $$f^{\prime }(x)=\underset{\delta x\to 0}{\lim }\frac{f(x+\delta x)-f(x-\delta x)}{2\delta x}$$

求微分的例子：$f(x)=x^3$

$$\begin{array}{rl}{f}^{\prime }(x)& =\underset{\delta x\to 0}{\lim }\frac{f(x+\delta x)-f(x)}{\delta x}\\ & =\underset{\delta x\to 0}{\lim }\frac{(x+\delta x{)}^3-x^3}{\delta x}\\ & =\underset{\delta x\to 0}{\lim }\frac{(x^3+3x^2\delta x+3x\delta x^2+\delta x^3)-x^3}{\delta x}\\ & =\underset{\delta x\to 0}{\lim }(3x^2+3x\delta x+\delta x^2)\\ & =3x^2\end{array}$$

常用微分

$$\begin{gathered} \frac{d}{dx}{x}^n=n{x}^{n-1} \\ \frac{d}{dx}{e}^x=e^x \\ \frac{d}{dx}{e}^{ax}=a{e}^{ax} \\ \frac{d}{dx}logx=\frac{1}{x} \\ \frac{d}{dx}sinx=cosx \\ \frac{d}{dx}cosx=-sinx \\ \frac{d}{dx}tanx=se{c}^{2}x \end{gathered}$$

Linearity 线性：

线性的定义

• $Op(c\times f(x)=c\times Op(f(x))$
• $Op(f(x)\pm g(x))=Op(f(x))\pm Op(g(x))$

两个函数加权和的微分，等于两个函数微分的加权和
$$\begin{gathered} y=\lambda f(x)+\mu g(x),\lambda 和\mu 是常量 \\ \frac{dy}{dx}=\frac{d}{dx}(\lambda f(x)+\mu g(x))=\lambda f^{\prime }(x)+\mu g^{\prime }(x) \end{gathered}$$

1.4.1 Product Rule 乘法法则

对两个函数的乘积求导数

$$y=f(x)\times g(x)⟹\frac{dy}{dx}=f^{\prime }(x)\times g(x)+f(x)\times g^{\prime }(x)$$

1.4.2 Function of a Function Rule 函数的函数法则

求函数的函数的导数：chain rule 链式求导法则

$$y=f(g(x))⟹\frac{dy}{dx}=f^{\prime }(g(x))\times g^{\prime }(x)$$

$$\frac{dy}{dx}=\frac{dy}{du}\times \frac{du}{dx}$$

1.4.3 Quotient Rule 商数法则

可以用乘法法则推导

$$\frac{f(x)}{g(x)}⟹\frac{dy}{dx}=\frac{f^{\prime }(x)\times g(x)-f(x)\times g^{\prime }(x)}{((g(x){)}^2}$$

1.4.4 Implicit Differentiation 隐式微分

$$\begin{gathered} y=a^x \\ lny=xlna \\ \frac{1}{y}\frac{dy}{dx}=lna \\ \frac{dy}{dx}=a^{x}lna \end{gathered}$$

1.4.5 Higher Derivatives 高阶导数

• n次多项式的 n+1 阶导数为0
• 不是所有函数都处处可导

1.4.6 Leibniz Rule 莱布尼兹法则

乘法法则的高阶表示（二项式）
$$D^n(uv)=\sum _{i=0}^n{C}_n^i\times D^{i}u\times D^{n-i}v,C_n^r=\frac{n!}{r!((n-r)!}$$

1.4.7 Further Limits 高阶极限

L’Hospital’s rule

$$\underset{x\to a}{\lim }\frac{f(x}{g(x)}\equiv \frac{0}{0}or\frac{\infty }{\infty }$$
对极限的上下两部分同时求导，计算极限

$$\underset{x\to a}{\lim }\frac{f(x}{g(x)}=\underset{x\to a}{\lim }\frac{f^{\prime }(x}{g^{\prime }(x)}=\dots =\underset{x\to a}{\lim }\frac{f^{(r)}(x}{g^{(r)}(x)}$$

$$\underset{x\to 0}{\lim }\frac{sinx}{x}=\underset{x\to 0}{\lim }\frac{cosx}{1}=1$$

1.5 Taylor Series 泰勒级数

多项式函数逼近原始函数，N次项的系数为N次导数

对于$f(x)=e^x$, $f^{(r)}(x)=e^x$, $f^{(r)}(0)=1$

线性近似：
截距项为1，斜率为1， $e^x\approx 1+x$

二次近似：
$$\begin{gathered} g(x)=a{x}^2+bx+c \\ {g}^{\prime }(x)=2ax+b \\ {g}^{\prime \prime }(x)=2a \end{gathered}$$
令 $$g(0)=f(0),g^{\prime }(0)=f^{\prime }(0),g^{\prime \prime }(0)=f^{\prime \prime }(0)$$
得到 $$c=1,b=1,a=\frac{1}{2}$$
因此 $$e^x\approx 1+x+\frac{1}{2}{x}^2$$

三次近似: $e^x\approx 1+x+\frac{1}{2}{x}^2+\frac{1}{6}{x}^3$

无穷展开：$e^x={\sum }_{n=0}^{\infty }\frac{x^n}{n!}$

泰勒级数: $f(x)$在$x_0$的泰勒展开
$$f(x)=\sum _{n=0}^{\infty }\frac{1}{n!}{f}^{(n)}(x_0)(x-x_0{)}^n$$

常用展开
$$\begin{gathered} e^x=\sum _{n=0}^{\infty }\frac{x^n}{n!} \\ log(1+x)=\sum _{n=0}^{\infty }(-1{)}^{n-1}\frac{x^n}{n!} \end{gathered}$$

泰勒定量

$$\begin{array}{rl}& f(x)=\sum _{k=0}^{n-1}\frac{1}{k!}{f}^{(k)}(x_0)(x-x_0{)}^k+R_n(x)\\ 其中& R_n(x)=\frac{1}{n!}{f}^{(n)}(\xi )(x-x_0{)}^n\\ & \xi 是介于x_0和x之间的某个未知数值\end{array}$$

用泰勒展开式计算极限
$$\begin{array}{rl}\underset{x\to 0}{\lim }\frac{sinx}{x}& \sim \underset{x\to 0}{\lim }\frac{{\sum }_{i=0}^{\infty }(-1{)}^i\frac{x^{2i+1}}{(2i+1)!}}{x}\\ & \sim \underset{x\to 0}{\lim }\sum _{i=0}^{\infty }(-1{)}^i\frac{x^{2i}}{(2i+1)!}\\ & \sim \underset{x\to 0}{\lim }(1-\frac{x^2}{3!}+\frac{x^4}{5!}+\dots )\\ & =1\end{array}$$

1.5.1 The Binomial Expansion 二项式展开

二项式展开是$(1+x{)}^n$的泰勒展开式

$$\begin{array}{rl}(1+x{)}^n& =\sum _{k=0}^n\frac{n!}{k!(n-k)!}{x}^k\\ (1+ax{)}^n& =\sum _{k=0}^n\frac{n!}{k!(n-k)!}(ax{)}^k\\ (p+ax{)}^n& =(p(1+\frac{a}{p}x){)}^n\\ & =p^n\sum _{k=0}^n\frac{n!}{k!(n-k)!}(\frac{a}{p}x{)}^k\end{array}$$

Pascal三角形：$(1+x{)}^n$，不同的n的二项式系数组成的三角形

1.6 Integration 积分

1.6.1 The Indefinite Integral 不定积分

$f(x)$的不定积分$\int f(x)dx$

$$\begin{gathered} F(x)=\int f(x)dx \\ \frac{dF(x)}{dx}=f(x) \end{gathered}$$

$y=2x$, $\frac{dy}{dx}=2$, $\int 2dx=2x+C$, 注意常数项C对x的微分为0

不定积分的例子
$$\begin{array}{rl}\int x^{n}dx& =\frac{1}{n+1}{x}^{n+1}+C,(n\ne -1)\\ \int \frac{1}{x}dx& =ln(x)+C\\ \int e^{ax}dx& =\frac{1}{a}{e}^{ax}+C\\ \int cos(ax)dx& =\frac{1}{a}sin(ax)+C\\ \int sin(ax)dx& =-\frac{1}{a}cos(ax)+C\end{array}$$

Linearity 线性：积分是线性的
$\int (\alpha f(x)+\beta g(x))dx=\alpha \int f(x)dx+\beta \int g(x)dx$

$$\begin{gathered} \int (A{x}^2+B{x}^4)dx=A\int x^{2}dx+B\int x^{3}dx=\frac{A}{3}{x}^3\frac{B}{4}{x}^4+C \\ \int (3e^x+\frac{2}{x})dx=3\int e^{x}dx+2\int \frac{1}{x}dx=3e^x+2lnx+C \end{gathered}$$

1.6.2 The Definite Integral 定积分

$f(x)$的定积分${\int }_a^{b}f(x)dx$

例子:
${\int }_{-1}^1{e}^{x}dx=e^x{|}_{-1}^1=e-\frac{1}{e}$

${\int }_a^{x}f(x)dx$ 这种表示法，容易造成混淆，应使用哑变量

${\int }_a^{c}f(x)dx={\int }_a^{b}f(x)dx+{\int }_b^{c}f(x)dx$, if $a<b<c$

${\int }_a^{c}f(x)dx=-{\int }_c^{a}f(x)dx$

1.6.3 Integration by Substitution 代换积分法/换元法

$$\int g(f(x))f^{\prime }(x)dx$$

反向使用链式法则：
令 $z=f(x)$
则$dz=f^{\prime }(x)dx可得\int g(f(x))f^{\prime }(x)dx=\int g(z)dz$

例子：${\int }_1^2{e}^{x^2}2xdx$,
令$z=x^2$,
可得${\int }_1^2{e}^{x^2}2xdx={\int }_1^4{e}^{z}dz=e^z{|}_1^4=e^4-e^1$

重要例子：${\int }_{-\infty }^{\infty }{e}^{-x^2}dx$
标准正态分布$Z(x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}$
标准正态分布的CDF ${\int }_{-\infty }^{\infty }Z(x)dx=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{\infty }{e}^{-\frac{s^2}{2}}ds=1$
令$x=\frac{s}{\sqrt{2}}$
可得${\int }_{-\infty }^{\infty }{e}^{-x^2}dx=\sqrt{\pi }$

奇函数和偶函数的积分：
$$\begin{array}{rl}{\int }_{-a}^{a}f(x)dx& ={\int }_{-a}^{0}f(x)dx+{\int }_0^{a}f(x)dx\\ & =-{\int }_0^{-a}f(x)dx+{\int }_0^{a}f(x)dx\\ & ={\int }_0^{a}f(-x)dx+{\int }_0^{a}f(x)dx\\ & =\{\begin{array}{ll}2{\int }_0^{a}f(x)dx& \text{f(x)是偶函数}\\ 0& \text{f(x)是奇函数}\end{array}\end{array}$$

1.6.4 Integration by Parts 分部积分法

$$\int u^{\prime }vdx$$

反向使用乘法法则
$\int u^{\prime }vdx=uv-\int u{v}^{\prime }dx+C$

分部积分法的使用场景：v是多项式函数，u是指数函数

例子：$\int x{e}^{x}dx$
令：$v=x,v^{\prime }=1,u=e^x,u^{\prime }=e^x$
得到：$\int x{e}^{x}dx=uv-\int u{v}^{\prime }dx+C=x{e}^x-\int e^x\times 1dx=e^x(x-1)+C$

弱国多项式部分的次数大于1，反复使用分部积分法直到变为0次

经典问题：$\int e^{x}sinxdx$
令$v=e^x,u^{\prime }=sinx,v^{\prime }=e^x,u=-cosx$
得到：$\int e^{x}sinxdx=-e^{x}cosx+\int e^{x}cosxdx$
令$v=e^x,u^{\prime }=cosx,v^{\prime }=e^x,u=sinx$
得到：$\int e^{x}cosxdx=e^{x}sinx-\int e^{x}sinxdx$
将上两个等式相加，消去$\int e^{x}cosxdx$项得到
$\int e^{x}sinxdx=\frac{1}{2}{e}^x(sinx-cosx)$
$\int e^{x}cosxdx=\frac{1}{2}{e}^x(sinx+cosx)$

1.6.5 Reduction Formula 约化公式

$${\int }_0^{\infty }{e}^{-t}{t}^{n}dt=I_n$$

用部分积分法逐次消去多项式项，得到$I_n=n!I_0$, 注意$e^{-t}{t}^n{|}_0^{\infty }=0$
$I_0={\int }_0^{\infty }{e}^{-t}dt=1$, $I_n=n!$
$I_n$称为Gamma函数（$\Gamma$函数）

1.6.6 Other Results 其他法则

$$\int \frac{f^{\prime }(x)}{f(x)}=ln|f(x)|+C$$
$$\int \frac{1}{a+bx}=\frac{1}{b}ln|a+bx|+C$$

Partial Fractions:部分分式分解
$$h(x)=\frac{f(x)}{g(x)}=\frac{{\sum }_{n=0}^N{a}_n{x}^n}{{\sum }_{n=0}^M{b}_n{x}^n}$$

如果N

$$\begin{gathered} \frac{c}{(x+a)(x+b)}\equiv \frac{A}{x+a}+\frac{B}{x+b} \\ c=A(x+b)+B(x+a) \end{gathered}$$
求解出A和B，得到部分分式分解

• 重复的因式：
  $$\frac{c}{(x+a{)}^2(x+b{)}^3}=\frac{A}{x+a}+\frac{B}{(x+a{)}^2}+\frac{C}{x+b}+\frac{D}{(x+b{)}^2}+\frac{E}{(x+b{)}^3}$$

• 未分解的高次项
  $$\frac{2x+1}{(x^2+3x+2)(x-1)}=\frac{Ax+B}{x^2+3x+2}+\frac{C}{x-1}$$

1.7 Complex Numbers 复数

复数的定义
$z=x+iy$ where $x,y\in R$ and $i=\sqrt{-1}$
$x$称为实部real part, $y$称为虚部imaginary part

极坐标表示形式$z=r(cos\theta +isin\theta )$
$x=rcos\theta ,y=rsin\theta ),\theta =arctan\frac{y}{x}$

共轭conjugate
$z=x+iy$和$z=x-iy$互为共轭复数

1.7.1 Arithmetic 算术运算

• 加减法：$z_1\pm z_2=(x_1\pm x_2)+i(y_1\pm y_2))$
• 乘法：$z_1\times z_2=(x_1{x}_2-y_1{y}_2)+i(x_1{y}_2+x_2{y}_1)$
• 除法：$$\frac{z_1}{z_2}=\frac{1}{x_2^2+y_2^2}((x_1{x}_2+y_1{y}_2)+i(x_1{y}_2-x_2{y}_1))$$
  除法相当于上下都乘以$z_2$的共轭复数$x_2-i{y}_2$

1.7.2 Complex Conjugate Identities 共轭复数的性质

1. 共轭的共轭 $$\overline{(\bar{z})}=z$$
2. 加法的共轭 $$\overline{(z_1+z_2)}=\overline{z_1}+\overline{z_2}$$
3. 乘积的共轭 $$\overline{(z_1\times z_2)}=\overline{z_1}\times \overline{z_2}$$
4. 共轭相加 $$\begin{gathered} z+\bar{z}=2x=2Rez \\ Rez=\frac{z+\bar{z}}{2} \end{gathered}$$
5. 共轭相减 $$\begin{gathered} z-\bar{z}=2iy=2iImz \\ Imz=\frac{z-\bar{z}}{2i} \end{gathered}$$
6. 共轭相乘 $$z\times \bar{z}=(x+iy)(x-iy)=|z{|}^2$$

1.7.3 Polar Form 极坐标形式

$$\begin{gathered} z=r(cos\theta +isin\theta )=r{e}^{i\theta } \\ {e}^{i\theta }=cos\theta +isin\theta \end{gathered}$$

极坐标形式的乘除法非常简便

Euler’s Formula 欧拉公式

可以通过泰勒级数证明$e^{i\theta }=cos\theta +isin\theta$，关键点在于 $i^2=-1$

泰勒展开式
$$\begin{array}{rl}{e}^x& =\sum _{n=0}^{\infty }\frac{x^n}{n!}\\ sinx& =\sum _{n=0}^{\infty }(-1{)}^n\frac{x^{(2n+1)}}{(2n+1)!}\\ cosx& =\sum _{n=0}^{\infty }(-1{)}^n\frac{x^{(2n)}}{(2n)!}\end{array}$$

欧拉公式的证明
$$\begin{array}{rl}{e}^{i\theta }& =\sum _{n=0}^{\infty }\frac{(i\theta {)}^n}{n!}\\ & =\sum _{n=0}^{\infty }\frac{(i\theta {)}^{(2n)}}{(2n)!}+\sum _{n=0}^{\infty }\frac{(i\theta {)}^{(2n+1)}}{(2n+1)!}\\ & =\sum _{n=0}^{\infty }\frac{i^{(2n)}{\theta }^{(2n)}}{(2n)!}+\sum _{n=0}^{\infty }\frac{i\times i^{(2n)}{\theta }^{(2n+1)}}{(2n+1)!}\\ & =\sum _{n=0}^{\infty }(-1{)}^n\frac{x^{(2n)}}{(2n)!}+i\sum _{n=0}^{\infty }(-1{)}^n\frac{x^{(2n+1)}}{(2n+1)!}\\ & =cos\theta +isin\theta \end{array}$$

用欧拉公式计算$\int e^{x}sinxdx$
$$\begin{array}{rl}\int e^{x}sinxdx& =\int e^{x}Im{e}^{ix}dx\\ & =\int Im{e}^{(1+i)x}dx\\ & =Im\frac{1}{1+i}{e}^{(1+i)x}dx\\ & =e^{x}Im\frac{1-i}{2}{e}^{ix}dx\\ & =\frac{1}{2}{e}^{x}Im(1-i)(cosx+isinx)\\ & =\frac{1}{2}{e}^x(sinx-cosx)\end{array}$$

同样的方法可以得到$$\int e^{x}sinxdx=\frac{1}{2}{e}^x(sinx+cosx)$$

1.8 Functions of Several Variables: Multivariate Calculus 多变量函数：多变量微积分

偏微分 partial derivative
对$f(x,y)$定义偏微分
$$\frac{\partial f}{\partial x}=li{m}_{\delta x\to 0}\frac{f(x+\delta x,y)-f(x,y)}{\delta x}$$
其中y保持不变（看作常量）
偏微分也记作$f_x,f_y$

高阶偏微分
$$\begin{gathered} \frac{{\partial }^{2}f}{\partial x^2}=f_{xx}=\frac{\partial }{\partial x}(\frac{\partial f}{\partial x}) \\ \frac{{\partial }^{2}f}{\partial y^2}=f_{yy}=\frac{\partial }{\partial y}(\frac{\partial f}{\partial y}) \\ \frac{{\partial }^{2}f}{\partial x\partial y}=f_{xy}=\frac{\partial }{\partial y}(\frac{\partial f}{\partial x}) \\ \frac{{\partial }^{2}f}{\partial y\partial x}=f_{yx}=\frac{\partial }{\partial x}(\frac{\partial f}{\partial y}) \end{gathered}$$

1.8.1 The Chain Rule I 链式法则I

单变量:
$$\begin{gathered} f(u),u=g(x) \\ \frac{df}{dx}=\frac{df}{du}\times \frac{du}{dx} \end{gathered}$$

多变量: 多个变量都是某个最终变量的函数
$$\begin{gathered} f(x,y),x=x(s),y=y(s) \\ \frac{df}{ds}=\frac{\partial f}{\partial x}\times \frac{dx}{ds}+\frac{\partial f}{\partial y}\times \frac{dy}{ds} \end{gathered}$$

1.8.2 The Chain Rule II 链式法则II

多变量: 多个变量都是某一组最终变量的函数
$$\begin{gathered} f(x,y),x=x(u,v),y=y(u,v) \\ \frac{df}{du}=\frac{\partial f}{\partial x}\times \frac{\partial x}{\partial u}+\frac{\partial f}{\partial y}\times \frac{\partial y}{\partial u} \end{gathered}$$

1.8.3 Taylor for two Variables 两变量泰勒展开

$f(x,t)$在$x=x_0,t=t_0$处展开

$$\begin{array}{rl}f(x)=& f(x_0,t_0)\\ & +f_x(x_0,t_0)(x-x_0)+f_t(x_0,t_0)(t-t_0)\\ & +\frac{1}{2}\left\{\begin{array}{rl}& f_{xx}(x_0,t_0)(x-x_0{)}^2\\ & +2f_{xt}(x_0,t_0)(x-x_0)(t-t_0)\\ & +f_{tt}(x_0,t_0)(t-t_0{)}^2\end{array}\right\}\\ & +\dots \end{array}$$

2 Linear Algebra 线性代数

2.1 Properties of Vectors 向量的性质

n维空间 $R_n$
n维向量
v ⃗ = [ v 1 v 2 ⋮ v n ] ∈ R n \vec \boldsymbol v = \left[ \begin{matrix} v_1 \\ v_2 \\ \vdots \\ v_n \\ \end{matrix} \right] \in R_n v =