【AI】数学基础——高数（积分部分）

高数（函数&微分部分）

1.4 微积分

用于求解速度、面积、体积等可累积量

1.4.1 基本思想

以直代曲

在 $[a,b]$ 间插入若干点，得到 $n$ 个小区间，每个小矩形面积 $A_i=f({\xi }_i)\Delta x_i\Rightarrow A_{(a,b)}={\sum }_{i=1}^{n}f({\xi }_i)\Delta x_i$

设 $\lambda$ 为小区间的最大值，$A={\lim }_{\lambda \to 0}{\sum }_{i=1}^{n}f({\xi }_i)\Delta x_i$

记为 ${\int }_a^{b}f(x)dx$

微分与导数关系

$dy$ ：切线增量

$\Delta y$ ：曲线增量

导数(切线斜率)：$f^{\prime }(x)=\frac{dy}{dx}$

$\Delta y=dy+o(\Delta x)$

1.4.2 定积分

定义

函数可积定义：$f(x)$ 在 $[a,b]$ 上的定积分存在时，则称 $f(x)$ 在 $[a,b]$ 可积

几何意义：面积A

$$\{\begin{array}{rlr}& f(x)>0& {\int }_a^{b}f(x)dx=A>0\\ & f(x)<0& {\int }_a^{b}f(x)dx=-A<0\end{array}$$

定义计算定积分

${\int }_0^1{x}^{2}dx$ ：将 $[0,1]$ n等分，分点为 $x_i=\frac{i}{n},(i=1,2,\cdots ,n)$

小区间 $[x_{i-1},x_i]$ 的长度 $\Delta x_i=\frac{1}{n},(i=1,2,\cdots ,n)$

取 ${\xi }_i=x_i$ ，${\sum }_{i=1}^{n}f({\xi }_i)\Delta x_i={\sum }_{i=1}^n{\xi }_i^2\Delta x_i={\sum }_{i=1}^n(\frac{i}{n}{)}^2\frac{1}{n}=\frac{1}{n^3}{\sum }_{i=1}^n{i}^2=\frac{1}{n^3}\frac{n(n+1)(2n+1)}{6}$

$|\Delta x|\to 0\Rightarrow n\to \infty$ ，${\lim }_{n\to \infty }\frac{(n+1)(2n+1)}{6n^2}=\frac{1}{3}\Rightarrow {\int }_0^1{x}^{2}dx={\sum }_{i=1}^{n}f({\xi }_i)\Delta x_i=\frac{1}{3}$

定积分性质

${\int }_a^b[f(x)\pm g(x)]dx={\int }_a^{b}f(x)dx\pm {\int }_a^{b}g(x)dx$

${\int }_a^{b}kf(x)dx=k{\int }_a^{b}f(x)dx,(k为常数)$

${\int }_a^{b}f(x)dx={\int }_a^{c}f(x)dx+{\int }_c^{b}f(x)dx$

若 $[a,b]$ 上，$f(x)\ge 0\Rightarrow {\int }_a^{b}f(x)dx\ge 0,(a<b)$

定理

积分第一中值定理：$f(x)$ 在 $[a,b]$ 上连续，则在 $[a,b]$ 上至少存在一点 $\xi$ ，使 ${\int }_a^{b}f(x)dx=f(\xi )(b-a)$

积分上限函数：$f(x)$ 在 $[a,b]$ 上连续，对于定积分 ${\int }_a^{x}f(x)dx$ 每个取值 $f(x)$ 有一个值 $\Phi (x)={\int }_a^{x}f(t)dt$

N-L公式

$F(x)$ 连续且未 $f(x)$ 在 $[a,b]$ 上原函数，${\int }_a^{b}f(x)dx=F(b)-F(a)$

几何意义：

$F(b)-F(a)=\sum \Delta y_i$

当 $\Delta x\to 0$ 时，有 $d{y}_i\approx \Delta y_i,F^{\prime }(x)=\frac{dF(x)}{dx}=\frac{dy}{dx}$

$\therefore F(b)-F(a)=\sum \Delta y_i=\sum d{y}_i=\sum f(x)dx={\int }_a^{b}f(x)dx$

基本公式

$\underset{积分中值定理}{{\int }_a^{b}f(x)dx=f(\xi )(b-a)}=\underset{微分中值定理}{F^{\prime }(\xi )(b-a)}=F(b)-F(a)$

泰勒公式

以直代曲：多项式代替原函数

常用泰勒公式

当 $x\to 0$ 时，$e^x\approx 1+x$ ，$ln(1+x)\approx x$

---

$P_n(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+f^{\prime \prime }(x_0)\frac{(x-x_0{)}^2}{2!}+f^{\prime \prime \prime }(x_0)\frac{(x-x_0{)}^3}{3!}+\cdots +f^{(n)}(x_0)\frac{(x-x_0{)}^n}{n!}$

导数作用

• 一阶导作用：确定上升/下降趋势

  

• 二阶导作用：确定弯曲方向（凹凸性）

  

阶越高，增长速度越快

低阶能更好描述当前点，阶越高在右侧影响越大

阶乘作用

在低阶，保证 $x^5,x^6$ 次项作用(高次项) $x+\frac{x^2}{2!}+\cdots +\frac{x^5}{5!}$

在高阶，保证 $x,x^2$ 次项作用（低次项）

若无阶乘，高阶压制低阶，函数呈高次项特性

如：$x^9+x^2$

引入阶乘，图像先呈现 $x^2$ 特性，再呈现 $x^9$ 特性

$x$ 小时，$\frac{1}{9!}$ 可限制 $x^9$ 项

随 $x$ 增加，$\frac{1}{9!}$ 作用变小，无法再限制 $x^9$

麦克劳林公式

$f(x)=f(0)+f^{\prime }(0)x+f^{\prime \prime }(0)\frac{x^2}{2!}+\cdots +f^{(n)}\frac{x^n}{n!}+f^{(n+1)}(\theta x)\frac{x^{(n+1)}}{(n+1)!},0<\theta <1$

• $sinx=f^{\prime }(0)x-\frac{x^3}{3!}{f}^{(3)}(0)+\frac{x^5}{5!}{f}^{(5)}(0)-\cdots =x-\frac{x^3}{3!}+\frac{x^5}{5!}+\cdots +(-1{)}^{(n-1)}\frac{x^{(2n-1)}}{2n-1}$

  $R_{n+1}=(-1{)}^n\frac{cos(\theta x)}{(2n+1)!}{x}^{(2n+1)},(0<\theta <1)$

1.5 求极值

1.5.1 无条件极值

$z=f(x,y)$ 在 $P_0$ 邻域内连续，且有一阶、二阶偏导数，求 $z$ 在邻域内的极值

求解：

令$f_x(x,y)=0，f_y(x,y)=0\Rightarrow P_0(x_0,y_0)$

令 $A=f_{xx}(x,y){|}_{P_0}$ ，$B=f_{xy}(x,y){|}_{P_0}$ ，$C=f_{yy}(x,y){|}_{P_0}$

若

• $AC-B^2>0$ ，则 $f(x,y)$ 在 $P_0$ 处为极值点
  • $A>0$ ，则为极小值
  • $A<0$ ，则为极大值
• $AC-B^2<0$ ，则 $f(x,y)$ 在 $P_0$ 处不是极值点
• $AC-B^2=0$ ，待定

1.5.2 条件极值

$x,y$ 满足 $\phi (x,y)=0\phi (x,y)=0$ ， 求 $z=f(x,y)$ 的极值

$\phi (x,y)=0$ 为 $xoy$ 面上的曲线，将 $\phi (x,y)=0$ 投影到曲面 $z=f(x,y)$ 上，有曲线 $\Gamma (x,y,z)$ 。

在曲线 $\Gamma$ 上找极值点为一个无条件极值问题，故用一个独立参数 $t$ 表示曲线 $\Gamma$ 不受任何约束，即 $\{\begin{array}{r}x=x(t)\\ y=y(t)\end{array}$ ，有 $z=\{x(t),y(t)\}\Rightarrow z=z(t)$

---

极值条件：
$$\begin{array}{r}\{\begin{array}{r}\frac{dz}{dt}=0⟺\frac{\partial z}{\partial x}{x}^{\prime }(t)+\frac{\partial z}{\partial y}{y}^{\prime }(t)=0\\ \frac{d\phi }{dt}=0⟺\frac{\partial \phi }{\partial x}{x}^{\prime }(t)+\frac{\partial \phi }{\partial y}{y}^{\prime }(t)=0\end{array}\\ \stackrel{y^{\prime }(t)=-\frac{\frac{\partial \phi }{\partial x}}{\frac{\partial \phi }{\partial y}}{x}^{\prime }(t)}{}\left[\frac{\partial z}{\partial x}-\frac{\partial z}{\partial y}\frac{\frac{\partial \phi }{\partial x}}{\frac{\partial \phi }{\partial y}}\right]x^{\prime }(t)=0\\ \left[\frac{\partial z}{\partial x}\frac{\partial \phi }{\partial y}-\frac{\partial z}{\partial y}\frac{\partial \varphi }{\partial x}\right]x^{\prime }(t)=0\\ ⟺\left(\frac{\partial z}{\partial x},\frac{\partial z}{\partial y}\right)\cdot \left(\frac{\partial \phi }{\partial y},-\frac{\partial \phi }{\partial x}\right)=0\\ ⟺▽z(x,y)\cdot \left(\frac{\partial \phi }{\partial y},-\frac{\partial \phi }{\partial x}\right)=0\end{array}$$
显然，有 $\left(\frac{\partial \phi }{\partial y},-\frac{\partial \phi }{\partial x}\right)$ 与 $▽\varphi =\left(\frac{\partial \phi }{\partial x},\frac{\partial \phi }{\partial y}\right)$ 垂直

故可得结论：极值点处满足 $▽z$ 与 $▽\phi$ 共线，即 $▽z+\lambda ▽\phi =0\Rightarrow ▽\left[z(x,y)+\lambda \phi (x,y)\right]=0$
$$\begin{array}{rl}& \begin{array}{rl}& 限制条件:\phi (x,y)=0\\ & 限制条件下的无条件极值:\\ & f_x(x,y)+\lambda {\phi }_x(x,y)=0\\ & f_y(x,y)+\lambda {\phi }_y(x,y)=0\end{array}\}\Rightarrow \{\begin{array}{r}{x}_0=\\ y_0=\\ \lambda =\end{array}\\ & \therefore (x_0,y_0)为z=f(x,y)在条件\phi (x,y)=0下的极值点\end{array}$$

1.5.3 多条件极值

$u=f(x,y,z,t)$ 在条件 $\phi (x,y,z,t)=0,\psi (x,y,z,t)=0$ 下的极值，构造函数 $F(x,y,z,t)=f(x,y,z,t)+{\lambda }_1\phi (x,y,z,t)+{\lambda }_2\psi (x,y,z,t)$

eg1

$u=x^3{y}^{2}z,x+y+z=12$ ，求最大值

构造拉格朗日函数 $F(x,y,z,t)=x^3{y}^{2}z+\lambda (x+y+z-12)=0$

令 $\{\begin{array}{rl}& F_x^{\prime }=3x^2{y}^{2}z+\lambda =0\\ & F_y^{\prime }=2x^{3}yz+\lambda =0\\ & F_z^{\prime }=x^3{y}^2+\lambda =0\\ & x+y+z=12\end{array}\Rightarrow \{\begin{array}{r}{x}_0=6\\ y_0=4\\ z_0=2\end{array}$

1.5.4 凹函数与凸函数

已知两点 $(x,f(x))$ ，$(y,f(y))$ ，验证 $f(tx+(1-t)y)\le tf(x)+(1-t)f(y)，t\in (0,1]$ ，则 $f(z)$ 为凸函数

设直线 $L(z)$ 为 $Y-f(x)=\frac{f(y)-f(x)}{y-x}(X-x)$

在 $[x,y]$ 中间的任一点横坐标可表示为 $tx+(1-t)y$ ，代入后直线方程可得 $Y=\frac{f(y)-f(x)}{y-x}[tx+(1-t)y-x]+f(x)=\frac{f(y)-f(x)}{y-x}(1-t)(y-x)+f(x)=tf(x)+(1-t)f(y)$

若某一自变量曲线上值 $f(z)$ 小于直线上值 $L(z)$ ， 即满足 $f(tx+(1-t)y)\le tf(x)+(1-t)f(y)，t\in (0,1]$ ，函数 $f(z)$ 为凸函数

易于沿梯度寻找最优值，作为激活函数