AI学习笔记（一） 人工智能初识及数学基础

什么是人工智能

对于人工智能的定义，学界一直有不同的表述，一种被广泛接受的说法是：人工智能是通过机器来模拟人类认知能力的技术。人工智能设计很广，涵盖了感知、学习、推理和决策等方面的能力。从实际应用的角度来说，人工智能最核心的能力就是根据给定的输入做出判断或预测。

深度学习的崛起和AI的三次热潮

1956年，达特茅斯会议标志着AI的诞生；
1957年，第一款神经网络Perceptron发明，AI到达第一个高峰期；
1974年，计算能力突破没能使机器完成大规模数据训练和复杂任务，AI进入第一个低谷；
1982年，霍普菲尔德神经网络被提出，在其中引入了相关联存储的机制；
1986年，BP算法出现使得大规模神经网络的训练成为可能，AI迎来第二个黄金期；
1990年，人工智能计算机DARPA没能实现政府投入缩减，AI进入第二次低谷；
2006年，Hinton提出深度学习神经网络使得AI性能获得突破性进展；
2012年，深度学习算法在语音和视觉识别上取得成功，AI进入感知智能时代。

第一次热潮：20世纪50年代，神经网络相关基础理论的提出；
第二次热潮：20世纪80年代，算法应用升级；
第三次热潮：2006年深度学习（深度神经网络）基本理论框架得到了验证，得益于海量数据处理能力的成熟，深度学习相关技术崛起。

人工智能发展的基石——图灵测试

图灵测试（The Turing test）由艾伦·麦席森·图灵发明，指测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。

人工智能三大核心要素

数据：必须要有大数据；
算法：学习算法的设计，你设计的大脑到底够不够聪明；
算力：要有高性能的计算能力，训练一个大的网络；

人工智能关系圈

机器学习

机器学习是一种实现人工智能的方法。是一门多领域交叉学科，设计概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用回归、综合而不是演绎。

深度学习

深度学习是一种实现机器学习的技术。是利用深度的神经网络，将模型处理的更为复杂，从而使模型对数据的理解更加深入，是机器学习中一种基于对数据进行表征学习的方法。其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来进行解释数据，例如图像、声音和文本。深度学习的实质，是通过构建具有很多隐层的机器学习模型和海量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。

人工神经网络

人工神经网络是一种机器学习的算法。神经网络一般有输入层、隐藏层、输出层，一般来说隐藏层数量多于两层的网络就叫做深度神经网络，深度学习就是采用想深度神经网络这层深层架构的一种机器学习方法。

相关数学基础

高等数学

1、导数的定义

导数与微分的概念：
$f^{\prime }(x_0)={\lim }_{\Delta x\to 0}\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x}$
或者:$f^{\prime }(x_0)={\lim }_{x\to x_0}\frac{f(x)-f(x_0)}{x-x_0}$

2、左右导数的几何意义和物理意义

函数$f(x)$在$x_0$处的左右导数分别定义为：
左导数：$f^{\prime }\_(x_0)={\lim }_{\Delta x\to 0^{-}}\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x}={\lim }_{x\to x_0^{-}}\frac{f(x)-f(x_0)}{x-x_0},(x=x_0+\Delta x)$
右导数：$f_{+}^{\prime }(x_0)={\lim }_{\Delta x\to 0^{+}}\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x}={\lim }_{x\to x_0^{+}}\frac{f(x)-f(x_0)}{x-x_0}$

3、函数的可导性与连续性之间的关系

Th1：函数$f(x)$在$x_0$处可微$\iff$$f(x)$在$x_0$处可导。
Th2：若函数在点$x_0$处可导，则$y=f(x)$在点$x_0$处连续，反之则不一定成立，即函数连续不一定可导。
Th3：$f(x_0)$存在，则$f_{-}^{\prime }(x_0)=f_{+}^{\prime }(x_0)$。

4、平面曲线的切线与法线

切线方程：$y-y_0=f^{\prime }(x_0)(x-x_0)$
法线方程：$y-y_0=-\frac{1}{f^{\prime }(x_0)}(x-x_0),f^{\prime }(x_0)\ne 0$

5、四则运算法则

设函数$u=u(x),v=v(x)$在点$x$处可导，则：
(1)${(u\pm v)}^{\prime }=u^{\prime }\pm v^{\prime }$
(2)${(uv)}^{\prime }=u{v}^{\prime }+v{u}^{\prime }$                          \;\;\;\;\;\;\;\;\;\;\;\; $d(uv)=udv+vdu$
(3)${(\frac{u}{v})}^{\prime }=\frac{u{v}^{\prime }-v{u}^{\prime }}{v^2}(v\ne 0)$              \;\;\;\;\;\; $d(\frac{u}{v})=\frac{vdu-udv}{v^2}$

6、基本导数与微分表

(1)$y=c$（常数），则$y^{\prime }=0dy=0$
(2)$y=x^{\alpha }$（$\alpha$为实数），则$y^{\prime }=0dy=0$
(3)$y={\alpha }^x$（$\alpha$常数），则$y^{\prime }={\alpha }^x\ln \alpha dy={\alpha }^x\ln \alpha dx$    \; 特例$(e^x{)}^{\prime }=e^{x}d(e^x)=e^{x}dx$
(4)$y={\log }_{a}x$（$\alpha$常数），则$y^{\prime }=\frac{1}{x\ln a}dy=\frac{1}{x\ln a}dx$    \; 特例$(\ln x{)}^{\prime }=\frac{1}{x}d(\ln x)=\frac{1}{x}dx$
(5)$y=sinx$，则$y^{\prime }=cosxd(sinx)=cosxdx$
(6)$y=cosx$，则$y^{\prime }=-sinxd(cosx)=-sinxdx$
(7)$y=tanx$，则$y^{\prime }=\frac{1}{{\cos }^{2}x}=se{c}^{2}xd(\tan x)=se{c}^{2}xdx$
(8)$y=cotx$，则$y^{\prime }=-\frac{1}{{\sin }^{2}x}=-cs{c}^{2}xd(\cot x)=-cs{c}^{2}xdx$
(9)$y=secx$，则$y^{\prime }=secxtanxd(secx)=secxtanxdx$
(10)$y=cscx$，则$y^{\prime }=-cscxcotxd(cscx)=-cscxcotxdx$
(11)$y=arc\sin x$，则$y^{\prime }=\frac{1}{\sqrt{1-x^2}}d(arc\sin x)=\frac{1}{\sqrt{1-x^2}}dx$
(12)$y=arc\cos x$，则$y^{\prime }=-\frac{1}{\sqrt{1-x^2}}d(arc\cos x)=-\frac{1}{\sqrt{1-x^2}}dx$
(13)$y=arc\tan x$，则$y^{\prime }=\frac{1}{1+x^2}d(arc\tan x)=\frac{1}{1+x^2}dx$
(14)$y=arc\cot x$，则$y^{\prime }=-\frac{1}{1+x^2}d(arc\cot x)=-\frac{1}{1+x^2}dx$
(15)$y=shx$，则$y^{\prime }=chxd(shx)=chxdx$
(15)$y=chx$，则$y^{\prime }=shxd(chx)=shxdx$

7、复合函数，反函数，隐函数以及参数方程所确定的函数的微分法

(1)反函数的运算法则，设$y=f(x)$在点$x$的某淋雨内单调连续，则点$x$处可到且$f^{\prime }(x_0)\ne 0$，则其反函数在点$x$所对应的$y$处可到，并且有$\frac{dy}{dx}=\frac{1}{\frac{dx}{dy}}$；
(2符合函数的运算法则：若$\mu =\phi (x)$在点$x$可导，而$y=f(\mu )$在对应点$\mu (u=\phi (x))$可导，则复合函数$y=f(\phi (x))$在点$x$可导，且$y^{\prime }=f^{\prime }(u){\phi }^{\prime }(x)$
(3隐函数导数$\frac{dy}{dx}$的求法一般有三种方法：
1）方程两边对$x$求导，要记住$y$是$x$的导数，则$y$的函数是$x$的复合函数，例如$\frac{1}{y},y^2,\ln y,e^y$等均是$x$的复合函数，对$x$求导应按照复合函数连锁法则做；
2）公式法，由$F(x,y)=0$知$\frac{dy}{dx}=-\frac{F_x^{\prime }(x,y)}{F_y^{\prime }(x,y)}$，其中，$F_x^{\prime }(x,y),F_y^{\prime }(x,y)$分别表示$F(x,y)$对$x$和$y$的偏导数；
3)利用微分形式不变性

8、常用高阶导数公式

(1)${(a^x)}^{(n)}=a^x{\ln }^{n}a(a>0){(e^x)}^{(n)}=e^x$
(2)${(\sin dx)}^{(n)}=k^n\sin (kx+n\cdot \frac{\pi }{2})$
(3)${(\cos dx)}^{(n)}=k^n\cos (kx+n\cdot \frac{\pi }{2})$
(4)${(x^m)}^{(n)}=m(m-1)\cdots (m-n+1)x^{m-n}$
(5)${(\ln x)}^{(n)}={(-1)}^{(n-1)}\frac{(n-1)!}{x^n}$
(6)莱布尼兹公式：若$u(x),v(x)$均为$n$阶可导，则，${(uv)}^{(n)}={\sum }_{i=0}^n{c}_n^i{u}^{(i)}{v}^{(n-i)}$，其中$u^{(0)}=u,v^{(0)}=v$

9、微分中值定理

Th1：费马定理
若函数$f(x)$满足条件：
(1)函数$f(x)$在$x_0$的某邻域内有定义，并且在此邻域内恒有$f(x)\le f(x_0)$或$f(x)\ge f(x_0)$，
(2)$f(x)$在$x_0$处可导，则有$f^{\prime }(x_0)=0$。
Th2：罗尔定理
设函数$f(x)$满足条件：
(1)在闭区间$[a,b]$上连续； （2）在$(a,b)$上可导； (3)$f(a)=f(b)$
则在$(a,b)$内$\exists$一个$\xi$，使$f^{\prime }(\xi )=0$。
Th3：拉格朗日中值定理
设函数$f(x)$满足条件：
(1)在闭区间$[a,b]$上连续； （2）在$(a,b)$上可导；
则在$(a,b)$内$\exists$一个$\xi$，使$\frac{f(b)-f(a)}{b-a}=f^{\prime }(\xi )$。
Th4：柯西中值定理
设函数$f(x)，g(x)$满足条件：
(1)在闭区间$[a,b]$上连续； （2）在$(a,b)$上可导且$f^{\prime }(x),g^{\prime }(x)$均存在，且$g^{\prime }(x)\ne 0$；
则在$(a,b)$内存在一个$\xi$，使$\frac{f(b)-f(a)}{f(b)-g(a)}=\frac{f(\xi )}{g(\xi )}$。

10、洛必达法则

法则$\mathrm{I}$($\frac{0}{0}$型不定式极限)
设函数$f(x)，g(x)$满足条件：${\lim }_{x\to x_0}f(x)=0,{\lim }_{x\to x_0}g(x)=0$；$f(x)，g(x)$在$x_0$的邻域内可导（在$x_0$处可除外）且$g^{\prime }(x)\ne 0$；${\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$存在（或$\infty$)。
则${\lim }_{x\to x_0}\frac{f(x)}{g(x)}={\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$。
法则$\mathrm{I}$($\frac{0}{0}$型不定式极限)
设函数$f(x)，g(x)$满足条件：${\lim }_{x\to x_0}f(x)=0,{\lim }_{x\to x_0}g(x)=0$；存在一个$X>0$，当$|x|>X$时，$f(x),g(x)$可导，且$g^{\prime }(x)\ne 0$；${\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$存在（或$\infty$)。
则${\lim }_{x\to x_0}\frac{f(x)}{g(x)}={\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$。
法则$\mathrm{I}\mathrm{I}$($\frac{\infty }{\infty }$型不定式极限)
设函数$f(x)，g(x)$满足条件：${\lim }_{x\to x_0}f(x)=\infty ,{\lim }_{x\to x_0}g(x)=\infty$；$f(x)，g(x)$在$x_0$的邻域内可导（在$x_0$处可除外）且$g^{\prime }(x)\ne 0$；${\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$存在（或$\infty$)。
则${\lim }_{x\to x_0}\frac{f(x)}{g(x)}={\lim }_{x\to x_0}\frac{f^{\prime }(x)}{g^{\prime }(x)}$。
同理法则法则$\mathrm{I}\mathrm{I}’$($\frac{\infty }{\infty }$型不定式极限)仿法则${\mathrm{I}}^{\prime }$写出。

11、泰勒公式

设函数$f(x)$在$x_0$处的某邻域内具有$n+1$阶导数，则对该淋浴内异于$x_0$的任意点x，在$x_0$于$x$之间至少存在一个$\xi$，使得：
$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+\frac{1}{2!}{f}^{\prime \prime }(x_0){(x-x_0)}^2+\cdots +\frac{f^{(n)}(x_0)}{n!}{(x-x_0)}^n+R_n(x)$
其中$R_n(x)=\frac{f^{(n+1)}(\xi )}{(n+1)!}{(x-x_0)}^{n+1}$称为$f(x)$在点$x_0$处的n阶泰勒余项。
令$x_0=0$，则$n$阶泰勒公式：
$f(x)=f(0)+f^{\prime }(0)x+\frac{1}{2!}{f}^{\prime \prime }(0)x^2+\cdots +\frac{f^{(n)}(0)}{n!}{x}^n+R_n(x)\cdots \cdots$
(1)其中$R_n(x)=\frac{f^{(n+1)}(\xi )}{(n+1)!}{x}^{n+1}$，$\xi$在$0$和$x$之间。(1)式称为麦克劳林公式。
常用五中函数在$x_0=0$处的泰勒公式：
1)$e^x=1+x+\frac{1}{2!}{x}^2+\cdots +\frac{1}{n!}{x}^n+\frac{x^{n+1}}{(n+1)!}{e}^{\xi }$
或$e^x=1+x+\frac{1}{2!}{x}^2+\cdots +\frac{1}{n!}{x}^n+o(x^n)$
2)$\sin x=x-\frac{1}{3!}{x}^3+\cdots +\frac{x^n}{n!}\sin \frac{n\pi }{2}+\frac{x^{n+1}}{(n+1)!}\sin (\xi +\frac{n+1}{2}\pi )$
或$\sin x=x-\frac{1}{3!}{x}^3+\cdots +\frac{x^n}{n!}\sin \frac{n\pi }{2}+o(x^n)$
3)$\cos x=x-\frac{1}{2!}{x}^2+\cdots +\frac{x^n}{n!}\cos \frac{n\pi }{2}+\frac{x^{n+1}}{(n+1)!}\cos (\xi +\frac{n+1}{2}\pi )$
或$\cos x=x-\frac{1}{2!}{x}^2+\cdots +\frac{x^n}{n!}\cos \frac{n\pi }{2}+o(x^n)$
4)$\ln (1+x)=x-\frac{1}{2!}{x}^2+\frac{1}{3!}{x}^3-\cdots +{(-1)}^n\frac{x^n}{n!}+\frac{{(-1)}^n{x}^n}{(n+1){(1+\xi )}^{n+1}}$
或$\ln (1+x)=x-\frac{1}{2!}{x}^2+\frac{1}{3!}{x}^3-\cdots +{(-1)}^n\frac{x^n}{n!}+o(x^n)$
5)${(1+x)}^m=1+mx+\frac{m(m-1)}{2!}{x}^2+\cdots +\frac{m(m-1)\cdots (m-n+1)}{n!}{x}^n+\frac{m(m-1)\cdots (m-n+1)}{(n+1)!}{x}^{n+1}{(1+\xi )}^{m-n-1}$
或${(1+x)}^m=1+mx+\frac{m(m-1)}{2!}{x}^2+\cdots +\frac{m(m-1)\cdots (m-n+1)}{n!}{x}^n+o(x^n)$

12、函数单调性的判断

Th1：设函数$f(x)$在$(a,b)$区间内可导，如果对$\forall x\in (a,b)$，都有$f^{\prime }(x)>0$（或$f^{\prime }(x)<0$)，则函数$f(x)$在$(a,b)$内是单调增加的（或单调减少的）。
Th2：（取极值得必要条件）设$f(x)$在$x_0$处可导，且在$x_0$处取极值，则$f^{\prime }(x_0)>0$。
Th3：（取极值的第一充分条件）设$f(x)$在$x_0$的某一邻域内可微，且$f^{\prime }(x_0)=0$（或$f(x)$在$x_0$处连续，但$f^{\prime }(x_0)=0$不存在）：
(1)当$x$经过$x_0$时，$f^{\prime }(x)$由$"+"$变$"-"$，则$f(x_0)$为极大值；
(2)当$x$经过$x_0$时，$f^{\prime }(x)$由$"-"$变$"+"$，则$f(x_0)$为极小值；
(2)当$f^{\prime }(x)$经过$x=x_0$的两侧不变号，则$f(x_0)$不是极值；
Th4：（取极值的第二充分条件）设$f(x)$在$x_0$处有$f^{\prime \prime }(x_0)\ne 0$，且$f^{\prime }(x)=0$，则：
当$f^{\prime \prime }(x_0)<0$时，$f(x_0)$为极大值；当$f^{\prime \prime }(x_0)>0$时，$f(x_0)$为极小值。注：如果$f^{\prime \prime }(x_0)=0$，此方法失效。

13、渐近线的求法

(1)水平渐近线
若${\lim }_{x\to +\infty }f(x)=b$，或${\lim }_{x\to -\infty }f(x)=b$，则称$y=b$为函数$y=f(x)$的水平渐近线。
(2)铅直渐近线
若${\lim }_{x\to x_0^{-}}f(x)=\infty$，或${\lim }_{x\to x_0^{+}}f(x)=\infty$，则称$x=x_0$为函数$y=f(x)$的铅直渐近线。
(2)斜渐近线
若$a={\lim }_{x\to \infty }\frac{f(x)}{x},b={\lim }_{x\to \infty }[f(x)-ax]$，则称$y=ax+b$为函数$y=f(x)$的斜渐近线。

14、函数凹凸性的判断

Th1：（凹凸性的判别定理）若在$\mathrm{I}$上$f^{\prime \prime }(x)<0$（或$f^{\prime \prime }(x)>0$），则$f(x)$在$\mathrm{I}$时凸（或凹）的。
Th2：（拐点的判别定理1）若在$x_0$处$f^{\prime \prime }(x)=0$，（或$f^{\prime \prime }(x)$不存在），当$x$变动经过$x_0$时，$f^{\prime \prime }(x)$变号，则$(x_0,f(x_0))$为拐点。
Th2：（拐点的判别定理2）设$f(x)$在$x_0$点的某邻域内有三阶导数，且$f^{\prime \prime }(x)=0，f^{\prime \prime }’(x)\ne 0$，则$(x_0,f(x_0))$为拐点。

15、弧微分

$dS=\sqrt{1+y^2}dx$

16、曲率

曲线$y=f(x)$在点$(x,y)$处的曲率$k=\frac{|y^{\prime \prime }|}{{(1+y^{\prime 2})}^{3/2}}$，对于参数方程：
$\{\begin{array}{l}x=\phi (t)\\ y=\psi (t)\end{array},k=\frac{|{\phi }^{\prime }(t){\psi }^{\prime \prime }(t)-{\phi }^{\prime \prime }(t){\psi }^{\prime }(t)|}{({\phi }^{\prime 2}(t)+\psi {/}^{\prime 2}{(t))}^{3/2}}$

17、曲率半径

曲线在点$M$处的曲率$k(k\ne 0)$与曲线在点$M$处的曲率半径$\rho$有如下关系：$\rho =\frac{1}{k}$。

线性代数

行列式

1、行列式按行（列）展开定理

(1)设$A={(a_{ij})}_{n\times n}$，则$a_{i1}{A}_{j1}+a_{i2}{A}_{j2}+\cdots +a_{in}{A}_{jn}=\{\begin{array}{l}|A|,i=j\\ 0,i\ne j\end{array}$
或$a_{1i}{A}_{1j}+a_{2i}{A}_{2j}+\cdots +a_{ni}{A}_{nj}=\{\begin{array}{l}|A|,i=j\\ 0,i\ne j\end{array}$
即$AA\ast =A\ast A=|A|E$，其中：$A\ast =\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1n}\\ A_{21}& A_{22}& \cdots & A_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ A_{n1}& A_{n2}& \cdots & A_{nn}\end{array}\right)=(A_{ji})={(A_{ij})}^T$
$D_n=\left|\begin{array}{cccc}1& 1& \cdots & 1\\ x_1& x_2& \cdots & x_n\\ \cdots & \cdots & \cdots & \cdots \\ x_1^{n-1}& x_2^{n-1}& \cdots & x_n^{n-1}\end{array}\right|={\prod }_{1\le j\le i\le n}(x_i-x_j)$
(2)设$A,B$为$n$阶方阵，则$|AB|=|A||B|=|B||A|$，但$|A\pm B|=|A|\pm |B|$不一定成立。
(3)$|kA|=k^n|A|$，$A$为$n$阶方阵。
(4)设$A$为$n$阶方阵，$|A^T|=|A|;|A^{-1}|=|A{|}^{-1}$（若$A$可逆），$|A^{\ast }|=|A{|}^{n-1}n\ge 2$
(5)$\left|\begin{array}{cc}A& O\\ O& B\end{array}\right|=\left|\begin{array}{cc}A& C\\ O& B\end{array}\right|=\left|\begin{array}{cc}A& O\\ C& B\end{array}\right|=|A||B|$，$A,B$为方阵，但$\left|\begin{array}{cc}O& A_{m\times m}\\ B_{n\times n}& O\end{array}\right|={(-1)}^{mn}\cdot |A||B|$。
(6)范德蒙行列式$D_n=\left|\begin{array}{cccc}1& 1& \cdots & 1\\ x_1& x_2& \cdots & x_n\\ \cdots & \cdots & \cdots & \cdots \\ x_1^{n-1}& x_2^{n-1}& \cdots & x_n^{n-1}\end{array}\right|={\prod }_{1\le j\le i\le n}(x_i-x_j)$
设$A$是$n$阶方阵，${\lambda }_i(i=1,2,\cdots n)$是$A$的$n$个特征值，则$|A|={\prod }_{i=1}^n{\lambda }_i$。

矩阵

矩阵：$m\times n$个数$a_{ij}$排成$m$行$n$列的表格$\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \dots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{m1}& a_{m2}& \cdots & a_{mn}\end{array}\right]$称为矩阵，简记为$A$或者${(a_{ij})}_{m\times n}$。若$m=n$，则称$A$是$n$阶矩阵或$n$阶方阵。

矩阵的线性运算

1、矩阵的加法

设$A=(a_{ij}),B=(b_{ij})$是两个$m\times n$矩阵，则$m\times n$矩阵$C=(c_{ij})=a_{ij}+b_{ij}$称为矩阵$A$和$B$的核，记为$A+B=C$。

2、矩阵的数乘

设$A=(a_{ij})$是$m\times n$矩阵，$k$是一个常数，则$m\times n$矩阵$(k{a}_{ij})$称为数$k$与矩阵$A$的数乘，记为$kA$。

3、矩阵的乘法

设$A=(a_{ij})$是$m\times n$矩阵，设$B=(b_{ij})$是$n\times s$矩阵，那么$m\times s$矩阵$C=(c_{ij})$，其中$c_{ij}=a_{i1}{b}_{1j}+a_{i2}{b}_{2j}+\cdots +a_{in}{b}_{nj}={\sum }_{k=1}^n{a}_{ik}{b}_{kj}$称为$AB$的乘积，记为$C=AB$。

4、$A^T,A^{-1},A^{\ast }$三者之间的关系

(1)${(A^T)}^T=A,{(AB)}^T=B^T{A}^T,{(kA)}^T=k{A}^T,{(A\pm B)}^T=A^T\pm B^T$
(2)${(A^{-1})}^{-1}=A,{(AB)}^{-1}=B^{-1}{A}^{-1},{(kA)}^{-1}=\frac{1}{k}{A}^{-1}$，但${(A\pm B)}^{-1}=A^{-1}\pm B^{-1}$不一定成立。
(3)${(A^{\ast })}^{\ast }=|A{|}^{n-2}A(n\ge 3),{(AB)}^{\ast }=B^{\ast }{A}^{\ast },{(kA)}^{\ast }=k^{n-1}{A}^{\ast }(n\ge 2)$，但${(A\pm B)}^{\ast }=A^{\ast }\pm B^{\ast }$不一定成立。
(4)${(A^{-1})}^T={(A^T)}^{-1},{(A^{-1})}^{\ast }={(A{A}^{\ast })}^{-1}{,(A^{\ast })}^T={(A^T)}^{\ast }$。

5、有关$A^{\ast }$的结论

(1)$A{A}^{\ast }=A^{\ast }A=|A|E$
(2)$|A^{\ast }|=|A{|}^{n-1}(n\ge 2),{(kA)}^{\ast }=k^{n-1}{A}^{\ast },{(A^{\ast })}^{\ast }=|A{|}^{n-2}A(n\ge 3)$
(3)若$A$可逆，则$A^{\ast }=|A|A^{-1},{(A^{\ast })}^{\ast }=\frac{1}{|A|}A$
(4)若$A$为$n$阶方阵，则$r(A^{\ast })=\{\begin{array}{l}n，r(A)=n\\ \begin{array}{c}1，r(A)=n-1\\ 0，r(A)<n-1\end{array}\end{array}$
(4)${(A^{-1})}^T={(A^T)}^{-1},{(A^{-1})}^{\ast }={(A{A}^{\ast })}^{-1}{,(A^{\ast })}^T={(A^T)}^{\ast }$。

6、有关$A^{-1}$的结论

$A$可逆$\iff A{A}^{-1}=E;\iff |A|\ne 0;\iff r(A)=n$;
$\iff A$可以表示为初等矩阵的乘积；$\iff A$无零特征值；$\iff Ax=0$只有零解。

7、有关矩阵秩的结论

(1)秩$r(A)$=行秩=列秩；
(2)$r(A_{m\times n})\le min(m,n)$；
(3)$A\ne 0\Rightarrow r(A)\ge 1$；
(4)$r(A\pm B)\le r(A)+r(B)$；
(5)初等变换不改变矩阵的秩
(6)$r(A)+r(B)-n\le r(AB)\le min(r(A),r(B))$，特别若$AB=O$则：$r(A)+r(B)\le n$
(7)若$A^{-1}$存在$\Rightarrow r(AB)=r(B)$；若$B^{-1}$存在$\Rightarrow r(AB)=r(A)$;
$r(A_{m\times n})=n\Rightarrow r(AB)=r(B)$；$r(A_{m\times s})=n\Rightarrow r(AB)=r(A)$;
(8)$r(A_{m\times s})=n\iff Ax=0$只有零解。

8、分块求逆公式

$$\begin{gathered} {\left(\begin{array}{cc}A& O\\ O& B\end{array}\right)}^{-1}=\left(\begin{array}{cc}{A}^{-1}& O\\ O& B^{-1}\end{array}\right);{\left(\begin{array}{cc}A& C\\ O& B\end{array}\right)}^{-1}=\left(\begin{array}{cc}{A}^{-1}& -A^{-1}C{B}^{-1}\\ O& B^{-1}\end{array}\right); \\ {\left(\begin{array}{cc}A& O\\ C& B\end{array}\right)}^{-1}=\left(\begin{array}{cc}{A}^{-1}& O\\ -B^{-1}C{A}^{-1}& B^{-1}\end{array}\right);{\left(\begin{array}{cc}O& A\\ B& O\end{array}\right)}^{-1}=\left(\begin{array}{cc}O& B^{-1}\\ A^{-1}& O\end{array}\right); \end{gathered}$$
这里$A,B$均为可逆方阵。

向量

1、有关向量组的线性表示

(1）${\alpha }_1,{\alpha }_2,\cdots {\alpha }_s$线性相关$\iff$至少有一个向量可以用其余向量线性表示；
(2)${\alpha }_1,{\alpha }_2,\cdots {\alpha }_s$线性无关，${\alpha }_1,{\alpha }_2,\cdots {\alpha }_s,\beta$线性相关$\iff \beta$可以由${\alpha }_1,{\alpha }_2,\cdots {\alpha }_s$唯一线性表示。
(3)$\beta$可以由${\alpha }_1,{\alpha }_2,\cdots {\alpha }_s$线性表示$\iff r({\alpha }_1,{\alpha }_2,\cdots {\alpha }_s)=r({\alpha }_1,{\alpha }_2,\cdots {\alpha }_s,\beta )$。

2、有关向量组的线性相关性

(1)部分相关，整体相关；整体无关，部分无关；
(2)a.$n$个$n$维向量${\alpha }_1,{\alpha }_2,\cdots {\alpha }_n$线性无关$\iff |[{\alpha }_1,{\alpha }_2,\cdots {\alpha }_n]$