数学基础——线性代数（一）

一、线性系统

一个线性系统满足两个条件：叠加性和齐次性。
假设有两个输入$x_1(t),x_2(t)$及其对应的输出$y_1(t)=H\{x_1(t)\},y_2(t)=H\{x_1(t)\}$，其中H代表线性系统，那么可以得到$\alpha y_1(t)+\beta y_2(t)=H\{\alpha x_1(t)+\beta x_2(t)\}$

二、向量和矩阵

1、向量（Vectors）

向量是一堆数的集合，分为行向量和列向量，这里说向量默认为列向量。
向量与标量相乘： 每个维度都跟该标量相乘。
$$X=\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]，cX=\left[\begin{array}{c}c{x}_1\\ c{x}_2\end{array}\right]$$
向量加减： 使用平行四边形法则。
$$a\pm b=\left[\begin{array}{c}{a}_1\\ a_2\end{array}\right]\pm \left[\begin{array}{c}{b}_1\\ b_2\end{array}\right]=\left[\begin{array}{c}{a}_1\pm b_1\\ a_2\pm b_2\end{array}\right]$$

向量集： 可以包含有限或者无限个向量。
$$\chi =\{\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]:x_1+x_2=0\}$$
标准向量： 只有一个维度为1其他维度为0的向量。
$R_n$： 由所有的n维向量组成的集合。

（1）向量操作

a.线性相关和线性无关：

1. 已知一组向量$\{v_1,v_2,\dots ,v_n\}$，若存在一组不全为0的实数$a_1,a_2,\dots ,a_n$，使得${\sum }_{i=1}^n{a}_i{v}_i=0$，则这组向量$\{v_1,v_2,\dots ,v_n\}$是线性相关的。
2. 已知一组向量$\{v_1,v_2,\dots ,v_n\}$，若当且仅当$a_i=0,i=1,2,\dots ,n$时才有${\sum }_{i=1}^n{a}_i{v}_i=0$，则这组向量$\{v_1,v_2,\dots ,v_n\}$是线性无关的。
3. 一个向量空间包含的最大线性无关向量的数目，称为该向量空间的维数。

b.向量的积：

1. 二维向量的点积：$u\cdot v=u_x{v}_x+u_y{v}_y=|u||v|\cos \left(u,v\right)$
2. 三维向量的点积：$u\cdot v=u_x{v}_x+u_y{v}_y+u_z{v}_z=|u||v|\cos \left(u,v\right)$
3. 三维向量的叉积：其中i，j，k分别为x、y、z轴对应的单位向量$$w=u\times v=\left[\begin{array}{ccc}i& j& k\\ u_x& u_y& u_z\\ v_x& v_y& v_z\end{array}\right]$$
4. 叉积的性质
   • $u\times v$垂直于$u、v$所构成的平面，其方向符合右手规则。
   • 叉积的模等于$u、v$构成的平行四边形的面积。
   • $u\times v=-v\times u$
   • $u\times (v\times w)=(u\cdot w)v-(u\cdot v)w$
5. 三维向量的混合积：$\left[uvw\right]=(u\times v)\cdot w=u\cdot (v\times w)$
   • 物理意义：以$u、v、w$为三个棱边所围成的平行六面体的体积，当$u、v、w$构成右手关系时，该平行六面体的体积为正号。
6. 两个向量的并矢：给定两个向量$X=(x_1,x_2,\dots ,x_n{)}^T,Y=(y_1,y_2,\dots ,y_m{)}^T$，则两个向量的并矢记为：$$\mathbf{X}{\mathbf{Y}}^{\mathbf{T}}=\left(\begin{array}{cccc}{x}_1{y}_1& x_1{y}_2& \dots & x_1{y}_m\\ & & & \\ x_2{y}_1& x_2{y}_2& \dots & x_2{y}_m\\ & & & \\ ⋮& ⋮& \ddots & ⋮\\ & & & \\ x_n{y}_1& x_n{y}_2& \dots & x_n{y}_m\end{array}\right)$$也记作$X⨂Y$

2、矩阵（Matrix）

矩阵：由$m\times n$个数组成的m行n列的数矩形阵表，当$m=n$时称为方阵。
$$\mathbf{X}=\left(\begin{array}{cccc}{x}_{11}& x_{12}& \dots & x_{1n}\\ & & & \\ x_{21}& x_{22}& \dots & x_{2n}\\ & & & \\ ⋮& ⋮& \ddots & ⋮\\ & & & \\ x_{m1}& x_{m2}& \dots & x_{mn}\end{array}\right)$$
矩阵和标量相乘： 每个元素都和该标量相乘。
矩阵加减法： 两个矩阵必须形状相同才能进行加减法，对应位置元素相加减。

（1）同形状的矩阵运算的部分性质

假设A、B、C都是$m\times n$的矩阵，s和t分别为两个标量。
$$\{\begin{array}{l}A+B=B+A\\ (A+B)+C=A+(B+C)\\ (st)A=s(tA)\\ s(A+B)=sA+sB\\ (s+t)A=sA+tA\end{array}$$

（2）特殊矩阵

a.对角矩阵：

除主对角线外其余元素均为0的矩阵。
$$\mathbf{X}=\left(\begin{array}{cccc}{\lambda }_1& 0& \dots & 0\\ & & & \\ 0& {\lambda }_2& \dots & 0\\ & & & \\ ⋮& ⋮& \ddots & ⋮\\ & & & \\ 0& 0& \dots & {\lambda }_n\end{array}\right)$$

b.单位矩阵：

对角矩阵的特殊情况，对角线元素的值均为1且是方阵，通常用$I_n$来表示$n\times n$的单位矩阵。
$${\mathbf{I}}_{\mathbf{n}}=\left(\begin{array}{cccc}1& 0& \dots & 0\\ & & & \\ 0& 1& \dots & 0\\ & & & \\ ⋮& ⋮& \ddots & ⋮\\ & & & \\ 0& 0& \dots & 1\end{array}\right)$$

c.矩阵的转置：

沿主对角线为轴进行翻转，将原来矩阵的行值和列值互换得到的矩阵，转置的矩阵用$A^T$表示。
$$A=\left[\begin{array}{ccc}{x}_{11}& x_{12}& x_{13}\\ x_{21}& x_{22}& x_{23}\end{array}\right]，A^T=\left[\begin{array}{cc}{x}_{11}& x_{21}\\ x_{12}& x_{22}\\ x_{13}& x_{23}\end{array}\right]$$

（3）矩阵转置的性质

$$\{\begin{array}{l}(A^T{)}^T=A\\ (A+B{)}^T=A^T+B^T\\ (\lambda A{)}^T=\lambda A^T\\ (AB{)}^T=B^T{A}^T\end{array}$$

3、矩阵与向量相乘

已知矩阵A和向量X如下：
$$\mathbf{A}=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \dots & a_{1n}\\ & & & \\ a_{21}& a_{22}& \dots & a_{2n}\\ & & & \\ ⋮& ⋮& \ddots & ⋮\\ & & & \\ a_{m1}& a_{m2}& \dots & a_{mn}\end{array}\right)，X=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$$
可以得到矩阵A乘向量X的结果：
$$\mathbf{A}\mathbf{X}=\left[\begin{array}{c}{a}_{11}{x}_1+a_{12}{x}_2+\dots +a_{1n}{x}_n\\ \\ a_{21}{x}_1+a_{22}{x}_2+\dots +a_{2n}{x}_n\\ \\ ⋮\\ \\ a_{m1}{x}_1+a_{m2}{x}_2+\dots +a_{mn}{x}_n\end{array}\right]=x_1\left[\begin{array}{c}{a}_{11}\\ a_{21}\\ ⋮\\ a_{m1}\end{array}\right]+x_2\left[\begin{array}{c}{a}_{12}\\ a_{22}\\ ⋮\\ a_{m2}\end{array}\right]+\dots +x_n\left[\begin{array}{c}{a}_{1n}\\ a_{2n}\\ ⋮\\ a_{mn}\end{array}\right]$$
从行的角度来看矩阵和向量相乘： 从行的角度看，矩阵A和向量X相乘，其结果是矩阵的A的每一行与向量x做点积的结果。
从列的角度来看矩阵和向量相乘： 从列的角度看，矩阵A和向量X相乘，其结果是将矩阵的每一列进行线性组合。

矩阵和向量相乘的部分性质

假设A、B都是$m\times n$的矩阵，$u、v\in R_n$，c为标量。
$$\{\begin{array}{l}A(u+v)=Au+Av\\ (A+B)u=Au+Bu\\ A(cu)=c(Au)=(cA)u\\ I_{n}v=v\end{array}$$