线性代数 复习

正定矩阵 和 半正定矩阵

正定和半正定这两个词的英文分别是positive definite和positive semi-definite，其中，definite是一个形容词，表示“明确的、确定的”等意思。

【定义1】给定一个大小为$n\ast n$ 的实对称矩阵A ，若对于任意长度为 $n$ 的非零向量 ，有 $x^{T}Ax>0$ 恒成立，则矩阵 $A$ 是一个正定矩阵。
【定义2】给定一个大小为$n\ast n$ 的实对称矩阵A ，若对于任意长度为 $n$ 的非零向量 ，有 $x^{T}Ax>=0$ 恒成立，则矩阵 $A$ 是一个半正定矩阵。

二次型（Quadratic Form）

$x^{T}Ax={\sum }_{i=1}^n{x}_i(Ax{)}_i={\sum }_{i=1}^n{x}_i({\sum }_{j=1}^n{A}_{ij}{x}_j)={\sum }_{i=1}^n{\sum }_{j=1}^n{A}_{ij}{x}_i{x}_j$

如何理解二次型？

特征值和特征向量

特征值和特征向量表达了一个线性变换的特征。在物理意义上，一个高维空间的线性变换可以想象是在对一个向量在各个方向上进行了不同程度的变换，而特征向量之间是线性无关的，它们对应了最主要的变换方向，同时特征值表达了相应的变换程度。
引用《线性代数的几何意义》的描述：“矩阵乘法对应了一个变换，是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中，原向量主要发生旋转、伸缩的变化。如果矩阵对某一个向量或某些向量只发生伸缩变换，不对这些向量产生旋转的效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。”