lecture 3 note：Linear Algebra Primer

参考：

cs131:lecture 3

内容摘要：

1 Vectors and Matrices Recap

1.1 向量

范数的基本性质：

几种常见的范数定义

l1范数、无穷范数、p范数

投影（Projection）

投影是两个向量的内积（inner product，dot product）。若B是单位向量，则 A . B表示A在B方向的长度

1.2 矩阵

一些特殊的矩阵

对称阵，反对称阵

迹（Trace）

表示矩阵的对角元素的和

转移矩阵（Transformation matrix）

给定原向量 p，顺时针旋转 theta角，那么怎么计算新向量 p'

旋转矩阵有一些比较好的性质

齐次坐标系

通常来说利用转移矩阵能够完成向量的缩小、增大、旋转等，但是不能加常数（也就是平移）

，这一点可以利用齐次坐标系完成

通过上面的齐次坐标系的方法，可以很方便的用转移矩阵来表示平移、旋转、放缩等操作

平移

放缩

同时通过转移矩阵连乘的方式能够同时表示放缩，平移，旋转等操作。

需要注意的是矩阵乘法！也就是说对于一个向量，先放缩再平移与先平移再放缩不一样！

2.秩Rank

线性相关：假如有 n个向量 V1,v2,....,vn，其中存在一个向量能够被其余向量线性表示，则这个向量与其余向量线性相关

线性独立：当任意向量都不能被其他向量表示时，叫这些向量线性独立

在转移矩阵中，转移矩阵的秩能够知道转移后输出的维度

假如转移矩阵的秩为1，则会将所有点映射到同一条线上

满秩矩阵是指 m X m 矩阵的秩为 m，其余情况会使得矩阵非奇异

3.特征向量与特征值（Eigenvector and Eigenvalue）

若有向量 x，以及转移矩阵A,假如这个转移矩阵不会使得这个向量改变方向，只是缩放了这个矩阵的大小，则这个向量x叫做矩阵A的特征向量，缩放的尺度叫做特征值

求取特征值和特征向量

一些性质：

Det（A）=特征值的连乘，也就是全部特征值非0这个矩阵才可逆

4.对角化（Diagonalization）

若矩阵A(N X N)的特征值各不相同，则A可以对角化

5.矩阵微分

梯度（gradient）

hessian 矩阵