线性代数

正交投影应用

向量a和单位向量e的内积就是向量a在e上的投影长度，乘以e就是投影后的向量

当我们需要拟合例如线性回归的方程的时候，其实是在求XA = Y的解A

但是往往Y并不是X的线性组合后的值，往往是无解的，这时候我们希望Y和X平面上的任何线性组合的距离越小越好，我们可以知道

Y在X平面上的投影向量与Y的距离最小，故PxY代表用户在X平面上的投影，PxY = XA进而可以求出A。最小二乘法的解释。

正交矩阵

一个矩阵是正交的话，列组成n维空间的一组基，且长度为1

所有的向量经过正交矩阵的变换后长度不会发生改变，即norm-preserving，且特征值为正负1

对称矩阵

对称矩阵的特征值都是实数

对称矩阵的不同的特征值对应的特征向量都是正交的

subspace / linear transform

linear / combination span

null space / range

one-to-one / onto one-to-one+onto =invertible

basic / independent

linear operator对应的矩阵就是输入标准基对应的输出

eigenvalue / eigenvector

inner product=0 is orthorgonal  dotis special cast of inner product

matrix的inner product就是矩阵的对应元素相乘然后相加frobenius =Trace(ABt) = trace(AtB)

概率论

https://blog.csdn.net/qq_16587307/article/details/81328773

幂法求最大特征值和特征向量