线性代数导读+总结

一些学习线性代数的心得和资源分享，供大家参考。

资源

1. Introduction to Linear Algebra, Fifth Edition

   学线性代数主要的参考书，Strang 教授也算是网红了，讲课讲得十分浅显易懂，网上有配套的video，强烈推荐。

2. 线性代数2

   清华马辉老师的线性代数慕课，讲法比较传统，但课件很清晰，不太需要看video也能看懂。

   这主要是针对相似矩阵、SVD、PCA、伪逆等矩阵论的内容，是传统线性代数的很好补充。

3. 数值线性代数

   这本书主要介绍解的问题，以及在现实中如何求解大型系数矩阵的逆、特征值以及一些迭代的方法。

如何理解线性代数

不得不说，对于我来说，线性代数一直是很头疼的。这种头疼不在于说计算特征值、求PCA有多么多么复杂；而是自己一直没有办法直观理解矩阵是什么、向量又是什么、矩阵乘法为什么这么定义、特征值代表什么。我想这些问题也同样困扰着学习线性代数的很多同学。

因此我整理了一些学习中对我有收获的资料，也便于自己复习：

• 知乎上的讨论：如何理解线性代数？
• 科普类视频：线性代数的本质
• 据说很好的教材，自己也还没看：Linear Algebra Done Right
• CSDN上关于矩阵的理解，适合Review：理解矩阵
• Jon Shlens大神写的PCA tutorial：Tutorial on Principal Component Analysis

笔记

自己总结了学习线性代数中最基本和最重要的知识点：

矩阵的四个基本子空间

介绍四个基本子空间的概念，非常重要。

基本子空间的正交性及性质

引出子空间正交的性质，以及矩阵的秩。

向量投影

投影的概念以及投影矩阵。

最小二乘法

很巧妙的用向量投影的角度重新认识最小二乘法。

Gram-Schmidit正交化

介绍Schmidit正交化方法，以及QR分解。

行列式

介绍矩阵行列式的概念。

特征向量

介绍特征值与特征向量，以及矩阵对角化。

矩阵的对角化

介绍对角化条件、几何重数与代数重数与应用。

特征值在微分方程中的应用

这里利用特征值将矩阵和微分方程联系在一起。

实对称矩阵

介绍Schur定理以及实对称矩阵的特殊性质。

正定矩阵理解及推导

特征值的应用：正定矩阵以及半正定矩阵的充要条件和性质。

二次型与函数极值

如何将数值函数用矩阵表示，并使用正定矩阵来指示函数的极值。

PageRank问题建模

大规模稀疏矩阵。

范数与矩阵条件数

这一讲进入矩阵论，讨论矩阵更深层次的问题和性质。

SVD分解

谱分解、Schur定理、SVD推导。

理解PCA

从协方差矩阵、仿射变换理解PCA。

SVD通俗理解

更直观的理解SVD。

线性变换与基变换

更好的理解矩阵以及矩阵乘法。