关于数学学习（博士必读，写自清华学生）

原文地址：http://bbs.pinggu.org/thread-589533-1-1.html 最近一直有师弟师妹和朋友问我数学和研究的关系，研一要去学什么数学课。毕竟在清华，衡量一个研究生最重要的指标之一就是paper,而没有数学，是肯定上不了世界顶级的期刊和会议的，这在计算机学界尤其重要！你会发现，不论哪个领域有价值的东西，都一定离不开数学！在这样一个信息时代，当google已经让世界没有秘密的时候，一种卓越的数学思维，绝对可以成为你的核心竞争力.  无奈本人实在见地有限，且生活慵懒，一直没能整理出一些有价值的东西，今日拜读了lin dahua的空间，突然发现大牛已经做了此工作，便zz至此与大家分享。红笔标注之处，是本人的一些感受，也算站在巨人肩膀上做一些肤浅之论吧。最后补充一句：对于大部分不做纯数学理论的人来说（99.99999%的人都属于这一类），学一门数学时一定要建立和实际物理世界的联系。这样掌握的数学知识才有价值，也最深刻！ 前面几篇谈了一些对数学的粗浅看法。其实，如果对某门数学有兴趣，最好的方法就是走进那个世界去学习和体验。 这里说说几本我看过后觉得不错的数学教科书。 1. 线性代数 (Linear Algebra)： 我想国内的大学生都会学过这门课程，但是，未必每一位老师都能贯彻它的精要。这门学科对于Learning是必备的基础，对它的透彻掌握是必不可少的。我在科大一年级的时候就学习了这门课，后来到了香港后，又重新把线性代数读了一遍，所读的是 Introduction to Linear Algebra (3rd Ed.)  by Gilbert Strang. 这本书是MIT的线性代数课使用的教材，也是被很多其它大学选用的经典教材。它的难度适中，讲解清晰，重要的是对许多核心的概念讨论得比较透彻。我个人觉得，学习线性代数，最重要的不是去熟练矩阵运算和解方程的方法——这些在实际工作中MATLAB可以代劳，关键的是要深入理解几个基础而又重要的概念：子空间(Subspace)，正交(Orthogonality)，特征值和特征向量(Eigenvalues and eigenvectors)，和线性变换(Linear transform)。（如果你能理解傅立叶变化究竟做了一件什么事情，你才能说你知道了子空间！学线性代数一定要理解MATLAB能为你做的事情之外其他的东西，这才是精髓。而很遗憾，很多高校的线性代数考试只测试学生的计算能力。有几个数学老师能告诉学生：我们为什么要计算特征值？）从我的角度看来，一本线代教科书的质量，就在于它能否给这些根本概念以足够的重视，能否把它们的联系讲清楚。Strang的这本书在这方面是做得很好的。 而且，这本书有个得天独厚的优势。书的作者长期在MIT讲授线性代数课(18.06)，课程的video在MIT的Open courseware网站上有提供。有时间的朋友可以一边看着名师授课的录像，一边对照课本学习或者复习。 http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm 2. 概率和统计 (Probability and Statistics): (功利一点的讲，统计是最实用的一门学科，如果你不去研究，不去做高端的金融投资分析，那么你可以不去学泛函，不去学线性代数，不去了解拓扑，但你一定离不开统计！时间序列分析也很重要，甚至比统计还来得实用，可国内却鲜有高校开设这门课程。。。) 概率论和统计的入门教科书很多，我目前也没有特别的推荐。我在这里想介绍的是一本关于多元统计的基础教科书： Applied Multivariate Statistical Analysis (5th Ed.)  by Richard A. Johnson and Dean W. Wichern 这本书是我在刚接触向量统计的时候用于学习的，我在香港时做研究的基础就是从此打下了。实验室的一些同学也借用这本书学习向量统计。这本书没有特别追求数学上的深度，而是以通俗易懂的方式讲述主要的基本概念，读起来很舒服，内容也很实用。对于Linear regression, factor analysis, principal component analysis (PCA), and canonical component analysis (CCA)这些Learning中的基本方法也展开了初步的论述。 之后就可以进一步深入学习贝叶斯统计和Graphical models。(To my great acknowledgement, it is just for research.)一本理想的书是 Introduction to Graphical Models (draft version).  by M. Jordan and C. Bishop. 我不知道这本书是不是已经出版了（不要和Learning in Graphical Models混淆，那是个论文集，不适合初学）。这本书从基本的贝叶斯统计模型出发一直深入到复杂的统计网络的估计和推断，深入浅出，statistical learning的许多重要方面都在此书有清楚论述和详细讲解。MIT内部可以access，至于外面，好像也是有电子版的。 3. 分析 (Analysis)： (这才是真正数学家应该做的事情，无奈本人智力水平有限，无法于此领域有多少见地) 我想大家基本都在大学就学过微积分或者数学分析，深度和广度则随各个学校而异了。这个领域是很多学科的基础，值得推荐的教科书莫过于 Principles of Mathematical Analysis, by Walter Rudin 有点老，但是绝对经典，深入透彻。缺点就是比较艰深——这是Rudin的书的一贯风格，适合于有一定基础后回头去看。 在分析这个方向，接下来就是泛函分析(Functional Analysis)。 Introductory Functional Analysis with Applications, by Erwin Kreyszig. 适合作为泛函的基础教材，容易切入而不失全面。我特别喜欢它对于谱论和算子理论的特别关注，这对于做learning的研究是特别重要的。Rudin也有一本关于functional analysis的书，那本书在数学上可能更为深刻，但是不易于上手，所讲内容和learning的切合度不如此书。 在分析这个方向，还有一个重要的学科是测度理论(Measure theory)，（泛函是一切数学之源，而测度论又是泛函的基石。如今世界顶级投行的quant大部分都是利用概率测度去做风险中性建模和衍生品定价，谁说分析数学没有用？！ibank的衍生品投资分析都是基于测度中性去做的，因为对于大规模投资来说，最大的问题不是profit,而是risk hedging）但是我看过的书里面目前还没有感觉有特别值得介绍的。 4. 拓扑 (Topology)： 在我读过的基本拓扑书各有特色，但是综合而言，我最推崇： Topology (2nd Ed.)  by James Munkres 这本书是Munkres教授长期执教MIT拓扑课的心血所凝。对于一般拓扑学(General topology)有全面介绍，而对于代数拓扑(Algebraic topology)也有适度的探讨。此书不需要特别的数学知识就可以开始学习，由浅入深，从最基本的集合论概念（很多书不屑讲这个）到Nagata-Smirnov Theorem和Tychonoff theorem等较深的定理（很多书避开了这个）都覆盖了。讲述方式思想性很强，对于很多定理，除了给出证明过程和引导你思考其背后的原理脉络，很多令人赞叹的亮点——我常读得忘却饥饿，不愿释手。很多习题很有水平。 5. 流形理论 (Manifold theory)： 对于拓扑和分析有一定把握时，方可开始学习流形理论，否则所学只能流于浮浅。我所使用的书是 Introduction to Smooth Manifolds.  by John M. Lee 虽然书名有introduction这个单词，但是实际上此书涉入很深，除了讲授了基本的manifold, (个人觉得现在vision领域的manifold learning只是一些无病呻吟的研究，it is just for papers，但是我并不是说流行学习对vision没有用处，只是manifold真正的魅力远没有被挖掘出来！正像俄罗斯那一群科学怪人整出的l1-norm，谁能想到今天对vision界带来了如此大的变革。其实，有时学习数学只是一种信仰。）tangent space, bundle, sub-manifold等，还探讨了诸如纲理论(Category theory)，德拉姆上同调(De Rham cohomology)和积分流形等一些比较高级的专题。对于李群和李代数也有相当多的讨论。行文通俗而又不失严谨，不过对某些记号方式需要熟悉一下。 虽然李群论是建基于平滑流形的概念之上，不过，也可能从矩阵出发直接学习李群和李代数——这种方法对于急需使用李群论解决问题的朋友可能更加实用。而且，对于一个问题从不同角度看待也利于加深理解。下面一本书就是这个方向的典范： Lie Groups, Lie Algebras, and Representations: An Elementary Introduction.  by Brian C. Hall 此书从开始即从矩阵切入，从代数而非几何角度引入矩阵李群的概念。并通过定义运算的方式建立exponential mapping，并就此引入李代数。这种方式比起传统的通过“左不变向量场(Left-invariant vector field)“的方式定义李代数更容易为人所接受，也更容易揭示李代数的意义。最后，也有专门的论述把这种新的定义方式和传统方式联系起来。 ———————————————————————————— 无论是研究Vision, Learning还是其它别的学科，数学终究是根基所在。（数学是能与上帝对话的语言）学好数学是做好研究的基石。（如果你能摒弃了功利的去学习数学，那么数学也势必能够为你带来功利!）学好数学的关键归根结底是自己的努力但是选择一本好的书还是大有益处的。不同的人有不同的知识背景，思维习惯和研究方向，因此书的选择也因人而异，只求适合自己，不必强求一致。上面的书仅仅是从我个人角度的出发介绍的，我的阅读经历实在非常有限，很可能还有比它们更好的书（不妨也告知我一声，先说声谢谢了）。