[ESL] 01_绪论

• 第二章 监督学习总览

首先是基础的线性方法.

• 第三章 回归的线性方法
• 第四章 分类的线性方法

对应于 2.8 节中的分类, 是高维学习技术的重要基石.

• 第五章 样条函数, 小波及单预测器的罚方法
• 第六章 核方法和局部回归

在第七章中, 主要是偏差和方差, 过拟合和用于选择模型用的交叉验证; 第八章中介绍了极大似然法, 贝叶斯推断, 自助法, EM算法, 吉布斯抽样和 bagging. 在第十章中还有与此相关的 boosting 过程.

• 第七章 模型的评估与选择
• 第八章 模型推理和平均

描述了一系列用于监督学习的结构化方法. 其中第九章和第十一章与回归问题相关, 第十二和第十三章重点在分类.

• 第九章 增广模型，树，以及相关方法
• 第十章 增强和可加树
• 第十一章 神经网络(NN)
• 第十二章 SVM和灵活的判别法
• 第十三章 原型方法和最近邻

此前都在介绍经典的监督学习理论, 剩下的部分为拓展内容. 除了第十四章, 都为第二版新添加内容.

• 第十四章 非监督学习
• 第十五章 随机森林
• 第十六章 集成学习
• 第十七章 无向图模型
• 第十八章 高维问题