《统计学习基础-数据挖掘、推理与…

第一章 绪论

第二章 有指导学习概述

2.1引言 2.2 变量类型和术语 2.3 两种简单预测方法：最小二乘方和最近邻法 2.4 统计判决理论

2.5 高维空间的局部方法 2.6 统计模型，有指导学习和函数逼近 2.7 结构化回归模型

2.8 受限的估计方法类 2.9 模型选择和偏倚-方差权衡

第三章 回归的线性方法

3.1 引言 3.2 线性回归模型和最小二乘方 3.3从简单的一元回归到多元回归 3.4 子集选择和系数收缩 3.5 计算考虑

第四章 分类的线性方法

4.1 引言 4.2 指示矩阵的线性回归 4.3 线性判别分析 4.4 逻辑斯蒂回归 4.5 分离超平面

第五章 基展开与正则化

5.1 引言 5.2 分段多项式和样条 5.3 过滤和特征提取 5.4光滑样条 5.5 光滑参数的自动选择 5.6 无参数逻辑斯蒂回归 5.7 多维样条函数 5.8 正则化和再生核希尔伯特空间。

第六章 核方法

6.1 一维核光滑方法 6.2 选择核宽度 6.3 IR(P)的局部回归 6.4  IR(P)上结构化局部回归模型 6.5 局部似然和其他模型 6.6 核密度估计和分类 6.7 径向基函数和核 6.8 密度估计和分类的混合模型 6.9 计算考虑。

第七章 模型评估与选择

7.1 引言 7.2 偏倚、方差和模型复杂性 7.3 偏倚-方差分解 7.4训练误差率的乐观性 7.5 样本内预测误差的估计

7.6 有效的参数个数 7.7 贝叶斯方法和BIC 7.8 最小描述长度 7.9 Vapnik-Chernovenkis维。 7.10交叉验证

7.11自助法

第八章 模型推理和平均

8.1 引言 8.2自助法和极大似然法 8.3贝叶斯方法 8.4自助法和贝叶斯助理之间的联系 8.5 EM算法 8.6从后验中抽样的MCMC 8.7 装袋 8.8 模型平均和堆栈 8.9 随机搜索：冲击

第九章 加法模型、树和相关方法

9.1 广义加法模型 9.2 基于树的方法 9.3 PRIM-凸点搜索 9.4 MARS:多元自适应回归样条 9.5 分层专家混合

9.6 遗漏数据 9.7 计算考虑

第十章 提升和加法树

10.1 提升方法 10.2提升拟合加法模型 10.3 前向分布加法建模 10.4 指数损失函数和AdaBoost 10.5为什么使用指数损失 10.6损失函数和健壮性 10.7 数据挖掘的“现货”过程 10.8 例：垃圾邮件过程 10.9 提升树 10.10数值优化 10.11提升适当大小的树 10.12 正则化 10.13 可解释性 10.14 实例

第十一章 神经网络

11.1 引言 11.2 投影寻踪回归 11.3 神经网络 11.4 拟合神经网络 11.5训练神经网络的一些问题 11.6例：模拟数据

11.7例：zip编码数据 11.8 讨论 11.9 计算考虑

第十二章 支持向量机和柔性判别

12.1 引言 12.2支持向量分类器 12.3 支持向量机 12.4 线性判别分析的推广 12.5柔性判别分析 12.6 罚判别分析 1.27 混合判别分析 12.8计算考虑

第十三章 原型方法和最近邻

13.1引言 13.2原型方法 13.3k最近邻分类器 13.4自适应的最近邻方法 13.5计算考虑

第十四章 无指导学习

14.1引言 14.2关联规则 14.3聚类分析 14.4自组织映射 14.5主成分、曲线和曲面 14.6独立成分分析和探测性投影寻踪 14.7多维定标