统计学习 复习（知识点+习题）

复习资料：https://github.com/RuijieZhu94/StatisticalLearning_USTC

第一章 线性回归

1. From one to two

最小二乘

课后题

有偏/无偏估计

加权最小二乘

2. Regularization

线性回归（二维情况）

求解有约束优化问题

正则化最小加权二乘

不确定答案形式

3. Basic Function

核函数 岭回归

有个关于核函数的推导，但应该不会考

4.Bias-variance decomposition

Sparse

5.Different regularization forms

L1 minimization

6.Bayesian approach

后验估计

第二章 线性分类

1. exponential family and maximum entropy

微分熵

指数family

最大熵

感知机

2. 简答

第三章 SVM

1. Linear SVM

2. 核函数

第四章 监督学习

Loss Function

第五章 非参数学习

1.Parzen Window/核函数估计

2.k-NN

3.稀疏编码

第六章 无/半监督学习

1. k-means

2.混合高斯模型

3.超球体体积

4.PageRank

第七章 组合学习

第八章 决策树

第九章 概率图模型

Bayes Markov

Bayes Net