统计学习方法及监督学习

§1.1 统计学习（statistical learning）

又称统计机器学习，目的是：对数据进行分析或预测。统计学习关于数据的基本假设是同类数据具有一定的统计规律性，可以用概率统计的方法处理。

§1.2 统计学习分类

♧1.2.1 基本分类

统计学习或强化学习一般包括监督学习、无监督学习和强化学习。有时还包括半监督学习和主动学习。

♡1 监督学习

本质是学习输入到输出的映射的统计规律。 每个具体的输入实例是一个特征，所有特征组成特征空间，输入空间不同于特征空间时，应将输入空间映射到特征空间。
输入变量和输出变量为连续变量的预测问题为回归问题；输入变量和输出变量为离散变量的预测问题为分类问题；输入变量和输出变量为序列的预测问题为标注问题。
基本假设：输入和输出的随机变量具有联合概率分布。
假设空间（hypothesis space）：由输入空间到输出空间的映射集合。假设空间确定代表着学习范围确定。监督学习的模型分为概率模型和非概率模型。模型描述出输入与输出随机变量之间的映射关系。

♡2 无监督学习

从无标注的数据中学习预测模型。本质是学习数据中的统计规律或潜在结构。 输出由输入的类别、转换、概率表示。模型对数据进行：聚类、降维、或概率统计。

♡3 强化学习

指智能体在与环境的连续互动中学习最优行为策略的机器学习，基于马尔科夫决策过程，智能系统观测的是与环境互动得到的数据序列。
需要强调的是Q-function和value function的区别：Q-function是基于当前状态和动作的而value function是基于当前状态的。
还有就是强化学习的方法：model-based和model-free（包括：优化policy和优化value两种方法）。
详细内容

♡4 半监督学习

♡5 主动学习

指机器不断主动给出实例让教师进行标注，然后利用标注数据学习预测模型的机器学习问题。
与监督学习的区别在于：主动学习的目标是找出对学习有帮助的数据让教师标注，不像监督学习，标注的数据是随机的。

♧1.2.2 按模型分类

♡1 概率模型和非概率模型

♡2 线性模型和非线性模型

♡3 参数化模型和非参数化模型

♧1.2.3 按算法分类

♡ 在线学习（on-line）和批量学习（batch）

利用随机梯度下降的感知机器学习方法就是在线学习。

♧1.2.4 学习技巧分类

♡1 贝叶斯学习（Bayesaian learning）

♡2 核方法

技巧在于：不显示地定义这个映射，而是直接定义核函数。

§1.3 统计学方法三要素

模型+方法+算法。按照什么样的准则学习或选择模型（策略），求解最优模型（算法）。

♧模型

♧策略

• 损失函数：度量模型一次预测的好坏。

• 风险函数：度量平均意义下模型预测的好坏。
  风险函数 = 损失函数的期望
  

• 经验风险：对于训练数据集的平均损失。经验风险最小化：
  

• 结构风险最小化：
  

♧算法

要求：全局最优；高效。

§1.4 模型评估与模型选择

♧训练误差与测试误差

测试误差：与经验风险的数学表达式相同只不过，测试误差将经验风险的训练集换成了测试集中的数据。

♧过拟合

§1.5 正则化与交叉验证

♧正则化

正则化是结构风险策略最小化的实现，所以正则化的一般形式和结构风险相同：

♧交叉验证

§1.6 泛化能力

♧泛化误差

所学到的模型的期望风险。

♧泛化误差的上界

§1.6 判别模型与生成模型