Machine Learning: A Probabilistic Perspective——Chapter 1

1 介绍

1.1 机器学习：是什么？为什么？

1.1.1 机器学习的分类

• 预测/监督学习
  • 当$y_i$ 是一个明确的值，那么问题成为分类问题或者是模式识别
  • 当$y_i$时一个real-valued ，那么问题时一个回归
  • 序数回归（ordinal regression），当标签$\mathcal{Y}$时naturel ordering.
• 无监督学习/knowledge discovery
• 增强学习：参考《Kaelbling et al. 1996; Sutton and Barto 1998;
  Russell and Norvig 2010; Szepesvari 2010; Wiering and van Otterlo 2012》

1.2监督学习

1.2.1分类

$y\in \{1,\dots ,C\}$

• 如果$C=2$ 那么成为二分类问题（binary classification）。
• 如果$C>2$那么成为多分类问题(multiclass classification)。
• 如果类的标签不是互斥的，那么成为多标签分类(multi-label classification)。