周志华《机器学习》（西瓜书）学习笔记——第一章 绪论

1.2 基本术语

1. 示例 / 样本 / 特征向量：是关于一个事件或对象的描述的记录。
2. 数据集：一组记录的集合。
3. 属性：反映事件或对象在某方面的表现或性质的事项。（比如西瓜的“色泽”、“敲声”等）
4. 属性值：属性上的取值。（比如西瓜“青绿”等）
5. 属性空间 / 样本空间 / 输入空间：属性张成的空间。

以上，一般地，令$D=\{{\mathbf{x}}_1,{\mathbf{x}}_2,...,{\mathbf{x}}_{\mathbf{m}}\}$ 表示包含m个示例的数据集，每个示例由 $d$ 个属性描述。其中 $x_{ij}$ 是 ${\mathbf{x}}_{\mathbf{i}}$ 在第 $j$ 个属性上的取值，$d$ 称为样本 $x_i$ 的“维数”。

6. 训练 / 学习：从数据中学得模型的过程。训练过程中使用的数据称为 训练数据，其中每个样本称为一个 “训练样本”，训练样本组成的集合称为“训练集”。
7. 假设：学得模型对应了关于数据的某种潜在的规律。
8. 标记：关于示例结果的信息，如“好瓜”。
9. 样例：拥有了标记信息的示例。一般地，用$({\mathbf{x}}_{\mathbf{i}},y_i)$表示第 $i$ 个样例，其中 $y_i\in Y$ 是示例 ${\mathbf{x}}_{\mathbf{i}}$ 的标记，$Y$ 是所有标记的集合，也称“标记空间 ”或“输出空间”。
10. 分类：预测离散值的学习任务。
11. 回归：预测连续值的学习任务。
12. 二分类任务：只涉及两个类别的学习任务，其中一个类为“正类”，另一个类为“反类”。
13. 多分类任务：设计多个类别的任务。

一般地，预测任务是希望通过对训练集 $\{({\mathbf{x}}_1,y_2),({\mathbf{x}}_2,y_2),...,({\mathbf{x}}_{\mathbf{m}},y_m)\}$进行学习，建立一个从输入空间 $X$ 到输出空间 $Y$ 的映射 $f:X\to Y$.

14. 测试：学得模型后，使用其进行预测的过程。被预测的样本称为“测试样本”
15. 根据训练数据是否拥有标记信息，学习任务可大致划分为 “监督学习” （分类和回归）和 “无监督学习” （聚类）。