西瓜书笔记

西瓜书笔记

1、绪论

基本术语

1. 数据集（data set）:一组数据记录的集合;
2. 每一条记录代表一个事件或对象的描述，称为一个“示例”（instance）或样本（sample）;
3. 反映事件或对象某方面的表现或性质的事项，称为属性（attribute）或特征（feature）;
4. 属性上的取值称为属性值（attribute value）, 属性构成的空间称为属性空间（attribute space）、样本空间（sample space）或输入空间；
5. 将“色泽”“根蒂”“敲声”作为三个坐标轴，它们张成一个用于描述西瓜的三维空间，每个西瓜都能在坐标找自己的坐标位置，由于空间的每个点对应一个坐标向量，因此也把一个示例称为一个“特征向量”（feature vector）
6. 一般地，令
   D={x1+xx+⋯+xm}
   表示包含m个示例的数据集，每个示例由d个属性描述（例如上面的西瓜数据使用了3个属性），则每个示例
   xi=(xi1;xi2;…;xid)
   是d维样本空间 χ 中的一个向量， xi∈χ 其中 xij 是 xi 在第j个属性上的取值（例如第三个西瓜的第2个属性的值是”硬挺”）,d称为样本 xi 的”维数”(dimensionality).
7.

2、模型评估与选择

3、线性模型

4、决策树

5、神经网络

6、向量机

7、贝叶斯分类

8、集成学习

9、聚类

10、降维与度量学习

11、特征选择与稀疏学习

12、计算学习理论

13、半监督学习

14、概率图模型

15、规则学习

16、强化学习