《机器学习》周志华 学习笔记

2023.3.27  B站视频学习笔记

1.初学机器学习的第一本书（初读一个月）

  “观其大略”：通读、速度，细节不懂处略过。了解机器学习的疆域和基本思想，理解基本概念。

2.阅读关于机器学习具体的分支读物（三个月、半年）

3.再度、对“关键点”的理解

   “提纲挈领”：理解技术细节后的本质，生化认识。

4.对机器学习多个分子有所了解（1~3年）

5.再读、细读

   “疏通经络”：不同内容的联系，不同的描述方式，出现位置蕴涵的意义，个别字句的启发可能自行摸索数年不易得。

6.科学、技术、工程、应用的区别

科学：是什么、为什么

技术：怎么做

工程：怎么样做得多快好省 （变成产业）

应用：招数

eg.菜刀

机器学习更多的是搞清楚是什么为什么怎么做。

7.机器学习经典定义

经典定义：利用经验改善系统自身的性能[T.Mitchell 教科书，1997]

经验-->数据

随着该领域的发展，目前主要研究智能数据分析的理论和方法，并已成为智能数据分析技术的源泉之一。

8.典型的机器学习过程

labe（类别标记、标签） 

模型 vs 模式

适用于全局的是模型，局部的是模式。这本书不做具体区分。

9.计算学习理论

10.基本术语

11.归纳偏好（inductive bias） 

 一般原则：奥卡姆剃刀（Occam‘s razor） 若非必要 务增实体

 

 

 12.NFL定理

  

 

 13.泛化能力

 overfitting是机器学习的核心问题

14.模型选择

15.评估方法

 

 

16.调参与最终模型

 17.性能度量

 

 18.比较检验

 

19.线性模型

 

 

 20.多元线性回归

 

21.线性模型的变化

 

 

 

 22.类别不平衡

 23.决策树模型

 

24.信息增益

 

 

 

 25.决策树的剪枝

 

 26.支持向量机基本型

 

27.特征空间映射

 

 

28.核函数

 

29 .如何使用SVM

 

 

 

 

 

 30.神经网络模型

 

 

 

 

 

 

 

 

 

31.贝叶斯决策论

 

 

 

 

 

 

 

32.集成学习

 

 

 

 

 

 

 

 

 

 

 

 33.聚类