《机器学习》（周志华）学习笔记（一）

一、假设空间

科学推理的两大手段：归纳（induction）和演绎（deduction）

归纳：泛化过程，从具体的事实归结出一般性规律

演绎：特化过程，从基础原理推演出具体状况

学习过程可以看作一个在所在假设组成的空间中进行搜索的过程，搜索目标是找到与训练集“匹配”（fit）的假设，即可以将训练集中的样本判断正确的结果。学习过程基于有限样本集时，所得到的与训练集一致的“假设空间”可以称为“版本空间”。

二、归纳偏好

归纳偏好可看做学习算法自身在一个庞大的假设空间中对假设进行选择的启发式或“价值观”，对应了学习算法本身所做出的关于“什么样的模型更好”的假设，即算法的归纳偏好是否与问题本身匹配。

三、学习领域和渠道

机器学习最重要的国际学术会议时国际机器学习会议（ICML）、国际神经信息处理系统会议（NIPS）和国际学习理论会议（COLT），重要的区域性会议主要有欧洲机器学习会议（ECML)和亚洲机器学习会议（ACML)；最重要的国际学术期刊时Journal of Machine Learning Research 和Machine Learning；人工智能领域的重要会议如IJCAI、AAAI以及重要期刊如Artificial Intelligence、Journal of Artificial Intelligence Research，数据挖掘领域的重要会议如KDD、ICDM以及重要期刊如ACM Transaction on Knowledge Discovery from Data、Data Mining and Konwledge Discovery，计算机视觉与模式识别领域的重要会议如CVPR以及重要期刊IEEE Transacitons on Pattern Analysis and Machine Intelligence，神经网络领域的重要期刊如Neural Computation，IEEE Transactons on Neural Networks and Learning Systems等。