机器学习周志华通俗总结（1）

机器学习的大致结构为“输入-模型-输出”。根本任务就是训练出符合要求的模型。根据训练时输入是否有标注可以分为“监督督学习”和“无监督学习”，前者主要是分类和回归，后者主要是聚类。

在训练时有两个重要原则。一是“没有免费的午餐”，即没有一种算法能适应所有情况。二是“奥卡姆剃刀”，在所有选择都可以时候，选最简单那个。

从时间顺序上，20世纪50年代的基于神经网络的“连接主义”，60-70年代的基于逻辑的“符号主义”，以及基于决策策略的强化学习。80年代基于决策树和逻辑的“符号主义”，90年代由于BP算法“神经网络”卷土重来，同时基于支持向量机和核方法的统计学习。21世纪初。由于计算能力和数据访问能力的提高，基于“连接主义”的深度学习掀起热潮。