机器学习第一章（引言）

“假设用P来评估计算机程序在某任务类T上的性能，若一个程序通过利用经验E在T中任务上获得了性能改善，则意味着关于T和P，该程序对E进行了学习”

机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能，从而在计算机上从数据中产生“模型”，依此来对新的未知的情况进行判断。

机器学习与数据挖掘的关系：

                                                                                图1.机器学习与数据挖掘的关系

机器学习中的基本术语：数据、任务、泛化能力

机器学习中的假设空间、归纳偏好

机器学习的发展历程：

推理期：

A.Newell和H.Simon的“logic theorist”程序以及“general problem solving”程序取得了令人振奋的结果。

2006年卡耐基梅隆大学宣告成立第一个机器学习系，机器学习奠基人之一T.Mitchell教授担任系主任。

知识期：

大量专家系统问世，在诸多领域取得较大成果；

学习期：

符号主义学习（决策树、基于逻辑的学习）、连接主义学习（神经网络）、统计学习（支持向量机&核方法）

机器学习的应用现状：

计算机领域最活跃的分支、与普通人的生活息息相关，如天气预报、能源勘探、环境监测、搜索引擎、自动驾驶等

影响到人类的政治生活：2012年奥巴马政府利用机器学习对社交网络进行分析，提示下一步的竞选策略。

具有自然科学探索色彩

阅读材料：

该领域最重要的学术会议为国际机器学习会议ICML、国际神经信息处理系统会议NIPS和国际学习理论会议COLT。区域性会议有欧洲机器学习会议ECML和亚洲机器学习会议ACML。最重要的学术期刊是Journal of Maching Learning Research和Machine Learning。