机器学习第一节课笔记

机器学习简介及决策树

学习课程教学目标

1. 熟练掌握经典机器学习问题的数学描述，建模及求解
2. 实际问题形式化，复杂问题简单化，具体问题算法化，问题求解软件化
3. 掌握求解相关数学模型的基本方法

什么是学习

• 定义1：由于经验或实践的结果而产生的持久的或相对持久的适应性行为变化
• 定义2：能够使动物的行为对特定的环境条件发送适应性变化的所有过程，或者说是动物借助于个体生活经历或经验使自身的行为发生适应性变化的过程

什么是机器学习

• 是寻找一种对自然/人工主题，现象或活动课预测且/或可执行的机器理解方法
• 研究计算机怎样模型或实现人类（动物）的学习行为，以获取新的知识或技能
• 重新组织已有的知识结构是指不断改变自身的性能
• 是人工智能的核心，是使计算机具有智能的重要途径
• 其应用遍及人工智能的各个领域，它主要使用归纳综合而不是演绎

机器学习

• 研究一种算法
  • 提高它的性能（P）
  • 在某项任务中（T）
  • 利用一些经验（E）

well-defined learning task:

• 机器人控制
• 对象识别
• 生物信息学
• 文本挖掘
• 进化

机器学习的一般泛型

• 监督学习
  • Given D={Xi,Yi}, learn F(∵θ) ,s.t. Yi=F(Xi) D={Xj}→{Yj}
• 无监督学习
  • Given D={Xi}, learn F(∵θ) ,s.t. Yi=F(Xi) D={Xj}→{Yj}
• 强化学习
  • Given D={env,actions,rewards,simulator/trace/real game}
  • learn policy:e,r→a utility:a,e→r
  • s.t. {env,new real game}→a1,a2,a3,L,an

强化学习是动态规划的一般化