3.3 Types of Learning- Learning with Different Protocol |机器学习基石（林轩田）-学习笔记

文章原创,最近更新：2018-07-18

学习链接:
3.3 Types of Learning- Learning with Different Protocol

学习参考链接:
1、台湾大学林轩田机器学习基石课程学习笔记3 -- Types of Learning

按照不同的协议，机器学习可以分为三种类型：

• Batch Learning
• Online
• Active Learning

1.Batch Learning

batch learning是一种常见的类型。batch learning获得的训练数据D是一批的，即一次性拿到整个D，对其进行学习建模，得到我们最终的机器学习模型。batch learning在实际应用中最为广泛。

运用场景:

• 批量（电子邮件，垃圾邮件）→垃圾邮件过滤器
• 批量（患者，癌症）→癌症分类器
• 批量患者数据组→一组病人

2.online

online是一种在线学习模型，数据是实时更新的，根据数据一个个进来，同步更新我们的算法。比如在线邮件过滤系统，根据一封一封邮件的内容，根据当前算法判断是否为垃圾邮件，再根据用户反馈，及时更新当前算法。这是一个动态的过程。之前我们介绍的PLA和增强学习都可以使用online模型。

online：“改进”的垃圾邮件过滤器:

• 学习已知（电子邮件，垃圾邮件？）数据对，并使用固定用g预测
• 在线垃圾邮件过滤器，顺序如下：
  • 观察每封电子邮件xt
  • 预测当前垃圾邮件状态gt（xt ）
  • 接收来自用户'所需标签'yt，然后使用（xt，yt）更新gt.

与我们学到知识的联系:

• PLA可以很容易地适应在线协议（如何？）
• 强化学习通常在网上完成（为什么？）

online：假设通过数据实例顺序不断“改善”,使g越变越好.

3.Active Learning(主动学习)

active learning是近些年来新出现的一种机器学习类型，即让机器具备主动问问题的能力，例如手写数字识别，机器自己生成一个数字或者对它不确定的手写字主动提问。active learning优势之一是在获取样本label比较困难的时候，可以节约时间和成本，只对一些重要的label提出需求。

简单总结一下，按照不同的协议，机器学习可以分为batch, online(被动的), active。这三种学习类型分别可以类比为：填鸭式，老师教学以及主动问问题。

4.练习

一位摄影师有10万张照片，每张照片都包含一个棒球运动员。他想通过其内部的播放器自动对图片进行分类。他首先通过自己对1000张图片进行分类，然后编写一种算法，如果它对该类别“有信心”，则尝试对其他图片进行分类，如果不是，则暂停（和学习）人类输入。什么协议最能描述算法的本质？

答案是3.当出现“困惑”,该算法采用主动的策略询问。你上课时也应该这样做。