机器学习基石第三节

Types of Learning

一、监督式（supervised）的学习（上面的问题）和非监督式（unsupervised）的学习（下面的问题）
区分：是否提供yn（结果集）

监督式和非监督式（classtry）学习

（一）、unsupervised：learning with yn
根据输出空间变化，常见有以下几类问题
1、自动贩卖机识别硬币，多类别识别问题
（1）classify US coins（1c，5c，10c，25c） by （size，mass）
（2）y = {1c，5c，10c，25c}， or y={1，2，...，K}（abstractly）
（3）binary classification（分类）： special case with K = 2
类似多类别的分类问题，区别数字，邮件分类，多用在视觉听觉辨识

2、回归分析问题，regression
y = R or y = [lower, upper] 包含于R（bounded regression有范围回归）
线性回归是一类特殊的回归分析问题。回归分析特点，输出是一个特定值

3、自然语言辨识，structured learning，结构识别
（1）multiclass cliassification：word =》 world class
（2）structured learning：
sentence =》 structure（class of each word）
（3）y = {PVN，PVP，NVN，。。。}，not including vvvvv
（4）huge multiclass classification problem （structure === hyperclass） without ‘explicit（详细的）’ class definition

（二）、unsupervised：learning without yn
（1）分群问题clustering {Xn} => cluster（x）
（2）密度分析问题：density estimation： {Xn} => density(x)
（3）异常识别（outlier detetion）识别出一些疑似的异常数据

（三）、semi-supervised 半监督式，监督式与非监督式的中间情况
还有一些特殊的情况只给出了一部分yn，此为半监督式，这时候就需要用未给出yn的数据让已给出的yn更加完善和准确

semi-supervised

（四）Reinforcement Learning 增强式学习
reinforcement：learn with ‘partial/implicit imformation’ （often sequentially）

mini summary

（五）Batch learning 批量学习、
一次性批量输入给学习算法，可以被形象的称为填鸭式学习。

（六）Online learning 在线学习
按照顺序，循序的学习，不断的去修正模型，进行优化

（七）Active learning 主动学习
让机器主动问问题（按顺序）

Mini Summary

以上都是从输出角度做的分析，
下面从输入角度分析

（八）concrete learning

（九）raw learning

（十）abstract learning

Summary