[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

PDF VIDEO

上接 part 1

Sequence Labeling Problem

Outline

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第1张图片
这里写图片描述

怎样把Structured Perceptron/SVM用到Sequence Labeling Problem呢?


Structured Perceptron/SVM

Structured Perceptron

解三个问题

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第2张图片
这里写图片描述

和CRF update的操作很像。

Structured Perceptron v.s. CRF

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第3张图片
这里写图片描述

Structures Perceptron只取几率最大的那一个y所形成的featrue,而CRF是考虑所有y可能形成的featrue以及它们的几率。

Structured SVM

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第4张图片
这里写图片描述

只有training的部分有所不同。

Structured SVM – Error Function

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第5张图片
这里写图片描述

Performance of Different Approaches

一些实验比较,可见Structured SVM性能最好。

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)_第6张图片
这里写图片描述

你可能感兴趣的:([机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3))