[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

PDF VIDEO

Structured Linear Model

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第1张图片
这里写图片描述

Problem 1

$\phi_1(x,y)$$\phi_2(x,y)$ $\phi_3(x,y)$ 代表一个value. 也就是说 x,y在具有特征一时的强度是$\phi_1(x,y)$,同理特征二、特征三。 将这组值,乘上从training data中得到的weight w1.w2,w3.

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第2张图片
这里写图片描述

加入F(x,y)写成这样子,那么problem3就不是问题了。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第3张图片
这里写图片描述

每一个维度都是一个feature,
那么这些feature该怎么寻找呢?
train 一个CNN,把image丢进CNN中,output一个vector就可以很好地代表里面的东西,所以可以用deep learning来抽feature。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第4张图片
这里写图片描述

example:summarization

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第5张图片
这里写图片描述

example:Retrieval

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第6张图片
这里写图片描述

Problem 2

Inference: How to solve the “arg max” problem
穷举所有的y,寻找max,但我们先假装这个问题已经被解决了。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第7张图片
这里写图片描述

然后就有了第三个问题,希望找到一个F(x,y)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第8张图片
这里写图片描述

举个例子来说

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第9张图片
这里写图片描述

红色的只有一个,是正确的,而蓝色的有千千万万个。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第10张图片
这里写图片描述
[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第11张图片
这里写图片描述

我们希望找到一个W,做到上面的每一个点通通与w做inner product,使所有红星得到的值大于蓝星的值,所有红点得到的值,大于蓝点的值。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第12张图片
这里写图片描述

Solution of Problem 3

并不像想象中的那么难。

Algorithm

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第13张图片
这里写图片描述

example

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第14张图片
这里写图片描述
[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第15张图片
这里写图片描述
[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第16张图片
这里写图片描述

得到一个新的w
还要继续算,检查一遍

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)_第17张图片
这里写图片描述

你可能感兴趣的:([机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型))