[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

PDF VIDEO

Structured Linear Model

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

Problem 1

ϕ1(x,y)ϕ2(x,y) ϕ3(x,y) 代表一个value. 也就是说 x,y在具有特征一时的强度是ϕ1(x,y),同理特征二、特征三。 将这组值,乘上从training data中得到的weight w1.w2,w3.

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

加入F(x,y)写成这样子,那么problem3就不是问题了。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

每一个维度都是一个feature,
那么这些feature该怎么寻找呢?
train 一个CNN,把image丢进CNN中,output一个vector就可以很好地代表里面的东西,所以可以用deep learning来抽feature。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

example:summarization

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

example:Retrieval

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)


Problem 2

Inference: How to solve the “arg max” problem
穷举所有的y,寻找max,但我们先假装这个问题已经被解决了。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

然后就有了第三个问题,希望找到一个F(x,y)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

举个例子来说

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

红色的只有一个,是正确的,而蓝色的有千千万万个。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

我们希望找到一个W,做到上面的每一个点通通与w做inner product,使所有红星得到的值大于蓝星的值,所有红点得到的值,大于蓝点的值。

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

Solution of Problem 3

并不像想象中的那么难。

Algorithm

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

example

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)

得到一个新的w
还要继续算,检查一遍

[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)