李宏毅机器学习2016 第十九讲 结构化学习简介

视频链接:李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩

课程资源:Hung-yi Lee

课程相关PPT已经打包命名好了:链接:https://pan.baidu.com/s/1c3Jyh6S 密码:77u5


我的第十八讲笔记:李宏毅机器学习2016 第十八讲 支持向量机


Introduction of Structured Learning


本章主要介绍了结构化学习的原理及应用。


1.结构化学习(Structured Learning)

在之前的学习中,输入和输出都是向量。然而在现实生活中,我们需要解决的问题并不都是此类问题。因此我们需要一个更加强大的函数。

李宏毅机器学习2016 第十九讲 结构化学习简介

其输入输出都是对象,而对象可能是序列、列表、树或者是边界盒等等。

李宏毅机器学习2016 第十九讲 结构化学习简介

举例来说,对于语音识别,其输入输出都是序列。


2.通用框架(Unified Framework)

设计一种解决此类问题的通用框架。

李宏毅机器学习2016 第十九讲 结构化学习简介

在训练阶段找到一个函数F能够评估出对象x和y有多匹配,越匹配其函数输出R越大;在测试阶段就可以遍历所有的y找到能够使得F最大的y,其输出就是x的输出结果。

目标检测(Object Detection)

李宏毅机器学习2016 第十九讲 结构化学习简介

此时X就是图像,Y就是定位的边界盒。

李宏毅机器学习2016 第十九讲 结构化学习简介

在训练阶段,定位出目越正确函数的输出值就越大。

李宏毅机器学习2016 第十九讲 结构化学习简介

在测试阶段,就可以遍历所有可能的边界盒,找到能够使输出值最大的y,就是输出结果。

当然结构化学习的通用框架也可以应用在文档总结(Document Summarization)、图像搜索(Image Retrieval)等问题。


通用框架的另一种解释(统计学)。

李宏毅机器学习2016 第十九讲 结构化学习简介

在这种解释中,可以将F(x,y)解释为x和y一起出现的概率。关于概率方法的缺点是概率不能解释所有的事物(Probability cannot explain everything),而且概率值得0-1限制是不必要的(0-1 constraint is not necessary);优点是有意义的(meaningful)。


3.通用框架的三个问题

通用框架主要有三个问题,解决了这三个问题,就能很好的解决结构化学习的问题。

李宏毅机器学习2016 第十九讲 结构化学习简介

问题1是怎么用F(X,Y)来计算X和Y之间的匹配性呢?

问题2是说应该用什么方法来解决这个最大化问题呢?

问题3说的是在给定训练数据德情况下,怎样找F(x,y)?


4.总结


本章简要介绍了结构化学习(Structured Learning),解决问题的通用框架(Unified Framework)以及通用框架的三个问题(Three Problems of Unified Framework)