李宏毅机器学习2016 第十九讲 结构化学习简介
视频链接:李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩
课程资源:Hung-yi Lee
课程相关PPT已经打包命名好了:链接:https://pan.baidu.com/s/1c3Jyh6S 密码:77u5
我的第十八讲笔记:李宏毅机器学习2016 第十八讲 支持向量机
Introduction of Structured Learning
本章主要介绍了结构化学习的原理及应用。
1.结构化学习(Structured Learning)
在之前的学习中,输入和输出都是向量。然而在现实生活中,我们需要解决的问题并不都是此类问题。因此我们需要一个更加强大的函数。
其输入输出都是对象,而对象可能是序列、列表、树或者是边界盒等等。
举例来说,对于语音识别,其输入输出都是序列。
2.通用框架(Unified Framework)
设计一种解决此类问题的通用框架。
在训练阶段找到一个函数F能够评估出对象x和y有多匹配,越匹配其函数输出R越大;在测试阶段就可以遍历所有的y找到能够使得F最大的y,其输出就是x的输出结果。
目标检测(Object Detection)
此时X就是图像,Y就是定位的边界盒。
在训练阶段,定位出目越正确函数的输出值就越大。
在测试阶段,就可以遍历所有可能的边界盒,找到能够使输出值最大的y,就是输出结果。
当然结构化学习的通用框架也可以应用在文档总结(Document Summarization)、图像搜索(Image Retrieval)等问题。
通用框架的另一种解释(统计学)。
在这种解释中,可以将F(x,y)解释为x和y一起出现的概率。关于概率方法的缺点是概率不能解释所有的事物(Probability cannot explain everything),而且概率值得0-1限制是不必要的(0-1 constraint is not necessary);优点是有意义的(meaningful)。
3.通用框架的三个问题
通用框架主要有三个问题,解决了这三个问题,就能很好的解决结构化学习的问题。
问题1是怎么用F(X,Y)来计算X和Y之间的匹配性呢?
问题2是说应该用什么方法来解决这个最大化问题呢?
问题3说的是在给定训练数据德情况下,怎样找F(x,y)?
4.总结
本章简要介绍了结构化学习(Structured Learning),解决问题的通用框架(Unified Framework)以及通用框架的三个问题(Three Problems of Unified Framework)。