[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

PDF VIDEO

上接 part 1

Sequence Labeling Problem

Outline

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

怎样把Structured Perceptron/SVM用到Sequence Labeling Problem呢?


Structured Perceptron/SVM

Structured Perceptron

解三个问题

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

和CRF update的操作很像。

Structured Perceptron v.s. CRF

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

Structures Perceptron只取几率最大的那一个y所形成的featrue,而CRF是考虑所有y可能形成的featrue以及它们的几率。

Structured SVM

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

只有training的部分有所不同。

Structured SVM – Error Function

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)

Performance of Different Approaches

一些实验比较,可见Structured SVM性能最好。

[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)