马尔科夫模型

一、马尔科夫模型

 

二、隐马尔科夫模型

三、隐马尔科夫链三大问题

1）Recognition(识别问题)：知道骰子有几种（隐含状态数量），每种骰子是什么（转换概率），

根据掷骰子出的结果（可见状态链），我想知道每次掷出来的都是哪种骰子（隐含状态链）

2）Evaluation(验证问题)：还是知道骰子有几种（隐含状态链），每种骰子是什么（转换概率），

根据掷骰子出来的结果（可见状态链），我想知道掷出这个结果的概率。

3）Training(训练问题EM算法)：知道骰子有几种（隐含状态数量），不知道每种骰子是什么（转换概率），

观测到很多次掷骰子的结果（可见状态链），我想反推出每种骰子是什么（转换概率）。

四、案例

初始概率分布pi = [0.6, 0.4]

隐层状态转移矩阵A = [0.7 0.3, 0.6 0.4]

观测量的概率分布B = [0.1 0.4 0.5, 0.6 0.3 0.1]

两个状态：[Rainy Sunny]

三种可能的观测值 [Walk Shop Clean]

问题1：已知整个模型，我观测到连续三天做的事情是：[walk shop clean]，

那么，根据模型，计算产生这些行为的概率是多少。

问题2：同样知晓这个模型，同样是这三件事，我想猜，这三天的天气是怎么样的。

问题3：最复杂的，我只知道这三天做了这三件事，而其他什么信息都没有。

我得建立一个模型，晴雨转换概率，第一天天气情况的概率分布，根据天气情况选择做某事的概率分布，即预测model(pi, A, B)。

五、隐马尔科夫链解法

问题一：前向算法、或者后向算法；

问题二：Viterbi Algo，维特比算法；

问题三：Baum-Welch Algo，鲍姆-韦尔奇算法==EM算法

 

六、隐马尔科夫链应用：词性标注

词性标注问题，属于HMM三大问题的识别问题

词性结构变换状态：