DWML EM算法 GMM

###概述
EM本质思想和聚类差不多,但是后者无法给出某个样本属于该簇的后验概率。
主要用到的技巧是E步估计,M步最大,反复迭代;jensen不等式。
DWML EM算法 GMM

DWML EM算法 GMM

硬币的例子

之前讲的 讲的不是很好(-_-||)
DWML EM算法 GMM

混合高斯分布 例子引入

DWML EM算法 GMM
Recall MLE
DWML EM算法 GMM
DWML EM算法 GMM
DWML EM算法 GMM

例子

DWML EM算法 GMM

####Jensen不等式
DWML EM算法 GMM
DWML EM算法 GMM
DWML EM算法 GMM
DWML EM算法 GMM
DWML EM算法 GMM

从图像角度理解

DWML EM算法 GMM

DWML EM算法 GMM

整体框架

DWML EM算法 GMM