从极大似然估计到EM算法

本来想自己写一篇关于EM算法的博客，但在学习过程中在知乎上看到了一篇质量非常高的文章，举例丰富又不脱离其数学本质，深入浅出又不省略其公式推导，故在征得原作者的同意后搬运至此与大家分享。
Ok，let’s get it!

作者：August
原文链接：https://zhuanlan.zhihu.com/p/35698329

---

估计有很多入门机器学习的同学在看到EM算法的时候会有种种疑惑：EM算法到底是个什么玩意？它能做什么？它的应用场景是什么？网上的公式推导怎么看不懂？

下面我从极大似然估计开始，过渡到EM算法，讲解EM算法最核心的idea，以及EM算法的具体步骤。鉴于网上很多博客文章都是直接翻译吴恩达的课程笔记内容，有很多推导步骤都是跳跃性的，我会把这些中间步骤弥补上，让大家都能看懂EM算法的推导过程。最后以一个二硬币模型作为EM算法的一个实例收尾。希望阅读本篇文章之后能对EM算法有更深的了解和认识。

极大似然和EM(Expectation Maximization)算法，与其说是一种算法，不如说是一种解决问题的思想，解决一类问题的框架，和线性回归，逻辑回归，决策树等一些具体的算法不同，极大似然和EM算法是更加抽象，是很多具体算法的基础。

1. 从极大似然到EM

1.1 极大似然

1.1.1 问题描述

假设我们需要调查我们学校学生的身高分布。我们先假设学校所有学生的身高服从正态分布 $N(\mu,\sigma^2)$N(μ,σ2) 。(注意：极大似然估计的前提一定是要假设数据总体的分布，如果不知道数据分布，是无法使用极大似然估计的)，这个分布的均值 $\mu$μ 和方差 $\sigma^2$σ2 未知，如果我们估计出这两个参数，那我们就得到了最终的结果。那么怎样估计这两个参数呢？

我们可以先对学生进行抽样。假设我们随机抽到了 200 个人（也就是 200 个身高的样本数据，为了方便表示，下面，“人”的意思就是对应的身高）。然后统计抽样这 200 个人的身高。根据这 200 个人的身高估计均值$\mu$μ 和方差 $\sigma^2$σ2 。

用数学的语言来说就是：为了统计学校学生的身高分布，我们独立地按照概率密度$p(x|θ)$p(x∣θ) 抽取了 200 个（身高），组成样本集 $X={x_1,x_2,…,x_N}$X=x1​,x2​,…,xN​ (其中$x_i$xi​ 表示抽到的第 $i$i 个人的身高，这里$N$N 就是 200，表示样本个数)，我们想通过样本集 $X$X 来估计出未知参数 $θ$θ 。这里概率密度 $p(x|θ)$p(x∣θ) 服从高斯分布 $N(\mu,\sigma^2)$N(μ,σ2) ，其中的未知参数是 $θ=[\mu, \sigma]^T$θ=[μ,σ]T 。

那么问题来了怎样估算参数 $\theta$θ 呢？

1.1.2 估算参数

我们先回答几个小问题：

问题一：抽到这 200 个人的概率是多少呢？

由于每个样本都是独立地从 $p(x|θ)$p(x∣θ) 中抽取的，换句话说这 200 个学生随便捉的，他们之间是没有关系的，即他们之间是相互独立的。假如抽到学生 A（的身高）的概率是 $p(x_A|θ)$p(xA​∣θ) ，抽到学生B的概率是 $p(x_B|θ)$p(xB​∣θ) ，那么同时抽到男生 A 和男生 B 的概率是 $p(x_A|θ) \times p(x_B|θ)$p(xA​∣θ)×p(xB​∣θ) ，同理，我同时抽到这 200 个学生的概率就是他们各自概率的乘积了，即为他们的联合概率，用下式表示：

$L(\theta) = L(x_1, x_2, \cdots , x_n; \theta) = \prod \limits _{i=1}^{n}p(x_i|\theta)，\theta \in \Theta$L(θ)=L(x1​,x2​,⋯,xn​;θ)=i=1∏n​p(xi​∣θ)，θ∈Θ n为抽取的样本的个数，本例中 n=200 ，这个概率反映了，在概率密度函数的参数是 $θ$θ 时，得到 $X$X 这组样本的概率。因为这里 $L$L 是已知的，也就是说我抽取到的这 200 个人的身高可以测出来。而 $θ$θ 是未知了，则上面这个公式只有 $θ$θ 是未知数，所以 $L$L 是 $θ$θ 的函数。

这个函数反映的是在不同的参数 $θ$θ 取值下，取得当前这个样本集的可能性，因此称为参数 $θ$θ 相对于样本集 X 的似然函数（likelihood function），记为 $θ$θ 。

为了便于分析，对 L 取对数，将其变成连加的，称为对数似然函数，如下式：
$H(\theta) = \text{ln} \ L(\theta) = \text{ln} \prod \limits _{i=1}^{n}p(x_i|\theta) = \sum \limits _{i=1}^{n}\text{ln} p(x_i|\theta)$H(θ)=ln L(θ)=lni=1∏n​p(xi​∣θ)=i=1∑n​lnp(xi​∣θ)

问题二：学校那么多学生，为什么就恰好抽到了这 200 个人 ( 身高) 呢？

在学校那么学生中，我一抽就抽到这 200 个学生（身高），而不是其他人，那是不是表示在整个学校中，这 200 个人（的身高）出现的概率极大啊，也就是其对应的似然函数 $L(θ)$L(θ) 极大，即

$\hat \theta = \text{argmax} \ L(\theta)$θ^=argmax L(θ) $\hat\theta$θ^ 这个叫做 $θ$θ 的极大似然估计量，即为我们所求的值。

问题三：那么怎么极大似然函数？

求 $L(\theta)$L(θ) 对所有参数的偏导数，然后让这些偏导数为 0，假设有 $n$n 个参数，就有 $n$n 个方程组成的方程组，那么方程组的解就是似然函数的极值点了，从而得到对应的 $θ$θ 了。

1.1.3 极大似然估计总结

极大似然估计你可以把它看作是一个反推。多数情况下我们是根据已知条件来推算结果，而极大似然估计是已经知道了结果，然后寻求使该结果出现的可能性极大的条件，以此作为估计值。

比如说，

假如一个学校的学生男女比例为 9:1 (条件)，那么你可以推出，你在这个学校里更大可能性遇到的是男生 (结果)；
假如你不知道那女比例，你走在路上，碰到100个人，发现男生就有90个 (结果)，这时候你可以推断这个学校的男女比例更有可能为 9:1 (条件)，这就是极大似然估计。
极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。说的是已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，通过若干次试验，观察其结果，利用结果推出参数的大概值。

极大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率极大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。

1.1.4 求极大似然函数估计值的一般步骤：

（1）写出似然函数；

（2）对似然函数取对数，并整理；

（3）求导数，令导数为 0，得到似然方程；

（4）解似然方程，得到的参数。

1.1.5 极大似然函数的应用

应用一 ：回归问题中的极小化平方和 （极小化代价函数）

假设线性回归模型具有如下形式: $h(x) = \sum \limits _{i=1}^{d} \theta_jx_j + \epsilon = \theta^Tx + \epsilon$h(x)=i=1∑d​θj​xj​+ϵ=θTx+ϵ，其中 $x \in R^{1 \times d}, \theta \in R^{1 \times d}$x∈R1×d,θ∈R1×d， 误差 $\epsilon \in R$ϵ∈R ， 误差 $X = (x_1, \cdots, x_m)^T \in R^{m \times d}, y \in R^{m \times 1}$X=(x1​,⋯,xm​)T∈Rm×d,y∈Rm×1 ， 如何求 $θ$θ 呢？

最小二乘估计：最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是估计值和观测值之差的平方和最小，其推导过程如下所示：
$J(\theta)= \sum \limits _{i=1}^n (h_{\theta}(x_i)- y_i) ^2$J(θ)=i=1∑n​(hθ​(xi​)−yi​)2

求解方法是通过梯度下降算法，训练数据不断迭代得到最终的值。

极大似然法：最合理的参数估计量应该使得从模型中抽取 m 组样本观测值的概率极大，也就是似然函数极大。
假设误差项 $\epsilon \in N(0, \sigma^2)$ϵ∈N(0,σ2) ，则 $y_i \in N(\theta x_i, \sigma^2)$yi​∈N(θxi​,σ2) (建议复习一下正态分布的概率密度函数和相关的性质)
$p(y_i|x_i;\theta) = \frac{1}{\sqrt{2 \pi}\sigma}exp(-\frac{(y_i-\theta^Tx_{i})^2}{2\sigma^2})$p(yi​∣xi​;θ)=2π​σ1​exp(−2σ2(yi​−θTxi​)2​)$L(\theta)=\prod^{i=1}_{m}p(y_{i}|x_{i},\theta)=\prod^{i=1}_{m}\frac{1}{\sqrt{2 \pi}\sigma}exp(-\frac{(y_i-\theta^Tx_{i})^2}{2\sigma^2})$L(θ)=m∏i=1​p(yi​∣xi​,θ)=m∏i=1​2π​σ1​exp(−2σ2(yi​−θTxi​)2​)
$H(\theta) = log(L(\theta)) \\ = \text{log}\ \prod \limits _{i=1}^m\frac{1}{\sqrt{2 \pi}\sigma}exp(-\frac{(y_i-\theta^Tx_{i})^2}{2\sigma^2}) \\= \sum \limits _{i=1}^m( \text{log}\ \frac{1}{\sqrt{2 \pi}\sigma}exp(-\frac{(y_i-\theta^Tx_{i})^2}{2\sigma^2})) \\ = -\frac{1}{2\sigma^2} \sum \limits _{i=1}^m(y_i-\theta^Tx_{i})^2 - m\text{ln}\ \sigma \sqrt{2\pi}$H(θ)=log(L(θ))=log i=1∏m​2π​σ1​exp(−2σ2(yi​−θTxi​)2​)=i=1∑m​(log 2π​σ1​exp(−2σ2(yi​−θTxi​)2​))=−2σ21​i=1∑m​(yi​−θTxi​)2−mln σ2π​

令 $J(\theta) = \frac{1}{2} \sum \limits _{i=1}^m(y_i-\theta^Tx_{i})^2$J(θ)=21​i=1∑m​(yi​−θTxi​)2， 则$arg \max \limits_{\theta} H(\theta) \Leftrightarrow arg \min \limits_{\theta} J(\theta)$argθmax​H(θ)⇔argθmin​J(θ) ， 即将极大似然函数等价于极小化代价函数。

这时可以发现，此时的极大化似然函数和最初的最小二乘损失函数的估计结果是等价的。但是要注意这两者只是恰好有着相同的表达结果，原理和出发点完全不同。

应用二：分类问题中极小化交叉熵 （极小化代价函数）

在分类问题中，交叉熵的本质就是似然函数的极大化，逻辑回归的假设函数为：
$h(x) =\hat y = \frac 1 {1+e^{-\theta^Tx + b}}$h(x)=y^​=1+e−θTx+b1​
根据之前学过的内容我们知道 $\hat y = p(y=1|x, \theta)$y^​=p(y=1∣x,θ) ，

当 $y=1$y=1 时，$p_1 = p(y = 1|x,\theta) = \hat y$p1​=p(y=1∣x,θ)=y^​

当 $y=0$y=0 时，$p_0 = p(y = 0|x,\theta) = 1- \hat y$p0​=p(y=0∣x,θ)=1−y^​

合并上面两式子，可以得到

$p(y|x,\theta) = \hat y^y(1- \hat y)^{1- y}$p(y∣x,θ)=y^​y(1−y^​)1−y $L(\theta) = \prod \limits _{i=1}^mp(y_i|x_i;\theta) = \prod \limits _{i=1}^m\hat y_i^{y_i}(1- \hat y_i)^{1- y_i}$L(θ)=i=1∏m​p(yi​∣xi​;θ)=i=1∏m​y^​iyi​​(1−y^​i​)1−yi​

$H(\theta) =\text{log}(L(\theta)) = \text{log}\prod \limits _{i=1}^m\hat y_i^{y_i}(1- \hat y_i)^{1- y_i} \\= \sum \limits _{i=1}^m \text{log}\ \hat y_i^{y_i}(1- \hat y_i)^{1- y_i} \\ =\sum \limits _{i=1}^m y_i\ \text{log}\ \hat y_i + (1-y_i)\ \text{log}\ (1 - \hat y_i)$H(θ)=log(L(θ))=logi=1∏m​y^​iyi​​(1−y^​i​)1−yi​=i=1∑m​log y^​iyi​​(1−y^​i​)1−yi​=i=1∑m​yi​ log y^​i​+(1−yi​) log (1−y^​i​)

令$J(\theta) = -H(\theta) = -\sum \limits _{i=1}^m y_i\ \text{log}\ \hat y_i + (1-y_i)\ \text{log}\ (1 - \hat y_i) 则 arg \max \limits_{\theta} H(\theta) \Leftrightarrow arg \min \limits_{\theta} J(\theta)$J(θ)=−H(θ)=−i=1∑m​yi​ log y^​i​+(1−yi​) log (1−y^​i​)则argθmax​H(θ)⇔argθmin​J(θ) ， 即将极大似然函数等价于极小化代价函数。

1.2 EM算法

1.2.1 问题描述

上面我们先假设学校所有学生的身高服从正态分布 $N(\mu,\sigma^2)$N(μ,σ2) 。实际情况并不是这样的，男生和女生分别服从两种不同的正态分布，即男生 $\in N(\mu_1, \sigma_1^2)$∈N(μ1​,σ12​) ，女生 $\in N(\mu_2, \sigma_2^2)$∈N(μ2​,σ22​) ，(注意：EM算法和极大似然估计的前提是一样的，都要假设数据总体的分布，如果不知道数据分布，是无法使用EM算法的)。那么该怎样评估学生的身高分布呢？

简单啊，我们可以随便抽 100 个男生和 100 个女生，将男生和女生分开，对他们单独进行极大似然估计。分别求出男生和女生的分布。

假如某些男生和某些女生好上了，纠缠起来了。咱们也不想那么残忍，硬把他们拉扯开。这时候，你从这 200 个人（的身高）里面随便给我指一个人（的身高），我都无法确定这个人（的身高）是男生（的身高）还是女生（的身高）。用数学的语言就是，抽取得到的每个样本都不知道是从哪个分布来的。那怎么办呢？

1.2.2 EM 算法

这个时候，对于每一个样本或者你抽取到的人，就有两个问题需要估计了，一是这个人是男的还是女的，二是男生和女生对应的身高的正态分布的参数是多少。这两个问题是相互依赖的：

当我们知道了每个人是男生还是女生，我们可以很容易利用极大似然对男女各自的身高的分布进行估计。

反过来，当我们知道了男女身高的分布参数我们才能知道每一个人更有可能是男生还是女生。例如我们已知男生的身高分布为 $N(\mu_1 = 172, \sigma^2_1=5^2)$N(μ1​=172,σ12​=52) ， 女生的身高分布为 $N(\mu_2 = 162, \sigma^2_2=5^2)$N(μ2​=162,σ22​=52) ， 一个学生的身高为180，我们可以推断出这个学生为男生的可能性更大。

但是现在我们既不知道每个学生是男生还是女生，也不知道男生和女生的身高分布。这就成了一个先有鸡还是先有蛋的问题了。鸡说，没有我，谁把你生出来的啊。蛋不服，说，没有我，你从哪蹦出来啊。为了解决这个你依赖我，我依赖你的循环依赖问题，总得有一方要先打破僵局，不管了，我先随便整一个值出来，看你怎么变，然后我再根据你的变化调整我的变化，然后如此迭代着不断互相推导，最终就会收敛到一个解。这就是EM算法的基本思想了。

EM的意思是“Expectation Maximization”，具体方法为：

• 先设定男生和女生的身高分布参数(初始值)，例如男生的身高分布为 N(\mu_1 = 172, \sigma^2_1=52) ，
  女生的身高分布为 N(\mu_2 = 162, \sigma^2_2=52) ，当然了，刚开始肯定没那么准；
• 然后计算出每个人更可能属于第一个还是第二个正态分布中的（例如，这个人的身高是180，那很明显，他极大可能属于男生），这个是属于Expectation一步；
• 我们已经大概地按上面的方法将这 200个人分为男生和女生两部分，我们就可以根据之前说的极大似然估计分别对男生和女生的身高分布参数进行估计（这不变成了极大似然估计了吗？极大即为Maximization）这步称为Maximization；
• 然后，当我们更新这两个分布的时候，每一个学生属于女生还是男生的概率又变了，那么我们就再需要调整E步；
• ……如此往复，直到参数基本不再发生变化或满足结束条件为止。

1.2.3 总结

上面的学生属于男生还是女生我们称之为隐含参数，女生和男生的身高分布参数称为模型参数。

EM 算法解决这个的思路是使用启发式的迭代方法，既然我们无法直接求出模型分布参数，那么我们可以先猜想隐含参数（EM 算法的 E 步），接着基于观察数据和猜测的隐含参数一起来极大化对数似然，求解我们的模型参数（EM算法的M步)。由于我们之前的隐含参数是猜测的，所以此时得到的模型参数一般还不是我们想要的结果。我们基于当前得到的模型参数，继续猜测隐含参数（EM算法的 E 步），然后继续极大化对数似然，求解我们的模型参数（EM算法的M步)。以此类推，不断的迭代下去，直到模型分布参数基本无变化，算法收敛，找到合适的模型参数。

一个最直观了解 EM 算法思路的是 K-Means 算法。在 K-Means 聚类时，每个聚类簇的质心是隐含数据。我们会假设 K 个初始化质心，即 EM 算法的 E 步；然后计算得到每个样本最近的质心，并把样本聚类到最近的这个质心，即 EM 算法的 M 步。重复这个 E 步和 M 步，直到质心不再变化为止，这样就完成了 K-Means 聚类。

2. EM算法推导

2.1 基础知识

2.1.1 凸函数

设是定义在实数域上的函数，如果对于任意的实数，都有：
$f'' \ge0$f′′≥0 那么是凸函数。若不是单个实数，而是由实数组成的向量，此时，如果函数的 Hesse 矩阵是半正定的，即
$H'' \ge 0$H′′≥0
是凸函数。特别地，如果 $f'' > 0$f′′>0 或者 $H'' > 0$H′′>0 ，称为严格凸函数。

2.1.2 Jensen不等式

如下图，如果函数 $f$f 是凸函数， $x$x 是随机变量，有 0.5 的概率是 $a$a，有 0.5 的概率是 $b$b， $x$x 的期望值就是 $a$a 和 $b$b 的中值了那么：
$E[f(x)] \ge f(E(x))$E[f(x)]≥f(E(x))
其中，$E[f(x)] = 0.5f(a) + 0.5 f(b)，f(E(x)) = f(0.5a + 0.5b)$E[f(x)]=0.5f(a)+0.5f(b)，f(E(x))=f(0.5a+0.5b) ，这里 $a$a和 $b$b 的权值为 0.5, $f(a)$f(a) 与 $a$a 的权值相等，$f(b)$f(b) 与 $b$b 的权值相等。

特别地，如果函数 f 是严格凸函数，当且仅当： $p(x = E(x)) = 1$p(x=E(x))=1 (即随机变量是常量) 时等号成立。

注：若函数 f 是凹函数，Jensen不等式符号相反。

2.1.3 期望

对于离散型随机变量 X 的概率分布为 $p_i = p\{X=x_i\}$pi​=p{X=xi​} ，数学期望 $E(X)$E(X) 为：
$E(X) = \sum \limits _i x_ip_i$E(X)=i∑​xi​pi​

$p_i$pi​ 是权值，满足两个条件 $p_i \ge 0，\sum \limits _i p_i = 1$pi​≥0，i∑​pi​=1 。

若连续型随机变量$X$X的概率密度函数为 $f(x)$f(x) ，则数学期望 $E(X)$E(X) 为：
$E(X) = \int _ {-\infty} ^{+\infty} xf(x) dx$E(X)=∫−∞+∞​xf(x)dx设 $Y = g(X)$Y=g(X)， 若 $X$X 是离散型随机变量，则：
$E(Y) = \sum \limits _i g(x_i)p_i$E(Y)=i∑​g(xi​)pi​若 X 是连续型随机变量，则：
$E(Y) = \int _ {-\infty} ^{+\infty} g(x)f(x) dx$E(Y)=∫−∞+∞​g(x)f(x)dx

2.2 EM算法的推导

对于 $m$m 个相互独立的样本 $x=(x^{(1)},x^{(2)},...x^{(m)})$x=(x(1),x(2),...x(m)) ，对应的隐含数据 $z=(z^{(1)},z^{(2)},...z^{(m)})$z=(z(1),z(2),...z(m)) ，此时 $(x,z)$(x,z) 即为完全数据，样本的模型参数为 $θ$θ , 则观察数据 $x^{(i)} 的概率为 P(x^{(i)}|\theta)$x(i)的概率为P(x(i)∣θ) ，完全数据 $(x^{(i)},z^{(i)})$(x(i),z(i)) 的似然函数为 $P(x^{(i)},z^{(i)}|\theta)$P(x(i),z(i)∣θ) 。

假如没有隐含变量 $z$z，我们仅需要找到合适的 $\theta$θ 极大化对数似然函数即可：
$\theta =arg \max \limits_{\theta}L(\theta) = arg \max \limits_{\theta}\sum\limits_{i=1}^m logP(x^{(i)}|\theta)$θ=argθmax​L(θ)=argθmax​i=1∑m​logP(x(i)∣θ)

增加隐含变量 $z$z 之后，我们的目标变成了找到合适的 $\theta$θ 和 $z$z 让对数似然函数极大：
$\theta, z = arg \max \limits_{\theta,z}L(\theta, z) = arg \max \limits_{\theta,z}\sum\limits_{i=1}^m log\sum\limits_{z^{(i)}}P(x^{(i)}， z^{(i)}|\theta)$θ,z=argθ,zmax​L(θ,z)=argθ,zmax​i=1∑m​logz(i)∑​P(x(i)，z(i)∣θ)

如果对分别对未知的 $\theta$θ 和 $z$z 分别求偏导，由于 $logP(x^{(i)}|\theta) 是 P(x^{(i)}， z^{(i)}|\theta)$logP(x(i)∣θ)是P(x(i)，z(i)∣θ) 边缘概率(建议没基础的同学网上搜一下边缘概率的概念)，转化为 $logP(x^{(i)}|\theta)$logP(x(i)∣θ) 求导后形式会非常复杂（可以想象下 $log(f_1(x)+ f_2(x)+…$log(f1​(x)+f2​(x)+…复合函数的求导) ，所以很难求解得到 $\theta$θ 和 $z$z 。那么我们想一下可不可以将加号从 $log$log 中提取出来呢？我们对这个式子进行缩放如下： $\sum\limits_{i=1}^m log\sum\limits_{z^{(i)}}P(x^{(i)}， z^{(i)}|\theta) \\ \ = \sum\limits_{i=1}^m log\sum\limits_{z^{(i)}}Q_i(z^{(i)})\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})} \tag{1}$i=1∑m​logz(i)∑​P(x(i)，z(i)∣θ) =i=1∑m​logz(i)∑​Qi​(z(i))Qi​(z(i))P(x(i)，z(i)∣θ)​(1) $\geq \sum\limits_{i=1}^m \sum\limits_{z^{(i)}}Q_i(z^{(i)})log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})} \tag{2}$≥i=1∑m​z(i)∑​Qi​(z(i))logQi​(z(i))P(x(i)，z(i)∣θ)​(2)

上面第$(1)$(1)式引入了一个未知的新的分布 $Q_i(z^{(i)})$Qi​(z(i))，满足：

$\sum \limits _z Q_i(z)=1,0 \le Q_i(z)\le 1$z∑​Qi​(z)=1,0≤Qi​(z)≤1 第$(2)$(2)式用到了 Jensen 不等式 (对数函数是凹函数)：
$log(E(y)) \ge E(log(y))$log(E(y))≥E(log(y)) 其中：
$E(y) = \sum\limits_i\lambda_iy_i, \lambda_i \geq 0, \sum\limits_i\lambda_i =1$E(y)=i∑​λi​yi​,λi​≥0,i∑​λi​=1

$y_i = \frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$yi​=Qi​(z(i))P(x(i)，z(i)∣θ)​

$\lambda_i = Q_i(z^{(i)})$λi​=Qi​(z(i))

也就是说 $\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$Qi​(z(i))P(x(i)，z(i)∣θ)​ 为第 i 个样本， $Q_i(z^{(i)})$Qi​(z(i)) 为第 i 个样本对应的权重，那么：

$E(log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}) = \sum\limits_{z^{(i)}}Q_i(z^{(i)})log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$E(logQi​(z(i))P(x(i)，z(i)∣θ)​)=z(i)∑​Qi​(z(i))logQi​(z(i))P(x(i)，z(i)∣θ)​

上式我实际上是我们构建了 $L(\theta, z)$L(θ,z) 的下界，我们发现实际上就是 $log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$logQi​(z(i))P(x(i)，z(i)∣θ)​ 的加权平均，由于上面讲过权值 $Q_i(z^{(i)})$Qi​(z(i)) 累积和为1，因此上式是 $log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$logQi​(z(i))P(x(i)，z(i)∣θ)​ 的期望，这就是Expectation的来历啦。下一步要做的就是寻找一个合适的 $Q_i(z)$Qi​(z) 最优化这个下界(M步)。

假设 $\theta$θ 已经给定，那么 $logL(\theta)$logL(θ) 的值就取决于$Q_i(z)$Qi​(z) 和 $p(x^{(i)},z^{(i)})$p(x(i),z(i)) 了。我们可以通过调整这两个概率使下界逼近 $logL(\theta)$logL(θ) 的真实值，当不等式变成等式时，说明我们调整后的下界能够等价于$logL(\theta)$logL(θ) 了。由 Jensen 不等式可知，等式成立的条件是随机变量是常数，则有： $\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})} =c$Qi​(z(i))P(x(i)，z(i)∣θ)​=c
其中 $c$c 为常数，对于任意 $i$i，我们得到：
${P(x^{(i)}， z^{(i)}|\theta)} =c{Q_i(z^{(i)})}$P(x(i)，z(i)∣θ)=cQi​(z(i))
方程两边同时累加和：
$\sum\limits_{z} {P(x^{(i)}， z^{(i)}|\theta)} = c\sum\limits_{z} {Q_i(z^{(i)})}$z∑​P(x(i)，z(i)∣θ)=cz∑​Qi​(z(i))
由于 $\sum\limits_{z}Q_i(z^{(i)}) =1$z∑​Qi​(z(i))=1。 从上面两式，我们可以得到：
$\sum\limits_{z} {P(x^{(i)}， z^{(i)}|\theta)} = c$z∑​P(x(i)，z(i)∣θ)=c

$Q_i(z^{(i)}) = \frac{P(x^{(i)}， z^{(i)}|\theta)}{c} = \frac{P(x^{(i)}， z^{(i)}|\theta)}{\sum\limits_{z}P(x^{(i)}， z^{(i)}|\theta)} = \frac{P(x^{(i)}， z^{(i)}|\theta)}{P(x^{(i)}|\theta)} = P( z^{(i)}|x^{(i)}，\theta)$Qi​(z(i))=cP(x(i)，z(i)∣θ)​=z∑​P(x(i)，z(i)∣θ)P(x(i)，z(i)∣θ)​=P(x(i)∣θ)P(x(i)，z(i)∣θ)​=P(z(i)∣x(i)，θ)

其中：

边缘概率公式： $P(x^{(i)}|\theta) = \sum\limits_{z}P(x^{(i)}， z^{(i)}|\theta)$P(x(i)∣θ)=z∑​P(x(i)，z(i)∣θ)

条件概率公式： $\frac{P(x^{(i)}， z^{(i)}|\theta)}{P(x^{(i)}|\theta)} = P( z^{(i)}|x^{(i)}，\theta)$P(x(i)∣θ)P(x(i)，z(i)∣θ)​=P(z(i)∣x(i)，θ)

从上式可以发现 $Q(z)$Q(z)是已知样本和模型参数下的隐变量分布。

如果 $Q_i(z^{(i)}) = P( z^{(i)}|x^{(i)}，\theta))$Qi​(z(i))=P(z(i)∣x(i)，θ)) , 则第 $(2)$(2)式是我们的包含隐藏数据的对数似然的一个下界。如果我们能极大化这个下界，则也在尝试极大化我们的对数似然。即我们需要极大化下式： $arg \max \limits_{\theta} \sum\limits_{i=1}^m \sum\limits_{z^{(i)}}Q_i(z^{(i)})log\frac{P(x^{(i)}， z^{(i)}|\theta)}{Q_i(z^{(i)})}$argθmax​i=1∑m​z(i)∑​Qi​(z(i))logQi​(z(i))P(x(i)，z(i)∣θ)​

至此，我们推出了在固定参数 $\theta后分布 Q_i(z^{(i)})$θ后分布Qi​(z(i)) 的选择问题， 从而建立了 $logL(\theta)$logL(θ) 的下界，这是 E 步，接下来的M 步骤就是固定 $Q_i(z^{(i)})$Qi​(z(i)) 后，调整$\theta$θ，去极大化$logL(\theta)$logL(θ)的下界。

去掉上式中常数的部分$Q_i(z^{(i)})$Qi​(z(i)) ，则我们需要极大化的对数似然下界为：
$arg \max \limits_{\theta} \sum\limits_{i=1}^m \sum\limits_{z^{(i)}}Q_i(z^{(i)})log{P(x^{(i)}， z^{(i)}|\theta)}$argθmax​i=1∑m​z(i)∑​Qi​(z(i))logP(x(i)，z(i)∣θ)

2.3 EM算法流程

现在我们总结下EM算法的流程。

输入：观察数据$x=(x^{(1)},x^{(2)},...x^{(m)})$x=(x(1),x(2),...x(m))，联合分布$p(x,z |\theta)$p(x,z∣θ) ，条件分布 $p(z|x, \theta)$p(z∣x,θ)， 极大迭代次数 $J$J。

1. 随机初始化模型参数 $\theta$θ 的初值 $\theta^0$θ0

2. $\text{for j from 1 to J}：$for j from 1 to J：

• E步：计算联合分布的条件概率期望： $Q_i(z^{(i)}) := P( z^{(i)}|x^{(i)}，\theta))$Qi​(z(i)):=P(z(i)∣x(i)，θ))
• M步：极大化 $L(\theta)$L(θ) ,得到 $\theta :$θ: $\theta : = arg \max \limits_{\theta}\sum\limits_{i=1}^m\sum\limits_{z^{(i)}}Q_i(z^{(i)})log{P(x^{(i)}， z^{(i)}|\theta)}$θ:=argθmax​i=1∑m​z(i)∑​Qi​(z(i))logP(x(i)，z(i)∣θ)

重复E、M步骤直到 $\theta$θ 收敛
输出：模型参数 $\theta$θ

2.4 EM算法另一种理解

坐标上升法（Coordinate ascent）(类似于梯度下降法，梯度下降法的目的是最小化代价函数，坐标上升法的目的是最大化似然函数；梯度下降每一个循环仅仅更新模型参数就可以了，EM算法每一个循环既需要更新隐含参数和也需要更新模型参数，梯度下降和坐标上升的详细分析参见攀登传统机器学习的珠峰-SVM (下))：

图中的直线式迭代优化的路径，可以看到每一步都会向最优值前进一步，而且前进路线是平行于坐标轴的，因为每一步只优化一个变量。

这犹如在$x-y$x−y坐标系中找一个曲线的极值，然而曲线函数不能直接求导，因此什么梯度下降方法就不适用了。但固定一个变量后，另外一个可以通过求导得到，因此可以使用坐标上升法，一次固定一个变量，对另外的求极值，最后逐步逼近极值。对应到EM上，E步：固定 $θ$θ，优化$Q$Q；M步：固定 $Q$Q，优化 $θ$θ；交替将极值推向极大。

2.5 EM算法的收敛性思考

EM算法的流程并不复杂，但是还有两个问题需要我们思考：

1） EM算法能保证收敛吗？

2） EM算法如果收敛，那么能保证收敛到全局极大值吗？

首先我们来看第一个问题, EM 算法的收敛性。要证明 EM 算法收敛，则我们需要证明我们的对数似然函数的值在迭代的过程中一直在增大。即：
$\sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j+1}) \geq \sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j})$i=1∑m​logP(x(i)∣θj+1)≥i=1∑m​logP(x(i)∣θj)由于：
$L(\theta, \theta^{j}) = \sum\limits_{i=1}^m\sum\limits_{z^{(i)}}P( z^{(i)}|x^{(i)}，\theta^{j}))log{P(x^{(i)}， z^{(i)}|\theta)}$L(θ,θj)=i=1∑m​z(i)∑​P(z(i)∣x(i)，θj))logP(x(i)，z(i)∣θ)令：
$H(\theta, \theta^{j}) = \sum\limits_{i=1}^m\sum\limits_{z^{(i)}}P( z^{(i)}|x^{(i)}，\theta^{j}))log{P( z^{(i)}|x^{(i)}，\theta)}$H(θ,θj)=i=1∑m​z(i)∑​P(z(i)∣x(i)，θj))logP(z(i)∣x(i)，θ)上两式相减得到：
$\sum\limits_{i=1}^m logP(x^{(i)}|\theta) = L(\theta, \theta^{j}) - H(\theta, \theta^{j})$i=1∑m​logP(x(i)∣θ)=L(θ,θj)−H(θ,θj)在上式中分别取 $θ$θ 为 $θ^j 和 θ^{j+1}$θj和θj+1，并相减得到：
$\sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j+1}) - \sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j}) = [L(\theta^{j+1}, \theta^{j}) - L(\theta^{j}, \theta^{j}) ] -[H(\theta^{j+1}, \theta^{j}) - H(\theta^{j}, \theta^{j}) ]$i=1∑m​logP(x(i)∣θj+1)−i=1∑m​logP(x(i)∣θj)=[L(θj+1,θj)−L(θj,θj)]−[H(θj+1,θj)−H(θj,θj)]要证明EM算法的收敛性，我们只需要证明上式的右边是非负的即可。

由于$θ^{j+1}$θj+1使得$L(θ,θ^j)$L(θ,θj)极大，因此有：

$L(\theta^{j+1}, \theta^{j}) - L(\theta^{j}, \theta^{j}) \geq 0$L(θj+1,θj)−L(θj,θj)≥0而对于第二部分，我们有：

KaTeX parse error: Expected 'EOF', got '&' at position 57: …}, \theta^{j}) &̲ = \sum\limits_…

其中第$（4）$（4）式用到了Jensen不等式，只不过和第二节的使用相反而已，第$（5）$（5）式用到了概率分布累积为1的性质。

至此，我们得到了：$\sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j+1}) - \sum\limits_{i=1}^m logP(x^{(i)}|\theta^{j}) \geq 0$i=1∑m​logP(x(i)∣θj+1)−i=1∑m​logP(x(i)∣θj)≥0 ，证明了EM算法的收敛性。

从上面的推导可以看出，EM 算法可以保证收敛到一个稳定点，但是却不能保证收敛到全局的极大值点，因此它是局部最优的算法，当然，如果我们的优化目标 $L(θ,θ^j)$L(θ,θj) 是凸的，则EM算法可以保证收敛到全局极大值，这点和梯度下降法这样的迭代算法相同。至此我们也回答了上面提到的第二个问题。

2.6. EM算法应用

如果我们从算法思想的角度来思考EM算法，我们可以发现我们的算法里已知的是观察数据，未知的是隐含数据和模型参数，在E步，我们所做的事情是固定模型参数的值，优化隐含数据的分布，而在M步，我们所做的事情是固定隐含数据分布，优化模型参数的值。EM的应用包括：

• 支持向量机的SMO算法
• 混合高斯模型
• K-means
• 隐马尔可夫模型

3. EM算法案例-两硬币模型

假设有两枚硬币A、B，以相同的概率随机选择一个硬币，进行如下的掷硬币实验：共做 5 次实验，每次实验独立的掷十次，结果如图中 a 所示，例如某次实验产生了H、T、T、T、H、H、T、H、T、H (H代表正面朝上)。a 是在知道每次选择的是A还是B的情况下进行，b是在不知道选择的是A还是B的情况下进行，问如何估计两个硬币正面出现的概率？

CASE a

已知每个实验选择的是硬币A 还是硬币 B，重点是如何计算输出的概率分布，这其实也是极大似然求导所得。
$\underset{\theta }{argmax}logP(Y|\theta) = log((\theta_B^5(1-\theta_B)^5) (\theta_A^9(1-\theta_A))(\theta_A^8(1-\theta_A)^2) (\theta_B^4(1-\theta_B)^6) (\theta_A^7(1-\theta_A)^3) ) \\ = log[(\theta_A^{24}(1-\theta_A)^6) (\theta_B^9(1-\theta_B)^{11}) ]$θargmax​logP(Y∣θ)=log((θB5​(1−θB​)5)(θA9​(1−θA​))(θA8​(1−θA​)2)(θB4​(1−θB​)6)(θA7​(1−θA​)3))=log[(θA24​(1−θA​)6)(θB9​(1−θB​)11)]上面这个式子求导之后发现，5 次实验中A正面向上的次数再除以总次数作为即为 $\hatθ_A$θ^A​ ，5次实验中B正面向上的次数再除以总次数作为即为 ，即:

$\hat{\theta}_A = \frac{24 }{24+6} = 0.80$θ^A​=24+624​=0.80$\hat{\theta}_B = \frac{9}{ 9 + 11} = 0.45$θ^B​=9+119​=0.45CASE b

由于并不知道选择的是硬币 A 还是硬币 B，因此采用EM算法。

E步：初始化$\hat θ_A^{(0)} = 0.60$θ^A(0)​=0.60和 $\hat θ_B^{(0)} = 0.50$θ^B(0)​=0.50 ，计算每个实验中选择的硬币是 A 和 B 的概率，例如第一个实验中选择 A 的概率为：

$P(z=A|y_1, \theta) = \frac {P(z=A, y_1|\theta)}{P(z=A,y_1|\theta) + P(z=B,y_1|\theta)} = \frac{(0.6)^5*(0.4)^5}{(0.6)^5*(0.4)^5+(0.5)^{10}} = 0.45$P(z=A∣y1​,θ)=P(z=A,y1​∣θ)+P(z=B,y1​∣θ)P(z=A,y1​∣θ)​=(0.6)5∗(0.4)5+(0.5)10(0.6)5∗(0.4)5​=0.45$P(z=B|y_1, \theta) = 1- P(z=A|y_1, \theta) = 0.55$P(z=B∣y1​,θ)=1−P(z=A∣y1​,θ)=0.55

计算出每个实验为硬币 A 和硬币 B 的概率，然后进行加权求和。

M步：求出似然函数下界 $Q(\theta, \theta^i)$Q(θ,θi)， $y_j$yj​代表第 $j$j次实验正面朝上的个数，$\mu_j$μj​ 代表第 $j$j 次实验选择硬币 A 的概率，$1-\mu_j$1−μj​ 代表第 $j$j 次实验选择硬币B的概率 。

$Q(\theta, \theta^i) = \sum_{j=1}^5\sum_{z} P(z|y_j, \theta^i)logP(y_j, z|\theta)\\=\sum_{j=1}^5 \mu_jlog(\theta_A^{y_j}(1-\theta_A)^{10-y_j}) + (1-\mu_j)log(\theta_B^{y_j}(1-\theta_B)^{10-y_j})$Q(θ,θi)=j=1∑5​z∑​P(z∣yj​,θi)logP(yj​,z∣θ)=j=1∑5​μj​log(θAyj​​(1−θA​)10−yj​)+(1−μj​)log(θByj​​(1−θB​)10−yj​)

针对L函数求导来对参数求导，例如对 $θ_A$θA​求导：

$\frac{\partial Q}{\partial \theta_A} = \mu_1(\frac{y_1}{\theta_A}-\frac{10-y_1}{1-\theta_A}) + \cdot \cdot \cdot + \mu_5(\frac{y_5}{\theta_A}-\frac{10-y_5}{1-\theta_A}) = \mu_1(\frac{y_1 - 10\theta_A} {\theta_A(1-\theta_A)}) + \cdot \cdot \cdot +\mu_5(\frac{y_5 - 10\theta_A} {\theta_A(1-\theta_A)}) \\ = \frac{\sum_{j=1}^5 \mu_jy_j - \sum_{j=1}^510\mu_j\theta_A} {\theta_A(1-\theta_A)}$∂θA​∂Q​=μ1​(θA​y1​​−1−θA​10−y1​​)+⋅⋅⋅+μ5​(θA​y5​​−1−θA​10−y5​​)=μ1​(θA​(1−θA​)y1​−10θA​​)+⋅⋅⋅+μ5​(θA​(1−θA​)y5​−10θA​​)=θA​(1−θA​)∑j=15​μj​yj​−∑j=15​10μj​θA​​

求导等于 0 之后就可得到图中的第一次迭代之后的参数值:

$\hat{\theta}_A^{(1)} = 0.71$θ^A(1)​=0.71$\hat{\theta}_B^{(1)} = 0.58$θ^B(1)​=0.58

当然，基于Case a 我们也可以用一种更简单的方法求得：

$\hat{\theta}_A^{(1)} = \frac{21.3}{21.3+8.6} = 0.71$θ^A(1)​=21.3+8.621.3​=0.71$\hat{\theta}_B^{(1)} = \frac{11.7}{ 11.7 + 8.4} = 0.58$θ^B(1)​=11.7+8.411.7​=0.58第二轮迭代：基于第一轮EM计算好的 $\hat{\theta}_A^{(1)}, \hat{\theta}_B^{(1)}$θ^A(1)​,θ^B(1)​ , 进行第二轮 EM，计算每个实验中选择的硬币是 A 和 B 的概率（E步），然后在计算M步，如此继续迭代…迭代十步之后 $\hat{\theta}_A^{(10)} = 0.8, \hat{\theta}_B^{(10)} = 0.52$θ^A(10)​=0.8,θ^B(10)​=0.52