您的位置: 首页 > 文章 > 机器学习——EM算法 机器学习——EM算法 分类: 文章 • 2022-10-28 08:51:46 机器学习——EM算法 EM算法 EM算法提出 EM算法理论推导 EM算法实践(GMM模型) E步 M步 EM算法 EM算法提出 假定有训练集{x(1),...,x(m)x^{(1)},...,x^{(m)}x(1),...,x(m)}, 包含m个独立样本,希望从中找到该组数据的模型p(x,z)的参数 EM算法理论推导 EM算法实践(GMM模型) 随机变量X是由K个高斯分布混合而成, 取各个高斯分布的概率为ϕ1,...,ϕK\phi_1,...,\phi_Kϕ1,...,ϕK, 第 i 个高斯分布的均值为μi\mu_iμi, 方差为Σi\Sigma_iΣi, 若观测到随机变量X的一系列样本x1,...,xnx_1,...,x_nx1,...,xn, 试估计参数ϕ,μ,Σ\phi, \mu, \Sigmaϕ,μ,Σ. E步 wj(i):=Qi(z(i)=j)=P(z(i)=j∣x(i);ϕ,μ,Σ)w_j^{(i)}:=Q_i(z^{(i)}=j)=P(z^{(i)}=j|x^{(i)};\phi,\mu, \Sigma)wj(i):=Qi(z(i)=j)=P(z(i)=j∣x(i);ϕ,μ,Σ) M步
