EM算法-Jensen不等式

凸函数定义

EM算法-Jensen不等式是定义在区间EM算法-Jensen不等式 = [a, b]上的实值函数。如果对于任意的EM算法-Jensen不等式EM算法-Jensen不等式,下列式子成立,则称EM算法-Jensen不等式EM算法-Jensen不等式上的凸函数。

                                                   EM算法-Jensen不等式

如果上述不等式为小于,则为严格凸。

图示:

EM算法-Jensen不等式

 

【定理】Jensen不等式

EM算法-Jensen不等式是定义在区间EM算法-Jensen不等式 = [a, b]上的实值函数。对于任意的EM算法-Jensen不等式, 下列不等式恒成立,

                                                    EM算法-Jensen不等式

证明

当n=1和2时,明显成立。

接下来利用数学归纳法进一步证明。假设对于某个n来说,上述定理成立,则对于n+1来说

EM算法-Jensen不等式

                         EM算法-Jensen不等式

证明完毕。