概率图模型、原理与技术(3):贝叶斯网表示

       目标是在某个随机变量的集合X={X1, ..., Xn}上表示联合分布P。即使在变量为二值,n个变量的联合分布也需要2^n-1个数字的2^n个不同赋值的概率。

3.1 独立性性质的利用

     条件参数化确实为更复杂分布的紧凑表示奠定了基础。

     朴素贝叶斯模型:假设所有的事例属于若干两两互斥且包含所有事例情况的类中的一个。

概率图模型、原理与技术(3):贝叶斯网表示

    贝叶斯网语义:贝叶斯网不必限制其分布的表示必须满足朴素贝叶斯模型所隐含的强独立性假设。其核心是一个有向无圈图(DAG)

概率图模型、原理与技术(3):贝叶斯网表示

3.3 图中的独立性

        d-分离算法:用d-分离的概念可以简单地通过检测G的连通性来推断在G上因子分解的分布P的独立性。

       I-等价:

3.4 从分布到图

概率图模型、原理与技术(3):贝叶斯网表示

P-map*