详解概率图模型——概述

详解概率图模型——概述

概率图

概览

详解概率图模型——概述

有向图 vs. 无向图

有向图

对于有向图模型,这么求联合概率:
详解概率图模型——概述

举个例子,对于下面的这个有向图的随机变量
详解概率图模型——概述
应该这样表示他们的联合概率:

详解概率图模型——概述
贝叶斯网络:有向图模型
贝叶斯网络的一个典型案例是所谓的「学生网络(student network)」:
详解概率图模型——概述
上图描述了某个学生注册某个大学课程的设定。该图中有 5 个随机变量:
详解概率图模型——概述
该图中的边编码了这些变量之间的依赖关系。
详解概率图模型——概述

无向图

对于无向图,我看资料一般就指马尔科夫网络详解概率图模型——概述
马尔可夫网络:无向图模型
详解概率图模型——概述
为了简洁地说明,我们只探讨这个抽象的图,其中的节点 ABCDE 不像上面的例子有直接的真实案例对应。同样,这些边表示变量之间的相互作用。我们可以看到 A 和 B 彼此之间有直接的影响关系,而 A 和 C 之间则没有。

注意马尔可夫网络不需要是无环的,这一点和贝叶斯网络不一样。

判别式(discriminative)模型 and 生成式(generative)模型

在监督学习下,模型可以分为判别式模型与生成式模型。

A批模型(神经网络模型、SVM、perceptron、LR、DT……)与B批模型(NB、LDA……),的区别是什么?
详解概率图模型——概述

判别式模型

详解概率图模型——概述

生成式模型

详解概率图模型——概述