详解概率图模型——概述
详解概率图模型——概述
详解概率图模型——概述
概率图
概览
有向图 vs. 无向图
有向图
对于有向图模型,这么求联合概率:
举个例子,对于下面的这个有向图的随机变量
应该这样表示他们的联合概率:
贝叶斯网络:有向图模型
贝叶斯网络的一个典型案例是所谓的「学生网络(student network)」:
上图描述了某个学生注册某个大学课程的设定。该图中有 5 个随机变量:
该图中的边编码了这些变量之间的依赖关系。
无向图
对于无向图,我看资料一般就指马尔科夫网络
马尔可夫网络:无向图模型
为了简洁地说明,我们只探讨这个抽象的图,其中的节点 ABCDE 不像上面的例子有直接的真实案例对应。同样,这些边表示变量之间的相互作用。我们可以看到 A 和 B 彼此之间有直接的影响关系,而 A 和 C 之间则没有。
注意马尔可夫网络不需要是无环的,这一点和贝叶斯网络不一样。
判别式(discriminative)模型 and 生成式(generative)模型
在监督学习下,模型可以分为判别式模型与生成式模型。
A批模型(神经网络模型、SVM、perceptron、LR、DT……)与B批模型(NB、LDA……),的区别是什么?