玻尔兹曼机的平均场推断
玻尔兹曼机的平均场推断
写在文章开头
本篇文章将从马尔可夫随机场(Markov Random Field)的角度讲述玻尔兹曼机(Boltzmann Machine)，读者在阅读这篇文章之前需要具备一定概率图模型的知识、变分推断以及配分函数的知识。另外如果对配分函数和变分推断不太熟悉的读者可以参考本篇文章的参考文献。为图方便，本篇文章本人起初是写在了word上，然后用带水印的pdf转换器将pdf文件转换成了图片，因此文章的呈现会以我在word上推导的截图为主，希望大家见谅。文章中我提出了许多我还不太明白的问题以及我个人的理解(橙色字体)，欢迎大家思考并指正错误与不足。
玻尔兹曼机的介绍
玻尔兹曼机的ln似然梯度
基于MCMC的随机梯度上升
平均场推断
总结
这篇文章文章漏洞百出，急切希望大家指出我的错误。总之，感谢您的阅读。
参考文献
变分推断基本公式推导
变分推断基本公式推导[ 附有马尔可夫毯的简单介绍 ]
变分推断进阶学习
配分函数详析[ 附有受限玻尔兹曼机的参数学习问题求解方法 ]