一个例子搞懂条件概率、先验概率、后验概率、全概率公式和贝叶斯公式
一、例子
这个例子是从网上看到的，感觉非常典型。可以用它来理解条件概率、先后验概率、全概率公式和贝叶斯公式，非常划算。
大概是一个这样的问题：有一个信号的发射端和接收端。发射端只发射A、B两种信号，其中发射信号A的概率为0.6，发射信号B的概率为0.4。当发射信号A时，接收端接收到信号A的概率是0.9，接收到信号B的概率是0.1。当发射信号B时，接收端接收到信号B的概率为0.8，接收到信号A的概率为0.2。求当接收到信号A时，发射信号为A的概率。
这是一道非常简单的题目，当你看完问题后，你可能已经知道要如何计算，但是本文的重点不是在解这道题目，而是介绍这些概念。
二、数学符号表示
发射信号为A的概率：
发射信号为B的概率：
发射信号A时，接收到信号A的概率：
发射信号A时，接收到信号B的概率：
发射信号B时，接收到信号B的概率：
发射信号B时，接收到信号A的概率：
接收到信号A时，发射信号为A的概率：
三、条件概率
（1）
含义：当条件B成立时，事件A发生的概率。等于事件AB同时发生的概率除以事件B发生的概率。
第二节
中的数学符号除了前两个，其余都是条件概率
四、先验概率
这里的发射信号A的概率和发射信号B的概率
，虽然没详细叙述怎么得到的，但是可以猜测出这是根据一些先前的观测或者经验得到的。这种概率在这里被称为先验概率。
五、后验概率
后验概率是指在得到一些观测信息后，某事件发生的概率。
这个例子，接收到信号A时，发射信号为A的概率：就是个后验概率。就是当已知发射的结果“接收到信号”后，发射信号A的概率。这已与不知道接收到什么信号时发射信号A的概率不同了，当不知道接收到什么信号时，发射A的概率就是先验概率
。
下面我们可以开始对这个问题进行推导了：由于后验概率通常是个条件概率，因此根据式（1）调用两次得
（2）
现在分子是发射信号A时接收到信号A的概率；
是发射A的概率，这两个已知。若想求分母就要用到全概率公式了。
六、全概率公式
全概率公式为：
（3）
，其中且
。可以认为事件
为对全概率“1”的一个划分。这也是全概率公式名称的由来。条件概率可以将一个概率转化为在一个已知的全概率划分下的条件概率
与这个全概率划分
的内积（内积含义同向量内积，不懂的话百度吧）。
发射信号A的概率和发射信号B的概率
是全概率“1”的一个划分，因为只可能发射这两种信号。我们用全概率公式（3），对（2）式的分母进行分解，得到
（4）
可以理解为，接收到一个信号为A的概率=发射信号A且发射信号A时接收到信号A+发射信号B且发射信号B时接收到信号A。
现在分母的各项也是已知的了，将（4）带入（2）中就可以求解这个后验概率：
（5）
其实这个问题就算出来了，但同时这也引出了本文的最后一个问题：贝叶斯公式
七、贝叶斯公式
贝叶斯公式表示为：
（6）
与全概率公式一样，为对全概率“1”的一个划分。贝叶斯公式常用于求解后验概率。
这与（5）式有着相同的形式。其实我们本题推导的思路就是贝叶斯公式推导的思路。我们可以把（5）式后验概率的求解理解成：接收到信号A时可能是发射信号A且接收到信号A，或者发射了信号B且接收到信号A，而其中只有前者符合所求概率的条件。因此接收到一个信号A时发射的信号也是A的概率=发射了一个信号A的概率发射信号A时接收到信号A的概率
（发射了一个信号A的概率
发射信号A时接收到信号A的概率+发射一个信号B的概率
发射信号B时接收到信号）
与（5）式类似。贝叶斯公式的理解为：B发生时，可能全概率的划分A1、A2、...、An都会发生。当B发生时Ai发生的概率=Ai发生的概率Ai发生时B发生的概率
求和k（Ak发生的概率
Ak发生时B发生的概率）。
贝叶斯公式的特点就是能够通过先验概率和条件概率求后验概率，在许多场合都会用到。不过贝叶斯公式其实刚开始总是不太好理解，需要借助前面通过条件概率和全概率公式的推导来理解。这种例子碰到得多了应该能更加熟练。