贝叶斯概率

贝叶斯定理(Bayes' theorem):

                                              贝叶斯概率

贝叶斯定理中的分母可以用出现在分子中的项表示:

                                               贝叶斯概率

可以把贝叶斯定理的分母看做归一化常数,用来确保公式左侧的条件概率对于所有 的Y 的取值之和为1。

 

贝叶斯概率

在观察到数据之前,我们有 一些关于参数w的假设,这以先验概率p(w)的形式给出。观测数据D = {t1, . . . , tN }的效果可以
通过条件概率p(D | w)表达。贝叶斯定理的形 式为:
                                                          贝叶斯概率
它让我们能够通过后验概率p(w | D),在观测到D之后估计w的不确定性。贝叶斯定理右侧的量p(D | w)由观测数据集D来估计,可以被看成参数向量w的函数,被称为似然函数(likelihood function)。它表达了在不同的参数向量w下,观测数据出现的可能性的
大小。注意,似然函数不是w的概率分布,并且它关于w的积分并不(一定)等于1。