李航-《统计学习方法》第三章“朴素贝叶斯法”读书笔记
第三章 朴素贝叶斯法
朴素贝叶斯法是通过学习输入和输出的联合分布,对给定的输入,根据贝叶斯理论求出后验概率最大的输出的方法。是一种生成学习方法
4.1.朴素贝叶斯算法的学习与分类
4.1.1.基本方法
4.1.2.后验概率最大化的含义
朴素贝叶斯将实例分到后验概率最大的类中,这等价于期望风险最下化。
4.2.朴素贝叶斯算法的参数估计
4.2.1.极大似然估计
朴素贝叶斯可使用极大似然估计,即认为在条件下已经出现最多的实例是概率最大的。
4.2.2.学习分类与算法
4.2.3.贝叶斯估计
使用极大似然会出现要顾及的概率值为0的情况,会影响到后验概率的计算结果(因为后验概率要除以的概率,此概率不能为0),使分类产生偏差,可使用贝叶斯估计解决。