[李宏毅-机器学习]分类classification

分类: 文章 • 2024-01-01 08:06:22

生成式模型

[李宏毅-机器学习]分类classification

每个类别内部的分布假设为高斯分布

使用likelihood计算高斯分布的参数

[李宏毅-机器学习]分类classification

使用微分可以求解

[李宏毅-机器学习]分类classification

高斯分布中的方差，不同类别可以共享一个，减少参数量

[李宏毅-机器学习]分类classification

共享方差会得到线性的boundary

如果不考虑特征之间的关系，即方差只有对角线，则为Naive Bayes classification，即特征独立分布

先验分布可以推出来sigmoid function

[李宏毅-机器学习]分类classification

这解释了为什么共用方差会得到线性boundary