您的位置: 首页  >  文章  >  机器学习——LDA

机器学习——LDA

分类: 文章 • 2023-03-28 16:51:56

步骤：

1 计算类内散度矩阵机器学习——LDA

2 计算类间散度矩阵机器学习——LDA

3 计算矩阵机器学习——LDA

4 计算矩阵机器学习——LDA的最大值的d个特征值

5 计算d个特征值对应的d个特征向量，计算投影矩阵为W

6 输出新样本集机器学习——LDA={(p1,y1),(p2,y2)...(pm,ym)}

具体推导：

定义：

机器学习——LDA j 类样本个数       机器学习——LDA j 类样本集合        机器学习——LDA j 类样本均值  机器学习——LDA j 类协方差矩阵

机器学习——LDA 均值             机器学习——LDA 协方差矩阵

主要目标思想：1 最大化类别的数据中心距离   机器学习——LDA

                         2 最小化同类样本的协方差   机器学习——LDA

类内散度：机器学习——LDA

类间散度：机器学习——LDA

优化目标：J（w）=机器学习——LDA

求导 =>机器学习——LDA   (注释：机器学习——LDA与机器学习——LDA为标量)

        =>  机器学习——LDA

这就转化成一个求取特征值与特征向量的问题，可以利用SVD分解

将得到的

计算矩阵机器学习——LDA的最大值的d个特征值

计算d个特征值对应的d个特征向量，计算投影矩阵为W

输出新样本集机器学习——LDA={(p1,y1),(p2,y2)...(pm,ym)}

对于多分类相似，不再赘述，可参考:https://zhuanlan.zhihu.com/p/27899927

 

机器学习——LDA

 

 

相关推荐