机器学习中求协方差矩阵的方法是什么

本篇内容介绍了“机器学习中求协方差矩阵的方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

1. 协方差定义

X、Y 是两个随机变量,X、Y 的协方差 cov(X, Y) 定义为:

机器学习中求协方差矩阵的方法是什么

其中:

机器学习中求协方差矩阵的方法是什么 、机器学习中求协方差矩阵的方法是什么

2. 协方差矩阵定义

矩阵中的数据按行排列与按列排列求出的协方差矩阵是不同的,这里默认数据是按行排列。即每一行是一个observation(or sample),那么每一列就是一个随机变量。

机器学习中求协方差矩阵的方法是什么

协方差矩阵:

机器学习中求协方差矩阵的方法是什么

协方差矩阵的维度等于随机变量的个数,即每一个 observation 的维度。在某些场合前边也会出现 1 / m,而不是 1 / (m - 1).

3. 求解协方差矩阵的步骤

举个例子,矩阵 X 按行排列:

机器学习中求协方差矩阵的方法是什么

1. 求每个维度的平均值

机器学习中求协方差矩阵的方法是什么

2. 将 X 的每一列减去平均值

机器学习中求协方差矩阵的方法是什么

其中:

机器学习中求协方差矩阵的方法是什么

3. 计算协方差矩阵

机器学习中求协方差矩阵的方法是什么

注意:

有时候在书上或者网上会看到这样的公式,协方差矩阵 Σ:

机器学习中求协方差矩阵的方法是什么

这里之所以会是 X * X' 是因为原始数据集 X 是按列排列的,即:

机器学习中求协方差矩阵的方法是什么

“机器学习中求协方差矩阵的方法是什么”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注网站,小编将为大家输出更多高质量的实用文章!