协方差矩阵与pca

参考协方差矩阵的物理意义:https://blog.csdn.net/guyuealian/article/details/68922981

协方差矩阵与pca

一维的正态分布,方差表示分布的离散程度。如上图右下角子图。

二维正态分布,如果协方差矩阵为协方差矩阵与pca,表示两个维度的向量分布分别沿着x轴和y轴,且相互垂直,则分别求出x数据集和y数据集的方差就是协方差矩阵的特征值,进而可以表示二维数据的分布。

如果二维数据分布不是沿着x和y轴,则协方差矩阵的特征值仍然可以表示分布在两个正交方向的最大和最小离散程度,特征向量就是这两个方向向量。