机器学习基础之PCA-协方差矩阵
基础：https://www.zybuluo.com/mdeditor#1468315-full-reader
协方差
covariance, correlation & linear regression are closely related.
covariance解释和测量linear relationship的方向，correlation解释linear relationship的大小
covariance为正，表示向同一方向move
求解协方差矩阵的步骤
矩阵X由三个向量构成，（x1, y1）, (x2, y2), (x3, y3)。
(x1, y1, z1)
(x2, y2, z2)
求每个维度的平均值。
将 X 的每一列减去平均值。
（x1 - mu）,(y1 - mu), (z1 - mu)
（x2 - mu）, (y2 - mu), (z2 - mu)
2 * 3
计算协方差矩阵。
（x1 - mu）,（x2 - mu）
(y1 - mu), (y2 - mu)
(z1 - mu), (z2 - mu)
3 * 2