线性代数及其应用 | 第六章 正交性和最小二乘法
第六章正交性和最小二乘法
6.1 内积、长度和正交性
内积:
定理1:内积性质
长度:向量的长度的平方=自身与自身的内积
向量的距离
注:向量减法,减向量指向被减向量
正交向量
定理2:勾股定理
正交补
定理3:矩阵行向量空间和列向量空间的正交补
6.2 正交集
正交向量集
定理4:正交向量集的线性无关性
正交基
定理5:正交基下计算系数
正交投影
单位正交集 单位正交基
定理6 单位正交基矩阵的性质
定理7:长度不变性 内积不变性
6.3 正交投影
定理8:正交分解定理
正交投影的几何意义
定理9:最佳逼近定理 正交投影的性质
定理10:基为单位正交基时的简化形式
6.4 格拉姆-施密特方法:构造正交基或标准正交基的算法
定理11:格拉姆-施密特方法
依次减去在已经构造好的正交基上的投影向量,最终张成的空间却不变。标准正交基只需要单位化所有v。
矩阵的QR分解
Col是A的列向量所张成的空间。为了得到Q,常常需要对A左乘一系列正交矩阵(由格拉姆,施密特方法构造得出)得到一个上三角矩阵(Q),这个过程类似于A左乘一系列初等矩阵最后得到A的LU分解。