线性代数及其应用 | 第六章 正交性和最小二乘法
第六章正交性和最小二乘法
6.1 内积、长度和正交性
内积：
定理1：内积性质
长度：向量的长度的平方=自身与自身的内积
向量的距离
注：向量减法，减向量指向被减向量
正交向量
定理2：勾股定理
正交补
定理3：矩阵行向量空间和列向量空间的正交补
6.2 正交集
正交向量集
定理4：正交向量集的线性无关性
正交基
定理5：正交基下计算系数
正交投影
单位正交集 单位正交基
定理6 单位正交基矩阵的性质
定理7：长度不变性 内积不变性
6.3 正交投影
定理8：正交分解定理
正交投影的几何意义
定理9：最佳逼近定理 正交投影的性质
定理10：基为单位正交基时的简化形式
6.4 格拉姆-施密特方法：构造正交基或标准正交基的算法
定理11：格拉姆-施密特方法
依次减去在已经构造好的正交基上的投影向量，最终张成的空间却不变。标准正交基只需要单位化所有v。
矩阵的QR分解
Col是A的列向量所张成的空间。为了得到Q，常常需要对A左乘一系列正交矩阵（由格拉姆，施密特方法构造得出）得到一个上三角矩阵（Q），这个过程类似于A左乘一系列初等矩阵最后得到A的LU分解。