Chapter3:线性代数回顾:AndrewNg吴恩达《机器学习》笔记
Chapter 3 线性代数回顾
3.1 矩阵和向量
- 图1:
-
图2:
-
图3:我们通常使用1-indexed vector,有些情况下会换成 0-indexed。
-
通常 用 A,B,C,D 等大写英文字母表示矩阵,a,b,x,y 小写字母表示数字、标量、向量等。
3.2 加法和标量乘法
矩阵的加法:行列数相等的可以加。
矩阵的乘法:每个元素都要乘
组合算法也类似。
3.3 矩阵向量乘法
矩阵和向量的乘法如图:的矩阵乘以的向量,得到的是的向量
算法举例:
3.4 矩阵乘法
矩阵乘以矩阵,变成矩阵。
如果这样说不好理解的话就举一个例子来说明一下,比如说现在有两个矩阵和,那么它们的乘积就可以表示为图中所示的形式。
3.5 矩阵乘法的性质
矩阵乘法的性质:
矩阵的乘法不满足交换律:
矩阵的乘法满足结合律。即:
单位矩阵:在矩阵的乘法中,有一种矩阵起着特殊的作用,如同数的乘法中的1,我们称这种矩阵为单位矩阵.它是个方阵,一般用 或者 表示,本讲义都用 代表单位矩阵,从左上角到右下角的对角线(称为主对角线)上的元素均为1以外全都为0。如:
对于单位矩阵,有
3.6 逆、转置
- 矩阵的逆:如矩阵是一个矩阵(方阵),如果有逆矩阵,则:
我们一般在OCTAVE或者MATLAB中进行计算矩阵的逆矩阵。
-
矩阵的转置:设为阶矩阵(即行列),第$i j a(i,j)A=a(i,j)An×mB$:
满足,即 (的第行第列元素是的第行第列元素),记。(有些书记为A’=B)
直观来看,将的所有元素绕着一条从第1行第1列元素出发的右下方45度的射线作镜面反转,即得到的转置。
例:
- 矩阵的转置基本性质:
$ {{\left( A\pm B \right)}{T}}={{A}{T}}\pm {{B}^{T}} $ ${{\left( {{A}^{T}} \right)}^{T}}=A $ ${{\left( KA \right)}{T}}=K{{A}{T}} $
MATLAB中矩阵转置:直接打一撇,x=y'
。