机器学习中的矩阵向量求导(一) 求导定义与求导布局

【参考文献】:
[1] 机器学习中的矩阵向量求导(一) 求导定义与求导布局
[2] 矩阵求导术(上)[知乎]
[3] 矩阵求导术(下)[知乎]

在之前写的上百篇机器学习博客中,不时会使用矩阵向量求导的方法来简化公式推演,但是并没有系统性的进行过讲解,因此让很多朋友迷惑矩阵向量求导的具体过程为什么会是这样的。这里准备用几篇博文来讨论下机器学习中的矩阵向量求导,今天是第一篇。

本系列主要参考文献为*的Matrix Caculas和张贤达的《矩阵分析与应用》。
机器学习中的矩阵向量求导(一) 求导定义与求导布局

机器学习中的矩阵向量求导(一) 求导定义与求导布局

机器学习中的矩阵向量求导(一) 求导定义与求导布局

机器学习中的矩阵向量求导(一) 求导定义与求导布局

机器学习中的矩阵向量求导(一) 求导定义与求导布局