二阶优化方法
1、正定矩阵
正定矩阵的特征值全部大于0，负定矩阵的特征值全部小于0，半正定矩阵的特征值大于等于0，半负定矩阵的特征值小于等于0，这些都叫做定型矩阵。
但是我们求特征值的时候还经常遇到一个矩阵的几个特征值既有＞0，又有＜0，还有可能=0，这样的特征值既有正又有负又有0的矩阵就都叫做不定型的矩阵，也就是不定矩阵。
2、雅可比矩阵
在向量分析中, 雅可比矩阵是一阶偏导数以一定方式排列成的矩阵, 其行列式称为雅可比行列式。
3、海森Hessian矩阵
在数学中, 海森矩阵(Hessian matrix或Hessian)是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵, 此函数如下：
4、牛顿法
泰勒展开式如下：
参考文章：
https://www.cnblogs.com/wangyarui/p/6407604.html
https://blog.****.net/Im_Chenxi/article/details/80546742