彻底理解softmax

原文

1、Logistic(对数几率回归)

1.1、形式

彻底理解softmax

1.2、损失函数

彻底理解softmax

1.3、求导

彻底理解softmax

2、softmax

2.1、讲解

cs231n中,对softmax可以有一个非常好的认识,但是对具体求导一带而过,只说很简单。。。下面先摘抄cs231n上关于softmax的描述,再进行推导。
彻底理解softmax

2.2、推导

下面介绍推导过程。可以参考这篇文章
彻底理解softmax