logistic function

logistic function
Net input function:
Z=logistic function
sigmoid function:
A=logistic function
Quantizer: logistic function

逻辑回归不但预测出了事件所属类别,还能计算出事件发生的概率
通过平方和误差来学习逻辑回归损失函数:
logistic function

逻辑回归损失函数推导:
logistic function

不同类样本对应的损失函数图像:
logistic function

如果准确将一个正样本预测为1,那么正样本对应的loss趋近于0,同样,如果准确将一个负样本预测为0,那么负样本对应loss也趋近于0,如果预测是错误的,那么loss会朝着无穷大趋近。所以用一个逐渐增大的cost来对预测错误的情况进行惩罚