吴恩达知识记录:梳理
梯度下降:
成本函数(代价函数)中含有参数w,b
更新权重公式,α表示学习率,用来控制梯度下降的步伐。
成本函数公式:损失函数之和取平均
ai是训练集输出的预测值=sigmoid(zi)
**函数:
relu的缺点在于:z为负数时候,导数为0.
sigmoid:用在二元分类的输出层。
梯度下降:
成本函数(代价函数)中含有参数w,b
更新权重公式,α表示学习率,用来控制梯度下降的步伐。
成本函数公式:损失函数之和取平均
ai是训练集输出的预测值=sigmoid(zi)
**函数:
relu的缺点在于:z为负数时候,导数为0.
sigmoid:用在二元分类的输出层。