机器学习-Logistic Regression(李宏毅机器学习学习笔记)

    Logistic Regression 是一种线性回归模型,通过sigmoid函数,它的输出值只有0和1.我以李宏毅大师的讲解对Logistic Regreesion笔记总结和学习。

Three Steps

  Step 1:Function Set

        机器学习-Logistic Regression(李宏毅机器学习学习笔记)

逻辑回归主要使用sigmoid函数,将输入的值进行非线性转换(神经网络也是类似操作),将输出值映射到0-1,可以进行等效于概率。

下图为具体的函数形象解释

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

step2:确定参数的方法

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

确定logistic Regression 的参数就是最大化L(w,b)的值,使得在输入x的情况下,C1类别的概率达到最大值,如果C1类别的概率在训练集取得最大值,则说明w,b为最优解。

接下来对目标函数进行转换,转换方法如下:

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

求最大值的问题可以转换为求最小值的问题。

step3:求最优参数的具体方法

1.

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

2.机器学习-Logistic Regression(李宏毅机器学习学习笔记)


3.机器学习-Logistic Regression(李宏毅机器学习学习笔记)    逻辑回归与线性回归的对比

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

    同时对比了Cross Entropy 和Square Error的效果

机器学习-Logistic Regression(李宏毅机器学习学习笔记)

从图中我们可以看出square Error存在梯度消失的问题,而Cross Entropy随着预测值和真实值大小变化而变化,可以更快的去拟合,达到最优解