分类之逻辑斯蒂回归
逻辑斯蒂回归Logistic Regression LR
逻辑斯蒂回归是在线性回归模型的基础上，使用阶跃函数对线性模型进行分类，及将线性模型的输出值套上一个函数进行分割，大于z的判定为0，小于z的判定为1，例如：使用sigmoid函数，将线性模型wTx的结果压缩到[0,1]之间，使其拥有概率意义，其本质仍然是一个线性模型，实现相对简单。
设X是连续随机变量，X服从逻辑斯蒂分布是指X具有下列分布函数和密度函数
密度函数与分布函数如下图所示，与高斯分布相似，当u=0，s=1时，逻辑斯蒂分布的概率分布函数（累计密度函数）就是sigmoid函数
二项逻辑斯蒂回归模型
二项逻辑斯蒂回归模型是如下的条件概率分布：
对于给定的输入实例，分别计算6.3和6.4分别
求上述两式，比较两个条件概率值的大小，将实例x分到概率值较大的那一类