逻辑斯蒂回归LR与sigmoid函数
〇、参考（搬运）
0.1 一文弄懂logistic回归为什么要用sigmoid函数
0.2 为什么 LR 模型要使用 sigmoid 函数，背后的数学原理是什么？
0.3 逻辑回归为什么用Sigmoid？
一、逻辑斯蒂回归LR（摘自《统计学习方法》）
1.1 二项逻辑回归
一个事件发生的几率是指事件发生的概率与不发生的概率的比值。即，如果发生的概率为p，那么该事件的对数几率为：
整理带入后：
这就是说，在逻辑回归模型中，输出Y=1的对数几率是输入的线性函数。
1.2 模型参数估计
二、为什么使用sigmoid函数
2.1 先验知识
2.1.1 指数族分布
2.1.2 伯努利分布
2.1.3 高斯分布
2.1.4 广义线性模型GLM
2.2 广义线性模型角度
由上可以知道，伯努利分布属于指数族分布，再依据广义线性模型的后两个假设条件可以得到：
这里有一个二分类问题的假设——因变量（分类标签值y）服从伯努利分布。
2.3 贝叶斯判别角度
假设二分类服从伯努利分布，类条件概率假设服从高斯分布：
则在贝叶斯判别中，最大化后验概率：