AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

最大似然函数→就是连乘最大→就是求解取log求和最大→就是求J(θ)最小。在求损失函数/目标函数最小的时候我甚至都不需要知道决定正太分布形状的两个参数均值和方差。

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

假如你的数据集不符合正态分布,而符合均匀分布/泊松分布,那么就是由均匀分布或是泊松分布的概率密度函数对应推到出最大似然函数,或是最小损失函数,或是最小目标函数。基于正态分布、均匀分布、泊松分布的线性回归。

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

--23分钟

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

 

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

解析解(直接解答)只是一种方法,但是在实际机器学习工作的时候,用的最多的还是试,试的最重要的方法是随机梯度下降!

以下是总结:

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解

证明是凸函数,面试和工作的时候用的很少!!!留给数学大神搞吧。。。

AI_02_线性回归深入和代码实现_05_推导出损失函数_推导出解析解