图解机器学习笔记(五)

L1约束

 

 

为了加快学习的速度,我们可以通过将某些学习参数置零达到这个效果,例如,我们可以使用L1约束。

L1约束即:

 

 

图解机器学习笔记(五)

图解机器学习笔记(五)

求解:

 

 

图解机器学习笔记(五)

因为在这里的绝对值函数的缘故,所以不能把微分项置0,但是通过近似操作,可以得到:

 

 

图解机器学习笔记(五)

最后解法:

 

 

图解机器学习笔记(五)