深度学习(一) 相关介绍

一:机器学习总括:

(正在完善中。。。。。)

类别 常见算法  
监督学习:分类 决策树(DT)  
临近取样(KNN)
支持向量机(SVM)
神经网络算法(NN)
监督学习:回归 线性回归()
非线性回归
非监督学习 聚类
   
   
   

二、机器学习相关概念

1. 线性回归

深度学习(一) 相关介绍

其中x是矩阵,

深度学习(一) 相关介绍

1).独立,认为各个样本之间是没有关联的。

2) 高斯分布,用高斯分布来描述预测结果,小于0认为是低于,大于0认为是高于。

3) 均值为0,y=wx+b,这里b是可控的,可以通过调整y来,来使左右分布均衡。

4) 方差是可以自己指定的

深度学习(一) 相关介绍

深度学习(一) 相关介绍

累乘比较麻烦,取对数转为加法,方便计算(对数似然)。

深度学习(一) 相关介绍

把累成换成累加,最后J()称为目标函数,即最小二乘法。所以最小二乘法就是要求的目标。

深度学习(一) 相关介绍

具体带入求解。一般是求不出来。就出来最优化问题。