深度学习(一) 相关介绍
一:机器学习总括:
(正在完善中。。。。。)
类别 | 常见算法 | |
监督学习:分类 | 决策树(DT) | |
临近取样(KNN) | ||
支持向量机(SVM) | ||
神经网络算法(NN) | ||
监督学习:回归 | 线性回归() | |
非线性回归 | ||
非监督学习 | 聚类 | |
二、机器学习相关概念
1. 线性回归
其中x是矩阵,
1).独立,认为各个样本之间是没有关联的。
2) 高斯分布,用高斯分布来描述预测结果,小于0认为是低于,大于0认为是高于。
3) 均值为0,y=wx+b,这里b是可控的,可以通过调整y来,来使左右分布均衡。
4) 方差是可以自己指定的
累乘比较麻烦,取对数转为加法,方便计算(对数似然)。
把累成换成累加,最后J()称为目标函数,即最小二乘法。所以最小二乘法就是要求的目标。
具体带入求解。一般是求不出来。就出来最优化问题。