机器学习笔记1

一、机器学习的概念
机器学习就是对计算机一部分数据进行学习，然后对另外一些数据进行预测与判断。机器学习的核心是“使用算法解析数据，从中学习，然后对新数据做出决定或预测”。也就是说计算机利用已获取的数据得出某一模型，然后利用此模型进行预测的一种方法。

二、学习体系：

Q1：你想构建什么样的模型
Regression：输出是一个数值
Binary Classification:输出是YES/NO
Multi-class classification：输出是class1、class2、…、classN（事先定好N个选项，让机器做选择题）作业：CNN作业
Generation（生成）：产生有结构的复杂东西（如文句、图片）即让机器学会创造。作业：Seq2seq（翻译，产生文句）、GAN（画图，产生二次元人物）。
Q2：怎么告诉机器你想构建什么样的模型？
Supervised learning：训练数据为有标签数据（labeled data）
Reinforcement （结果即reward引导机器学习的方向）v.s. supervised(告诉机器正确答案)
supervised需要告诉机器正确答案即训练数据有标签；Reinforcement 以结果即reward（反馈）作为引导机器学习的方向
Unsupervised learning（训练数据没有标签或标签一致）
模型的loss值用于机器评估模型的好坏 ，loss越低越好。
Q3：机器如何构建你想要的模型
（1）给定函式寻找范围 linear /network architecture（RNN\CNN）
（2）函式的寻找方法 Gradient Descent implement the algorithm by self/deep learning framework (pytorch)
三、相关前沿
1.Explainable AI：解释产生结果的理由。
2.Adversarial attack：面对恶意攻击模型的应对。
3.Network compression：
4.Anomaly detection：让机器知道自己不知道即无法判断时产生相应反馈。
5.Transfer learning（domain adversarial learning）训练数据和测试数据不同时的应对。
6.Meta learning：让机器学习如何学习即让机器自己设计自己的算法因为目前很多算法效率不高，我们希望机器变得聪明一些。
7.Life-long learning/ continuous learning/ never ending learning /incremental learning