初识机器学习，深度学习，强化学习

机器学习（ML）

传统的机器学习技术在预测中发挥了重要的作用，经过发展形成了丰富的模型结构，例如：
1.线性回归。
2.逻辑回归。
3.决策树。
4.支持向量机。
5.贝叶斯模型。
6.正则化模型。
7.模型集成（ensemble）。
8.神经网络。
这些预测模型中的每一个都基于特定的算法结构，参数都是可调的。
训练预测模型涉及以下步骤：

1. 选择一个模型结构（例如逻辑回归，随机森林等）。
2. 用训练数据（输入和输出）输入模型。
3. 学习算法将输出最优模型（即具有使训练错误最小化的特定参数的模型）。
   每种模式都有自己的特点，在一些任务中表现不错，但在其他方面表现不佳。但总的来说，我们可以把它们分成低功耗（简单）模型和高功耗（复杂）模型。选择不同的模型是一个非常棘手的问题。

由于以下原因，使用低功率/简单模型是优于使用高功率/复杂模型：

• 在我们拥有强大的处理能力之前，训练高功率模型将需要很长的时间。

• 在我们拥有大量数据之前，训练高功率模型会导致过度拟合问题（因为高功率模型具有丰富的参数并且可以适应广泛的数据形状，所以我们最终可能训练一个适合于特定到当前的训练数据，而不是推广到足以对未来的数据做好预测）。

然而，选择一个低功率的模型会遇到所谓的“欠拟合”的问题，模型结构太简单，如果它复杂，就无法适应训练数据。（想象一下，基础数据有一个二次方关系：y = 5 * x ^ 2;你无法适应线性回归：y = a * x + b，不管我们选择什么样的a和b。

为了缓解“不适合的问题”，数据科学家通常会运用他们的“领域知识”来提出“输入特征”，这与输出关系更为直接。（例如，返回二次关系y = 5 * square（x），如果创建了一个特征z = x ^ 2，则可以拟合线性回归：y = a * z + b，通过选择a = 5和b = 0）。

机器学习的主要障碍是特征工程这个步骤，这需要领域专家在进入训练过程之前就要找到非常重要的特征。特征工程步骤是要靠手动完成的，而且需要大量领域专业知识，因此它成为当今大多数机器学习任务的主要瓶颈。

换句话说，如果我们没有足够的处理能力和足够的数据，那么我们必须使用低功耗/更简单的模型，这就需要我们花费大量的时间和精力来创建合适的输入特征。这是大多数数据科学家今天花时间去做的地方。

深度学习（DL）：神经网络的回归

表1深度学习模型的特点和适用范围

深度学习是机器学习的一种，主要是DNN（深度神经网络），由他演变成了很多网络拓扑结构，有CNN（卷积神经网络），RNN（递归神经网络）。LSTM（长短期记忆），GAN（生成敌对网络），转移学习。
所有这些模型统称为深度学习。

相比传统机器学习的优势：它可以自动通过每一层产生适当的特征，最后提供一个非常好的预测，极大消除了寻找“特征工程”的麻烦。

深度学习应用领域 图像，文本，语音

• 引用
  链接：https://www.zhihu.com/question/57770020/answer/34
• 表格引用
  链接https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637310072817981250&DBCODE=CJFQ&TABLEName=CJFDLAST2019&FileName=DHJY201902012&RESULT=1&SIGN=ok6H7%2fb9LcwKJh87x8GrNFgv87Y%3d

强化学习：

是一个自学习系统关键组成部分是如何模仿一个人学习，通过反复试验学习。通过有限次执行行动以得到最佳结果，比如训练一只狗学会开门，通过引导狗来开门从而给予它行为的反馈，当狗正确的去打开门我们就反馈给他一个奖励，当不是我们就不给予奖励。强化学习也是如此，通过尝试不同的行为，从反馈中学习该行为是否能够得到更好的结果，然后将能得到好结果的行为记住。规范点说就是计算机在多次迭代中自主地重新修正算法，直到能做出正确的判断为止。

深度学习和强化学习的区别

它们都是自主学习系统
深度学习从训练集集中学习，通过学习到的知识应用于新数据集，是静态学习。
强化学习是通过连续反馈调整自身动作获得最优结果，是不断试错的过程，是动态学习。

两者联系：，深度学习+强化学习=AI

可以在强化学习系统中使用深度学习