初识机器学习,深度学习,强化学习
初识机器学习,深度学习,强化学习
机器学习(ML)
传统的机器学习技术在预测中发挥了重要的作用,经过发展形成了丰富的模型结构,例如:
1.线性回归。
2.逻辑回归。
3.决策树。
4.支持向量机。
5.贝叶斯模型。
6.正则化模型。
7.模型集成(ensemble)。
8.神经网络。
这些预测模型中的每一个都基于特定的算法结构,参数都是可调的。
训练预测模型涉及以下步骤:
- 选择一个模型结构(例如逻辑回归,随机森林等)。
- 用训练数据(输入和输出)输入模型。
- 学习算法将输出最优模型(即具有使训练错误最小化的特定参数的模型)。
每种模式都有自己的特点,在一些任务中表现不错,但在其他方面表现不佳。但总的来说,我们可以把它们分成低功耗(简单)模型和高功耗(复杂)模型。选择不同的模型是一个非常棘手的问题。
由于以下原因,使用低功率/简单模型是优于使用高功率/复杂模型:
-
在我们拥有强大的处理能力之前,训练高功率模型将需要很长的时间。
-
在我们拥有大量数据之前,训练高功率模型会导致过度拟合问题(因为高功率模型具有丰富的参数并且可以适应广泛的数据形状,所以我们最终可能训练一个适合于特定到当前的训练数据,而不是推广到足以对未来的数据做好预测)。
然而,选择一个低功率的模型会遇到所谓的“欠拟合”的问题,模型结构太简单,如果它复杂,就无法适应训练数据。(想象一下,基础数据有一个二次方关系:y = 5 * x ^ 2;你无法适应线性回归:y = a * x + b,不管我们选择什么样的a和b。
为了缓解“不适合的问题”,数据科学家通常会运用他们的“领域知识”来提出“输入特征”,这与输出关系更为直接。(例如,返回二次关系y = 5 * square(x),如果创建了一个特征z = x ^ 2,则可以拟合线性回归:y = a * z + b,通过选择a = 5和b = 0)。
机器学习的主要障碍是特征工程这个步骤,这需要领域专家在进入训练过程之前就要找到非常重要的特征。特征工程步骤是要靠手动完成的,而且需要大量领域专业知识,因此它成为当今大多数机器学习任务的主要瓶颈。
换句话说,如果我们没有足够的处理能力和足够的数据,那么我们必须使用低功耗/更简单的模型,这就需要我们花费大量的时间和精力来创建合适的输入特征。这是大多数数据科学家今天花时间去做的地方。
深度学习(DL):神经网络的回归
表1深度学习模型的特点和适用范围
深度学习是机器学习的一种,主要是DNN(深度神经网络),由他演变成了很多网络拓扑结构,有CNN(卷积神经网络),RNN(递归神经网络)。LSTM(长短期记忆),GAN(生成敌对网络),转移学习。
所有这些模型统称为深度学习。
相比传统机器学习的优势:它可以自动通过每一层产生适当的特征,最后提供一个非常好的预测,极大消除了寻找“特征工程”的麻烦。
深度学习应用领域 图像,文本,语音
- 引用
链接:https://www.zhihu.com/question/57770020/answer/34 - 表格引用
链接https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637310072817981250&DBCODE=CJFQ&TABLEName=CJFDLAST2019&FileName=DHJY201902012&RESULT=1&SIGN=ok6H7%2fb9LcwKJh87x8GrNFgv87Y%3d
强化学习:
是一个自学习系统关键组成部分是如何模仿一个人学习,通过反复试验学习。通过有限次执行行动以得到最佳结果,比如训练一只狗学会开门,通过引导狗来开门从而给予它行为的反馈,当狗正确的去打开门我们就反馈给他一个奖励,当不是我们就不给予奖励。强化学习也是如此,通过尝试不同的行为,从反馈中学习该行为是否能够得到更好的结果,然后将能得到好结果的行为记住。规范点说就是计算机在多次迭代中自主地重新修正算法,直到能做出正确的判断为止。
深度学习和强化学习的区别
它们都是自主学习系统
深度学习从训练集集中学习,通过学习到的知识应用于新数据集,是静态学习。
强化学习是通过连续反馈调整自身动作获得最优结果,是不断试错的过程,是动态学习。
两者联系:,深度学习+强化学习=AI
可以在强化学习系统中使用深度学习