斯坦福CS224n NLP课程【一】
NLP和深度学习入门
什么是NLP?
该课程主要讲述了句法分析以及语义理解 稍微涉及音素分析
NLP的应用:机器翻译、对话机器人、回答问题
人类语言的特殊性 连续、符号形式、不基于逻辑或者ai 变换形式多样
但是我们需要去探索出一个有关想法的连续编码模式,但是机器学习会产生一个问题就是-sparsity 稀疏性
所以需要使用深度学习
什么是深度学习?
梳理下机器学习与深度学习的关系 深度学习是机器学习的子领域 之前的机器学习基于人观察出来的特征做数值优化最后进行判断并没有真正学
机器学习与深度学习的对比
深度学习可以说是表征学习,表征学习是指我们只用输入原始数据,电脑就会自动得出好的中介表征,以便完成任务
深度学习的突破首先在于语音识别、视觉上
NLP为什么很难?
自然语言没有规则,多义性
Deep NLP = Deep Learning + NLP 结合表征学习和深度学习进行处理nlp中的各种问题。
可视化vector 2D投影 将高维投影到低维 便于理解
nlp的表征:形态学
nlp的工具:得到句子的结构
得到语义的表达也就是句子的含义
最后提到了vector,无论是句子、单词还是声音都是基于vector,而且它是可以变形变成一个矩阵或更高阶的陈列,称之为张量(tensor)。它的不同部分或不同方向代表不同的信息,是非常灵活的数据结构,具有强大的表达能力。