Pytorch入门深度学习(1)——初识人工智能AI

一、什么是AI?

通过学习掌握某种技能的机器。
1)AI的本质:特征提取
2)AI的分类
发展阶段:弱人工智能——强人工智能——超人工智能
智能方式:计算智能(计算器)——感知智能——认知智能
学习方式:全监督(标签与数据一致)、半监督(大量数据少量标签)、无监督
学习结果:判别模型(分类(区分人)、回归(框住人))、生成模型
技术学科:统计学(SVM、决策树、KNN等)、仿生学(神经网络、进化算法等)
应用场景:图像、语言、自然语言处理、强化学习(自动化)
学习阶段:端到端学习、非端到端学习
学术流派:连接主义(如深度学习,连起来,一层的输出当做下一层的输入)、
符号主义(图神经网络,知识图谱,边到边,点到点)、
行为主义(强化学习,如自动驾驶、下棋,做了事情给一个评价,方向盘向左打有没有问题)

二、深度学习

——什么是深度学习(与神经网络的关系)
使用人工神经网络完成人工智能任务的学习方法。

三、神经网络简介

Pytorch入门深度学习(1)——初识人工智能AI
树突(有粗有细):接受外界信息——权重w,偏置b
细胞核:处理信息:非线性**
轴突:输出到下一个神经元
突触:连接多个树突
人工神经网络的问题:只能层与层相连,层内无法连接,所以无法解决多任务问题,而人类的神经元是按刺激随机连接的
人类神经元数量:900-1000亿,3岁的时候神经元数量最多,处理问题与神经元之间的有效连接有关系
猫、狗神经元数量:30-50亿

四、感知机模型

Pytorch入门深度学习(1)——初识人工智能AI
h = wx+b
样本、输入、输出、净输出、**、前向、后向
净输出:函数**后转化成0~1之间的数,代替概率。
**:非线性**函数
前向:输入到输出
后向:做损失,传给h,传w,b
损失函数:均方差(y-y’)^2
过程:减小损失,得到合适的w,b(二次函数求最小值)
多个单层感知机模型—>>多层感知机(前向传播,反向传播)
Pytorch入门深度学习(1)——初识人工智能AI
图:多层感知机

五、线性可分与不可分

f(wx+b)=y

Pytorch入门深度学习(1)——初识人工智能AI
线性可分:一条直线可以分开的
Pytorch入门深度学习(1)——初识人工智能AI
线性不可分:一条直线分不开的

可以用①多条直线可以分开②曲线分③升维
0维(标量):点,只有大小没有方向
1维(向量):线,有大小有方向
2维(矩阵):面
3维(张量):空间

六、**函数

1)Sigmoid
Pytorch入门深度学习(1)——初识人工智能AI
Pytorch入门深度学习(1)——初识人工智能AI
Pytorch入门深度学习(1)——初识人工智能AI
值域(0,1),定义域(-∞ ,+∞)
做为**函数:连续的一组值,只能改变数据分布范围,但不能改变数据的个数(不常用,两边会饱和)
作为输出函数:输出一个值,作为概率
2)tanh
Pytorch入门深度学习(1)——初识人工智能AI
Pytorch入门深度学习(1)——初识人工智能AI
Pytorch入门深度学习(1)——初识人工智能AI
值域(-1,1),定义域(-∞ ,+∞)
数据处理到(-1,1)
作为**函数:比sigmoid梯度更好,更利于损失收敛
作为输出函数:输出值是(-1,1),输出的是数据特征,如符合标准正太分布的数据,用在生成模型中,分布更好一些

七、机器学习的过程(有监督)

1.前向计算
Pytorch入门深度学习(1)——初识人工智能AI
2.定义损失函数
Pytorch入门深度学习(1)——初识人工智能AI
3.后向计算
Pytorch入门深度学习(1)——初识人工智能AI
4.修改权重
Pytorch入门深度学习(1)——初识人工智能AI

八、**函数的作用和性质

1)作用
提供非线性能力;
增强鲁棒性;
2)性质
处处可微分;
定义域负无穷到正无穷;
定义域在(-1,1)之间的函数图像梯度很大,而在其他地方梯度很小。

博主自己总结的xmind,有错误大家可以指正一下。
Pytorch入门深度学习(1)——初识人工智能AI