前言

本博客目前阶段记录的数学相关的知识，是为了学习机器学习而准备的，所以可以很明显的感觉到数学的实用性和数学的魅力。但从另一侧面来说，本博客记录的数学知识是不完整的，也是不成体系的，也没有深挖相关知识的来龙去脉，只是本人觉得机器学习中需要某些数学知识的时候，就记这些知识，够用就可以了。所以，并不适合入门。

虽然如此，我想本博客数学方面的相关内容最起码能起一个方向作用（因为当年我开始学习机器学习相关的数学基础时很茫然），让读者知道哪些数学基础是学习机器学习时非先掌握不可的，这样才能有的放矢的去查漏补缺，并学以致用。

函数极限

函数的极限看书上的描述，再结合图形，多做练习就差不多了。
函数的极限分两种情况：一种是自变量趋于有限值时函数的极限；另一种是自变量趋于无穷大时函数的极限。

自变量趋于有限值时函数的极限

从数列极限到函数极限的过渡可参考同济第7版P27$P_{27}$函数的极限一节的描述，辅助理解函数的极限。这里仅列出其定义。

定义1 设函数f(x)$f(x)$在点x0$x_0$的某一去心邻域内有定义。如果存在常数A$A$，对于任意给定的正数ε$\epsilon$(不论它有多小)，总存在正数δ$\delta$，使得当x$x$满足不等式0<|x−x0|<δ$0<|x-x_0|<\delta$时，对应的函数值f(x)$f(x)$都满足不等式

那么常用A$A$就叫做函数f(x)$f(x)$当x→x0$x\to x_0$时的极限，记作

书中特别强调，0<|x−x0|$0<|x-x_0|$表示 x≠x0$x\ne x_0$,所以x→x0$x\to x_0$时f(x)$f(x)$有没有极限，与f(x)$f(x)$在点x0$x_0$是否有定义并没有关系。

定义1可简单表述为:

limx→x0f(x)=A⇔∀ε>0,∃δ>0,当0<|x−x0|<δ时，有|f(x)−A|<ε$\underset{x\to x_0}{lim}f(x)=A\iff \mathrm{\forall }\epsilon >0,\mathrm{\exists }\delta >0,当0<|x-x_0|<\delta 时，有|f(x)-A|<\epsilon$

在x→x0$x\to x_0$的过程中，对应的函数值f(x)$f(x)$无限接近于A$A$，就是|f(x)−A|$|f(x)-A|$能任意小。而|f(x)−A|$|f(x)-A|$能任意小可以用|f(x)−A|<ε$|f(x)-A|<\epsilon$来表达。而充分接近于x0$x_0$的x$x$可表达为0<|x−x0|<δ$0<|x-x_0|<\delta$

函数f(x)$f(x)$当x→x0$x\to x_0$时极限为A的几何解释如下 （这个几何解释也是不得不看的，可以辅助理解自变量趋于有限值时函数的极限）：任意给定一个正数ε$\epsilon$,作平行于x$x$轴的两条直线y=A+ε$y=A+\epsilon$和y=A−ε$y=A-\epsilon$，界于这两条直线之间是一横条区域。根据定义，对于给定的ε$\epsilon$,存在着点x0$x_0$的一个δ$\delta$邻域(x0−δ,x0+δ)$(x_0-\delta ,x_0+\delta )$，当y=f(x)$y=f(x)$的图形上的点的横坐标x$x$在邻域(x0−δ,x0+δ)$(x_0-\delta ,x_0+\delta )$内，但x≠x0$x\ne x_0$时，这些点的纵坐标f(x)$f(x)$满足不等式

或

也就是这些点都落在所有的横条区域内。结合图1-23再去看定义就很好理解了。

要完全掌握该定义，需要多做些极限的证明，可参考书上P28$P_{28}$开始的例子。

自变量趋于无穷大时函数的极限

定义2 设函数f(x)$f(x)$当|x|$|x|$大于某一正数时有定义。如果存在常数A$A$，对于任意给定的正数ε$\epsilon$(无论它有多么小)，总存在正数X$X$,使得当x$x$满足不等式|x|>X$|x|>X$时，对应的函数值f(x)$f(x)$都满足不等式

那么常数A$A$就叫做函数f(x)$f(x)$当x→∞$x\to \mathrm{\infty }$时的极限，记作

limx→∞f(x)=A$\underset{x\to \mathrm{\infty }}{lim}f(x)=A$的几何意义是：作直线y=A−ε$y=A-\epsilon$和y=A+ε$y=A+\epsilon$,则总有一个正数X$X$存在，使得当x<−X$x<-X$或x>X$x>X$时，函数y=f(x)$y=f(x)$的图形位于这两条直线之间。这时，直线y=A$y=A$是函数y=f(x)$y=f(x)$的图形的水平渐近线。

函数的极限的概念非常重要，需要深刻理解和掌握。