凸优化----基础知识点:集合部分

一 集合:

具有某种特定性质的具体的或抽象的对象汇总成的集体。比如整数集合:{…,-1,0,1,…}用Z表示;偶数的集合:{x|x=2n,n∈Z},(满足能被2整除的整数的集合)。能被2整除的整数就是偶数集合具有的特定性质。

二 仿射集合:

从上面的集合定义我们已经知道,满足某种特定性质的对象而汇总成的叫集合。那么如果一个集合里面的元素满足:

θx1+(1-θ)x2∈C,x1,x2∈C,θ∈R  -----这个特定性质,那么这个集合称为仿射集合。直线、平面和超平面都是仿射集

下面来分析一下这个性质。为什么要满足这个性质呢?这个性质有什么特点呢?

R^n空间中的任意两点x1,x2有下列形式的点y=θ*x1+(1-θ)*x2,θ∈R,这个式子可以变形为y=θ(x1-x2)+x2,这是一个斜率为(x1-x2),定义域为θ的直线,而它又过两点x1和x2两点,所以y点构成是过x1和x2的直线。也就是说这个性质构成的集合C中包含了任意两点的系数之和为1的线性组合。

上面我们已经知道什么是仿射集合,满足了上面的特性就是仿射集合,反过来说仿射集合里面的任意两个点具有上面的特性(θx1+(1-θ)x2∈C)。那么仿射集合里面的三个点,或者多个点当了满足凸优化----基础知识点:集合部分凸优化----基础知识点:集合部分∈C,凸优化----基础知识点:集合部分仿射组合所构成的点是否还在仿射集合C中?

证明仿射集合中三个点构成的仿射组合仍然在仿射集合中。

凸优化----基础知识点:集合部分

由上面的证明方法,可以扩展到多个。所以凸优化----基础知识点:集合部分∈C

三 仿射包

任意集合C,C中的点的所有仿射组合组成的集合为C的仿射包,记为affC。仿射包是包含C的最小的仿射集合。

下面的图是自己根据定义举的一个例子,看看这个仿射包里究竟放的是什么元素。

凸优化----基础知识点:集合部分

从上面的图中不难看出仿射包包含着原来的集合C,此处就能明白了定义中:“仿射包是包含C的最小的仿射集合”中提到的仿射包是包含C的集合

为了进一步理解“仿射包是包含C的最小的仿射集合”这句话,任意集合C,包括x1,x2,x3,x4 四个元素。如下图所示任意选择了几个符合要求的θ值。得到了A,B,x1,x2四个affC中的点。取此四个点,满足条件的任意的四个θ值,作仿射组合。得到的点发现也是满足仿射组合的。而且这个点一定在affC中的,因为affC中包含C中元素的任意仿射组合的元素。根据此处不难看出affC是仿射集合。(这里的例子是帮助自己理解,如果有更好的证明过程,万分感谢分享。)

凸优化----基础知识点:集合部分
“仿射包是包含C的最小的仿射集合”中为什么说是最小的仿射集合呢?此处还没有更好的解释先挂着了。后续有再修改。

意义:通过任意一个集合的元素,构造成一个包括这个集合的仿射集合。

四 凸集

如果集合C中任意两点间的线段(线段上的点)仍在C中,则称C为凸集。另一种表达方式是:任意的x1,x2∈C,满足0≤θ≤1,并且θx1+(1-θ)x2∈C,那么C为凸集。仿射集的条件比凸集的条件强,仿射集对θ的要求包括凸集中对θ的要求。所以仿射集必然是凸集

 1 凸组合

凸优化----基础知识点:集合部分的点,其中凸优化----基础知识点:集合部分凸优化----基础知识点:集合部分 ,则称点凸优化----基础知识点:集合部分 的凸组合。点的凸组合可看做它们的混合或者加权平均。

 2 凸包

集合C中所有点的凸组合的集合为凸包记为convC。此处可以看关于仿射包的解释,他们唯一的区别就是θ的取值。仿射包:θ∈R。凸包:θ∈[0,1]

 3 锥

凸优化----基础知识点:集合部分

4 凸锥

如果集合C为锥,并且是凸的,则C为凸锥。即对于任意的x1和x2∈C,θ1,θ2≥0,θx1+(1-θ)x2∈C

五 超平面、半空间

它们都是凸集。

超平面(hyperplane)的定义:

凸优化----基础知识点:集合部分。其中a是一个非零向量,b 是实数,即 a≠0,b∈R。超平面是关于x的非平凡线性方程的解空间。
几何意义是:从满足条件 凸优化----基础知识点:集合部分的任意一点 x0出发的向量 与a的所有垂线的集合;也可以解释为与向量a的內积为常数的点的集合;法线方向的a的超平面,而常数b∈R决定了这个平面从原点的偏移。

凸优化----基础知识点:集合部分

 

半空间

一个超平面将R^n划分为两个半空间。半空间有如下形式凸优化----基础知识点:集合部分,也就是线性不等式解的空间。其中 a≠0 ,半空间是凸的,但不是仿射的。
平面是点组成的,而特殊的点组成超平面。特殊之处就是:与给定向量内积为常数。超平面划分出半空间

六 空间球、范数球

1空间球

凸优化----基础知识点:集合部分

2范数球

凸优化----基础知识点:集合部分凸优化----基础知识点:集合部分

七 多面体、单纯形

1 多面体

定义:有限个线性等式和不等式的解集。

凸优化----基础知识点:集合部分因此多面体是有限个半空间和超平面的交集。仿射集合(子空间、超平面、直线)、射线、线段和半空间都是多面体

2 单纯形

凸优化----基础知识点:集合部分

一些常见的单纯形:一维单纯形是线段;二维单纯形是一个三角形;三维单纯形是一个四面体

八 仿射函数

凸优化----基础知识点:集合部分

九 超平面分离定理

凸优化----基础知识点:集合部分

凸优化----基础知识点:集合部分

凸优化----基础知识点:集合部分

总结:

让学习有质感,有逻辑。