凸优化----基础知识点:集合部分
一 集合:
具有某种特定性质的具体的或抽象的对象汇总成的集体。比如整数集合:{…,-1,0,1,…}用Z表示;偶数的集合:{x|x=2n,n∈Z},(满足能被2整除的整数的集合)。能被2整除的整数就是偶数集合具有的特定性质。
二 仿射集合:
从上面的集合定义我们已经知道,满足某种特定性质的对象而汇总成的叫集合。那么如果一个集合里面的元素满足:
θx1+(1-θ)x2∈C,x1,x2∈C,θ∈R -----这个特定性质,那么这个集合称为仿射集合。直线、平面和超平面都是仿射集
下面来分析一下这个性质。为什么要满足这个性质呢?这个性质有什么特点呢?
R^n空间中的任意两点x1,x2有下列形式的点y=θ*x1+(1-θ)*x2,θ∈R,这个式子可以变形为y=θ(x1-x2)+x2,这是一个斜率为(x1-x2),定义域为θ的直线,而它又过两点x1和x2两点,所以y点构成是过x1和x2的直线。也就是说这个性质构成的集合C中包含了任意两点的系数之和为1的线性组合。
上面我们已经知道什么是仿射集合,满足了上面的特性就是仿射集合,反过来说仿射集合里面的任意两个点具有上面的特性(θx1+(1-θ)x2∈C)。那么仿射集合里面的三个点,或者多个点当了满足,∈C时,仿射组合所构成的点是否还在仿射集合C中?
证明仿射集合中三个点构成的仿射组合仍然在仿射集合中。
由上面的证明方法,可以扩展到多个。所以∈C
三 仿射包
任意集合C,C中的点的所有仿射组合组成的集合为C的仿射包,记为affC。仿射包是包含C的最小的仿射集合。
下面的图是自己根据定义举的一个例子,看看这个仿射包里究竟放的是什么元素。
从上面的图中不难看出仿射包包含着原来的集合C,此处就能明白了定义中:“仿射包是包含C的最小的仿射集合”中提到的仿射包是包含C的集合。
为了进一步理解“仿射包是包含C的最小的仿射集合”这句话,任意集合C,包括x1,x2,x3,x4 四个元素。如下图所示任意选择了几个符合要求的θ值。得到了A,B,x1,x2四个affC中的点。取此四个点,满足条件的任意的四个θ值,作仿射组合。得到的点发现也是满足仿射组合的。而且这个点一定在affC中的,因为affC中包含C中元素的任意仿射组合的元素。根据此处不难看出affC是仿射集合。(这里的例子是帮助自己理解,如果有更好的证明过程,万分感谢分享。)
“仿射包是包含C的最小的仿射集合”中为什么说是最小的仿射集合呢?此处还没有更好的解释先挂着了。后续有再修改。
意义:通过任意一个集合的元素,构造成一个包括这个集合的仿射集合。
四 凸集
如果集合C中任意两点间的线段(线段上的点)仍在C中,则称C为凸集。另一种表达方式是:任意的x1,x2∈C,满足0≤θ≤1,并且θx1+(1-θ)x2∈C,那么C为凸集。仿射集的条件比凸集的条件强,仿射集对θ的要求包括凸集中对θ的要求。所以仿射集必然是凸集
1 凸组合
的点,其中和 ,则称点 的凸组合。点的凸组合可看做它们的混合或者加权平均。
2 凸包
集合C中所有点的凸组合的集合为凸包记为convC。此处可以看关于仿射包的解释,他们唯一的区别就是θ的取值。仿射包:θ∈R。凸包:θ∈[0,1]
3 锥
4 凸锥
如果集合C为锥,并且是凸的,则C为凸锥。即对于任意的x1和x2∈C,θ1,θ2≥0,θx1+(1-θ)x2∈C
五 超平面、半空间
它们都是凸集。
超平面(hyperplane)的定义:
。其中a是一个非零向量,b 是实数,即 a≠0,b∈R。超平面是关于x的非平凡线性方程的解空间。
几何意义是:从满足条件 的任意一点 x0出发的向量 与a的所有垂线的集合;也可以解释为与向量a的內积为常数的点的集合;法线方向的a的超平面,而常数b∈R决定了这个平面从原点的偏移。
半空间
一个超平面将R^n划分为两个半空间。半空间有如下形式,也就是线性不等式解的空间。其中 a≠0 ,半空间是凸的,但不是仿射的。
平面是点组成的,而特殊的点组成超平面。特殊之处就是:与给定向量内积为常数。超平面划分出半空间
六 空间球、范数球
1空间球
2范数球
七 多面体、单纯形
1 多面体
定义:有限个线性等式和不等式的解集。
因此多面体是有限个半空间和超平面的交集。仿射集合(子空间、超平面、直线)、射线、线段和半空间都是多面体
2 单纯形
一些常见的单纯形:一维单纯形是线段;二维单纯形是一个三角形;三维单纯形是一个四面体
八 仿射函数
九 超平面分离定理
总结:
让学习有质感,有逻辑。