数学优化与凸集3(斯坦福凸优化笔记3)

1 保凸运算

本节介绍一些保凸运算,用于将上一节介绍的基本凸集构造出其他凸集。

1 交集

交集是保凸的。无穷个凸集的交集也是凸的。

2 仿射函数

仿射函数:

如果一个函数有f:RnRm能表示成一个线性函数和一个常数的和的形式 ,即f(x)=Ax+b,其中ARm×n,bRm。一个凸集通过仿射变换仍然是凸的。反向也成立。同样,一个集合通过仿射变换能变成凸集,就说明原集合也是凸的。

最简单的例子就是伸缩和平移。(这点很好理解,伸缩和平移不会改变形状的凹凸性)

一个凸集向某几个坐标投影是凸的。(这个也比较好理解,一个凸的图形沿一个方向拍扁,必然是凸的。)

两个集合的和的定义为:
S1+S2={x+yxS1,yS2}
两个集合的积定义为:
S1×S2={(x,y)xS1,yS2}
如果S1S2是凸集,那么S1,S2的和,积都是凸集。
下面再举几个比较复杂的例子:

线性矩阵不等式的解:
A(x)=x1A1++xnAnB称为关于x的线性矩阵不等式,其解{xA(x)B},其中B,AiSm
这个解集是个凸集,因为这个解集是f(x)=BA(x),f:RnSm下的原象。

双曲锥:
集合{xxTPx(cTx)2,(cTx)20}是凸集,因为它是二阶锥{(z,t)zTzt2,t0}在仿射函数f(x)=(P1/2x,cTx)下的原象。

3 线性分式和透视函数

透视函数:
我们定义P:Rn+1Rn,P(z,t)=z/t为透视函数,其定义域为 dom P=Rn×R++
透视函数对向量进行伸缩和规范化,使最后一维分量为1。
例:对

abc
作用透视函数,结果为:
acbc1

透视函数是保凸运算。
线性分式函数:
f(x)=Ax+bcTx+d,dom f={xcTx+d>0}
线性分式函数是保凸的。

2 广义不等式

称锥KRn为正常锥,如果它满足下列条件:
1 K是凸的
2 K是闭的
3 K是实的,即K有非空的内部
4 K是尖的,即K不包含任何直线
在正常锥上可以定义广义不等式,在正常锥上定义Rn上的偏序关系如下:
xKyyxK
举几个例子:

1 非负象限和广义不等式:
K=Rn+是一个正常锥,对应广义不等式的定义为:
xKyyxRn+
此时的广义不等式就是我们通常说的普通意义上的不等式。

2 半正定锥和矩阵不等式
K=Sn+是一个正常锥,对应广义不等式的定义为:
XKYYXSn+
此时的广义不等式的意义是YX是半正定矩阵。

广义不等式满足类似普通不等式的性质,如传递性,反对称性等等。
其中广义不等式和普通不等式最大的区别是不是任意两点都是可比的。即xyyx对于普通不等式二者必居其一。而对于广义不等式这不一定成立。所以最小,最大这些概念对于广义不等式变得很复杂。
最小元和极小元:
如果对于每个yS,均有xKy,我们称xSS(关于广义不等式K)的最小元。类似的,我们可以定义关于广义不等式的最大元。
相对应的概念是极小元。如果yS,yKx可以推得y=x, 那么我们称xSS关于广义不等式K的极小元。一个集合有多个极大元和极小元。
数学优化与凸集3(斯坦福凸优化笔记3)
(图片来自斯坦福Boyd Convex Optimization)
对于锥R2+,左图S1都在x1的右上,所有S1的数都比x1大,x1是最小值。
对于锥R2+,右图S2不在x2的左下,所有S2的数没有比x2小,x2是极小值。
数学优化与凸集3(斯坦福凸优化笔记3)
图中虚线区域和x2不可比较。所以x2不是最小值。
(未完,待续)