求解Sylvester问题的梯度镜面下降算法
Sylvester问题在19世纪由英国数学家Sylvester提出[1],该问题也被称为最小相交球问题[2-5],是数学中重要的问题,除了在数学方面的应用,在其他领域也有重要的实际应用价值,如设施选址[6]、计算机图像学[7-8]等。
反季节种植时需要将成活的苗木从苗圃挖出,苗木挖出后根部一般都会带有土球,土球越大,意味着植物的根系越完整,栽植成活率也就越高,因此在实际的种植过程中,应尽量选择挖出后土球较大的苗木,在不得已选择裸根苗木时,也要尽可能的保证植物根系带有土壤。其次,还要保证苗木所留的根要长,细跟要相对较多。
Sylvester问题的数学模型表示为:
![width=290,height=23,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/16dd27c05a250be34ce6ac31746bfa16.png)
(1)
其中:Ωi,i=1,2,…,m为目标集,Ω为约束集,二者都是Rn上的非空闭凸集。该问题的解表示最小欧式球的中心,它与所有的目标集Ωi相交。在Banach空间上,关于问题(1)最优解的存在性和唯一性已经有相关的研究[9],但是针对该问题的算法研究相对较少。由于目标函数在Rn上是一个不可微函数,找到一个有效的光滑数值算法去求解通常较为困难。考虑用对数指数光滑函数方法逼近非光滑的目标函数[9],从而将求解非光滑函数D(x)的最小值问题转为求解光滑连续凸函数D(x,p)的最小值问题。为进一步利用该问题的结构设计算法,引入一个示性函数δΩ(x),基于对数指数光滑方法,将问题(1)转化为求解如下的最小值问题。
对于光滑参数p>0,
min F(x,p)=D(x,p)+δΩ(x),
(2)
其中
![width=225,height=38,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/ba349ae5f7526ff005d8326f07c46e72.png)
![width=213,height=23,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/9bb234c421cc94d33376639762f4f12c.png)
![width=169,height=38,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/254a5d09ae1885a1b84c39c3f6116e06.png)
由文献[10]可得镜面下降算法的关键引理2:
1 梯度镜面下降算法
该算法步骤如下:
2)令αk+1=(k+2)/(2 L),τk=2/(k+2),且xk+1=τkzk+(1-τk)yk。
1)选取初始值y0=z0=x0,L>0,ε>0,k=0。
滤波器有多种不同的端耦合模式,端耦合方式的不同,会影响滤波器的通道带宽和插入损耗特性。常见的耦合模式有抽头耦合、平行线耦合、双指耦合等。平行线耦合模式结构最为简单,且对滤波器的初始性能影响很小,得到广泛的应用,但其缺陷是耦合强度不足,容易增加滤波器的插损;抽头耦合为直接耦合方式,信号耦合强度大,但其缺点是抽头位置对滤波器的性能影响较大,从而使设计过程变得复杂;双指耦合模式具有耦合强度大,同时对滤波器的原始性能影响很小,是理想的耦合模式,因此本文采用双指耦合的端耦合模式。
3)计算Q(xk+1)=xk+1-Grad(xk+1),若‖Q(xk+1)‖*<ε,则停止计算,输出xk+1作为近似极小点。
由上可得:(1)博弈最后达到哪个均衡点,取决于初始状态落在哪个区域,即被动房初始推广的效果,如果初始推广效果好,则博弈过程将呈现良性的递进发展,最终达到理想的效果;如果初始推广激励没有达到理想的推广效果,那么之后的博弈过程将会出现恶性循环,导致整个激励的失败。(2)Y*=(A2-A3+A4)/(A2+A4),通过尽可能地提高区域2、3的面积,即Y*尽可能的提高,从而提高到达均衡点(0,0)的占比,因此需要最大程度地降低A3,即对被动房增量成本的控制。
“要不?接着试试?”连涂当也心动了。男人就那点虚荣心,自己有个什么宝贝,就想拿出来现现,希望全世界的男人都垂涎欲滴。
4)令yk+1=Grad(xk+1),
![width=202,height=17,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/0f93281b746445c2a85837a95fdc4db1.png)
k=k+1,转步骤2)。
2 算法的有关性质
由于关于||·||利普希茨光滑,且利普希茨常数为2/p,对于所有的x,y∈Ω,有
![width=319,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/21e5aca8b8817c1af312689d7011ece6.png)
步长为2/p的梯度步表示如下:
∀x∈Ω,p>0,
![width=275,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/61b5a1135a7785299a4a24e382e8198b.png)
![width=217,height=29,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/5eebfccb0456f1bdbde3a369d5ad7247.png)
令
![width=237,height=38,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/8bf5f2eaeafd741922cf4619f525f467.png)
![width=284,height=17,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/815093abb62c0107ae1f037e6d763ea4.png)
由文献[10]可得梯度下降算法的关键引理1:
引理1 F(Grad(x),p)≤F(x,p)-Prog(x)。
定义1 设w:Ω→R是距离生成函数,且w是关于||·||的强凸函数,即
∀x∈Ω∂Ω, y∈Ω:
。
相应地,Bregman散度为
![width=313,height=14,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/8a5286a5eb04d2c9a5f6a4c1db4d1c67.png)
定义2 设步长为α,则镜面步为
同功酶是基因分化的产物,而基因的分化又是生物进化过程中为适应愈趋复杂的代谢而引起的一种分子进化,以适应不同组织或不同细胞器在代谢上的不同需要,是基因编码的蛋白质表现型。
![width=316,height=26,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/c7cb3333b6ddf18169bb943af4b0af75.png)
![width=249,height=17,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/c5a0215ff85562f984dd1adfdf303222.png)
特别地,取它在任意凸集Ω上是强凸函数,且
针对问题(2),提出了求解该问题的梯度镜面下降算法,并给出了相关收敛性分析和数值实验。
引理2 设则∀u∈Ω,
α(F(xk,p)-F(u,p))≤
![width=337,height=17,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/23b233ce8c27af95135b3a664bde125a.png)
![width=310,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/f06ab620fa90583ad750a04d3ebfa83a.png)
α(δΩ(xk)-δΩ(xk+1))。
3 收敛性分析
引理3 设τk=p/(2αk+1),则对∀u∈Ω,有
胼胝体梗死同时也会出现“失读不伴失写”的压离断综合征(splenium disconnection syndrome)。“失读不伴失写”离断综合征第一次由Dejerine在1892年提出,接着Sharma也报道了这一症状。他们的研究发现这类患者表现为可以书写文字,但不能读出所写内容[25]。这类压离断综合征在临床上更为少见,容易被当成患者言语障碍而被忽略。同时胼胝体梗死也会导致包括记忆力和计算力在内的认知功能障碍[3]。
![width=301,height=14,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/050f867778dbf9267e42ae05268c7ddd.png)
![width=228,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/bfd7655f9028bede4ee68a51679557a4.png)
![width=278,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/92601753c539336e814a906dd1ffd1ec.png)
![width=237,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/efa6cf733c21c79b36647ee6fdcd15c8.png)
(Vzk(u)-Vzk+1(u))。
引理4 对于∀u∈Ω,
在实验前,要求学生做好分工,每组6位同学,组内6位同学分别完成实验1~6中的某一个实验(课前分好工,防止课上小组分工不协调,耽误时间),其他同学协助,并仔细记录实验现象。这样,不仅锻炼了每位学生的动手能力,也充分体现了小组协作、互助。实验完成后,组内成员一起挖掘现象背后的本质原因,培养学生宏观辨识与微观探析共同发展的化学核心素养。
![width=316,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/2c5c7160a895875656354dd2419c4843.png)
(Vzk+1(u)-Vzk(u))≤αk+1F(u,p)。
(3)
证明 根据凸函数的定义并化简可求得
αk+1 (F(xk+1,p)-F(u,p))≤
![width=222,height=14,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/3cd84fff5c310b1a2a7801cfbaac9f30.png)
![width=204,height=14,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/c7011eeb012a8d2c46a3a13f453b5f5a.png)
αk+1(δΩ(xk+1)-δΩ(u)),
(4)
由于xk+1=τkzk+(1-τk)yk,那么τk(xk+1-zk)=(1-τk)(yk-xk+1)。结合引理3,式(4)变为
αk+1 (F(xk+1,p)-F(u,p))≤
![width=325,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/977004b4e081286e9dba56cefd23e3b3.png)
αk+1F(xk+1,p)+(Vzk(u)-Vzk+1(u))。
(5)
取τk=p/(2αk+1),则
![width=199,height=38,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/de9e2cabc567e7b4a76ef431e36eca3b.png)
由于示性函数δΩ(x)是凸函数,则δΩ(v)≤τkδΩ(zk+1)+(1-τk)δΩ(yk)成立,将其代入式(5),化简后可求得
以露地种植为对照,露地种植平均商品率平均为67.17%,秸秆覆盖带状种植平均商品率为65.44%,较对照低1.73个百分点;膜上覆土种植平均商品率为66.11%,比对照低1.06个百分点;黑色全膜双垄垄侧种植平均商品率为67.7%,比对照高0.53个百分点;黑色全膜大垄面种植平均商品率为72.99%,比对照高5.82个百分点;可降解地膜大垄种植平均商品率为77.6%,比对照高10.43个百分点。
![width=319,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/d78582fbe8aea95c485b0f72d0b52c4a.png)
(Vzk+1(u)-Vzk(u))≤αk+1F(u,p)。
高原牦牛出血性败血症也被称为牛出败病,它是一种由多杀性巴氏杆菌为主要病原体的传染疾病,多杀性巴氏杆菌无法进行运动,且没有芽孢和较强的抵抗能力,因此,比较容易进行防治。这种杆菌易在血液或者分泌物中存活,尤其是在腐烂的尸体中可长时间存活,另外,在湿度较低的空气中存活时间较长,在高温环境下无法生存,一旦受到太阳照射就会死亡,这些都是多杀性巴氏杆菌的特性,可以据此更好地进行疫病防治[1]。
引理得证。
令u=x*,因VzT(u)≥0,且F(yk,p)≥F(x*,p),则
![width=261,height=37,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/fd9f53b47459a79a8a869003957c6b81.png)
其中θ为Vx0(x*)的上界。
证明 设则
![width=170,height=40,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/d2a891014e259611fa642a789a87d9de.png)
对式(3)求和,可得
![width=322,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/ac0267a46aa831aaef82301220c0d2af.png)
![width=284,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/9bafb050087d6b757b87d3caded687bf.png)
![width=99,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/181eb7967ac9df2ce63a62ae9cafd980.png)
化简后得
![width=243,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/c40c5ee698cc09e06437f90be9625d74.png)
![width=263,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/e117cd17b3d3be741544e8a3712b0656.png)
定理1(收敛性) 设函数D(x,p)在Ω上关于||·||梯度利普希茨,利普希茨常数为2/p,且w(x)是Ω上关于||·||的强凸函数,则算法经过T次迭代可得
1) 四季竹和少穗竹2种竹笋的含水量均超过90%,表明2种竹笋的口感均较好;四季竹笋的灰分和粗脂肪含量均高于少穗竹,但蛋白质含量低于少穗竹。
![width=111,height=38,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/41565b87efdbd57a62adbbbd629f8334.png)
![width=293,height=41,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/4168c566aa7bcf60b44f1035b8f45248.png)
由和Vz0(x*)≤θ,可推得
![width=334,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/3a4e6d6598bd8c7985dec73bdea208f3.png)
![width=187,height=35,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/2b6a1e3afc954cb8e331238758c3a54b.png)
则
![width=261,height=37,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/8e0acbd6681c5fefb3b17fd288112483.png)
定理得证。
此外,在Ⅲ度及以上白细胞、中性粒细胞、血小板减少、贫血、恶心呕吐、口腔炎、食欲减退、肝功能异常、腹痛、乏力等10个指标上,替吉奥组和卡培他滨组结果无明显差异,无统计学意义。见表2。
4 数值实验
为了检验算法的有效性,将梯度镜面下降算法(GMD算法)数值结果与Nesterov加速梯度算法[8](NAG算法)的数值结果进行比较。本算法在Matlab中运行,测试环境为Window 7操作系统,intel (R) Core (TM) i5-6500 CPU @ 3.20 GHz, 8.00 GB RAM。
算例1 考虑欧式空间上的无约束Sylvester问题,集合w1,w2,…,w6分别是以(-6,9)、(12,9)、(-1,-6)、(-8,5)、(-7,0)、(7,1)为中心,2、5、5、2、4、8 cm为边长的正方形,选取ε=10-5,p=0.3,初始点x0为(3,5),利用梯度镜面下降算法运行的结果和Nesterov加速梯度算法运行的结果如表1所示,其图像如图1所示。
表1 算例1的数值结果Tab.1 Numerical results of example 1
![width=375,height=82,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/ed2ea281ef8df5f57ae7103dfb8005bf.png)
算法迭代数时间/s近似中心坐标半径/cmGMD算法590.038 6(1.365 9,4.470 3)8.39NAG算法1080.038 3(1.365 9,4.470 2)8.39
![width=359,height=564,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/3d63d2863c7bf1a065bb4fc02b7649b5.png)
图1 2种算法运行结果的图像Fig.1 Figure to the operation results of the two algorithms
从表1和图1可看出,利用这2种算法求Sylvester问题所得的近似解相近,近似半径相同,但利用梯度镜面下降算法求解目标函数所需的迭代次数更少,效果更好。
算例2 设集合wi,i=1,2,…,6是中心坐标与例1相同的圆,其半径分别为3、2.5、2.5、1、2、4 cm。选取ε=10-5,p=0.08,初始点x0为(-1,3),利用梯度镜面下降算法运行的结果和Nesterov加速梯度算法运行的结果如表2所示,其图像如图2所示。
表2 算例2的数值结果Tab.2 Numerical results of example 2
![width=375,height=82,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/2d78ff1336f5d56aea0a84c93382f9f3.png)
算法迭代数时间/s近似中心坐标半径/cmGMD算法1050.021 4(1.655 2,4.778 9)8.67NAG算法1560.036 9(1.655 2,4.779 0)8.67
![width=359,height=571,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/fe0c35e500e8829f15f8d61d027dd37a.png)
图2 2种算法运行结果的图像Fig.2 Figure to the operation results of the two algorithms
从表2和图2可看出,利用这2种算法求Sylvester问题所得的近似解相近,近似半径相同,但利用梯度镜面下降算法求解目标函数所需的迭代次数更少,效果更好。
(3)成人和儿童酚类非致癌指数分别为4.77×10-2和 1.02×10-1,均低于 UE EPA规定相应标准参考值。通过口-小麦、玉米和果蔬对人体健康所造成的非致癌危害分别为 1.79×10-2~4.26×10-2 、 1.98×10-2~3.53×10-2 和 1.01×10-2~2.41×10-2。NP、BPA和OP各自对人体造成的非致癌风险分别为 3.00×10-2~6.60×10-2、1.56×10-2~3.09×10-2和 2.20×10-3~5.16×10-3。
算例3 考虑三维空间上的无约束问题,集合wi,i=1,2,…,5是半径全部为1 cm,中心坐标分别为(-5,0,0)、(1,4,4)、(0,5,0)、(-4,-3,2)和(0,0,5)的球面。选取ε=10-5,p=0.1,初始点x0为(-1,0,1),利用梯度镜面下降算法运行的结果和Nesterov加速梯度算法运行的结果如表3所示,其图像如图3所示。
(1)站位要高。要把老干部工作放在党的建设的“三个高度”去站位:从本质上讲,老干部工作就是党建工作,加强党建必须加强老干部工作。党的十九大报告,把认真做好离退休干部工作放在党的建设部分加以部署,是很有深意的。党组织是老干部的精神家园。
表3 算例3的数值结果Tab.3 Numerical results of example 3
![width=375,height=82,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/da39ccabaa40868b6b7423eca286773e.png)
算法迭代数时间/s近似中心坐标半径/cmGMD算法2850.029 6(-1.815 8,0.977 4,1.553 7)3.20NAG算法2810.038 2(-1.816 5,0.977 7,1.554 3)3.20
![width=359,height=456,dpi=110](https://qkk.lw71.com/uploads/image/2018/06/38461a426c8121a22075621da2dc4176.png)
图3 2种算法运行结果的图像Fig.3 Figure to the operation results of the two algorithms
从表3和图3可看出,利用这2种算法求Sylvester问题所得的近似解相近,近似半径相同,但梯度镜面下降算法运行时间较少,因此梯度镜面下降算法对于目标函数的求解是有效的。
5 结束语
为了更有效地求解Sylvester问题,用对数指数光滑方法将目标函数转化为光滑函数,通过引入示性函数,将该问题转化为无约束复合凸优化问题,再通过梯度镜面下降算法求解并分析其收敛性,得出该算法具有的收敛速度。数值实验结果表明,本算法对Sylvester问题的求解是有效的。
[1] SYLVESTER J J.A question in the geometry of situation[J].Quarterly Journal of Mathematices,1857,1:1-79.
[2] ALONSO J,MARTINI H,SPIROVA M.Minimal enclosing discs,circumcircles,and circumcenters in normed planes[J].Computational Geometry:Theory and Applications,2012, 45(7):350-369.
[3] FISCHER K,BERND G.The smallest enclosing ball of balls:combinatorial structure and algorithms[C]//ACM Nineteenth Symposium on Computational Geometry,2003:341-378.
[4] HEARN D W,VIJAY J.Efficient algorithms for the (weighted) minimum circle problem[J].Operations Research,1981,30(4):777-795.
[5] NIELSEN F,NOCK R.Approximating smallest enclosing balls with applications to machine learning [J].Computational Geometry & Applications,2009,19(5):389-414.
[6] SAHA A,VISHWANATHAN S,ZHANG X.New approximation algorithms for minimum enclosing convex shapes[J].Computer Science,2009,14(31):1146-1160.
[7] WELZL E.Smallest enclosing disks (balls and ellipsoids)[J].Lecture Notes in Computer Science,1991,555:359-370.
[8] NGUYEN T A,DANIEL G,NGUYEN M N,et al.The log-Exponential smoothing technique and Nesterov’s accelerated gradient method for generalized Sylvester problems[J].Journal of Optimization Theory & Applications,2016,168(2):559-583.
[9] MORDUKHOVICH B S,NAM N M,VILLALOBOS C.The smallest enclosing ball problem and the smallest intersecting ball problem: existence and uniqueness of optimal solutions[J].Optimization Letters,2013,7(5):839-853.
[10] ALLEN-ZHU Z,ORECCHIA L.Linear coupling:an ultimate unification of gradient and mirror descent[J].Mathematics,2014,3(3):1-22.