带有线搜索的非单调自适应新锥模型信赖域算法

›› 2013, Vol. 26 ›› Issue (11): 4-.

带有线搜索的非单调自适应新锥模型信赖域算法

李小伟,钱慧敏

(西安电子科技大学理学院,陕西西安 710071)

出版日期:2013-11-15 发布日期:2013-11-19
作者简介:李小伟(1987—),女,硕士研究生。研究方向:最优化方法,半定规划及其应用。E-mail:point_happy@126.com。钱慧敏(1989—),女,研究方向:最优化方法,半定规划及其应用。
基金资助:
中央高校基本科研业务费专项基金资助项目(K50513100007)

A Quasi-Newton Nonmonotone Trust Region Method of New Conic Model

LI Xiaowei,QIAN Huimin

(School of Science,Xidian University,Xi'an 710071,China)

Online:2013-11-15 Published:2013-11-19

摘要/Abstract

摘要：

提出了一种带有线性搜索的非单调自适应新锥模型信赖域算法。根据线性搜索方法计算量小和信赖域方法良好的收敛性优点,文中将非单调Wolfe线性搜索应用于新锥模型自适应信赖域方法中,结合构造了一类新算法:当试验步d_k不成功时,采用非单调Wolfe线搜索求得下一个迭代点,使得新算法无需重解子问题,减少计算量。另外,利用c^p||B^-1_k+1|| ||g_k+1||来调节半径,其中c∈(0,1),p为非负整数。在适当\\条件下,证明了该算法的全局收敛性和有效性。

关键词: 无约束优化, 非单调线搜索, 拟牛顿法, 新锥模型, 信赖域, 全局收敛性

Abstract:

A trust region algorithm based on new conic model is presented for unconstrained optimization by combining the nonmonotonic wolfe line search and quasi-newton technique.A new trust region subproblem is constructed,in which the trust region radius uses the information of g_kand B_k.The subproblem is solved by using c^p||B^-1_k+1|| ||g_k+1||],c∈(0,1),p is a nonnegative integer.Therefore,instead of adjusting Δ_k,one adjusts p for each iteration.Under proper assumptions,the global convergence of the method is proved.

Key words: unconstrained optimization;nonmonotonic line search;quasi-newton;new conic model;trust region method;global convergence

中图分类号:

O221

李小伟,钱慧敏. 带有线搜索的非单调自适应新锥模型信赖域算法[J]. , 2013, 26(11): 4-.

LI Xiaowei,QIAN Huimin. A Quasi-Newton Nonmonotone Trust Region Method of New Conic Model[J]. , 2013, 26(11): 4-.

参考文献

［1］袁亚湘,孙文瑜,最优化理论与方法［M］.北京:科学出版社,1999.

［2］NOCEDAL J,YUAN Y X.Combining trust region and line search techniques［R］.Illinois,USA:NAM06,Dept of Computer Science,Northwestern University,1991.

［3］NOCEDAL J,YUAN Y X.Combining trust region and line search techniques［J］.Advances in Nonlinear Programming,1998(14):153-175.

［4］MICHAEL,GERTZ E.A quasi-Newton trust-region method［J］.Mathematical Programmin,2004,100(3):447-470.

［5］李正锋,邓乃扬.一类新的非单调信赖域算法及其收敛性［J］.应用数学学报,1999,22(3):458-465.

［6］姚升保,施保昌,彭叶辉.一类带线搜索的非单调信赖域算法［J］.数学杂志,2003,23(3):290-294.

［7］莫降涛,刘春燕,颜世翠.带有固定步长的非单调信赖域算法［J］.曲阜师范大学学报:自然科学版,2006,32(3):30-34.

［8］DAVIDON W C.Conic approximation and collinear scaling for optimizers［J］.SIAM J.Number.Anal,1980,17:268-281.

［9］NI Q.Optimality Conditions for trust-region subproblems involving a conic model［J］.SIAM J.Optim,2005,15(3):826-837.

［10］陆晓平,倪勤,刘浩.解新锥模型信赖域子问题的折线法［J］.应用数学学报,2007,30(5):854-871.

［11］王剑宇.锥模型非凸信赖域子问题的算法［D］.南京:南京航空航天大学,2006.

［12］吴海平,倪勤.一个新锥模型信赖域算法［J］.高等学校计算数学学报,2008,30(1):57-67.

［13］刘光辉,彭积明.一类非单调算法的收敛性质［J］.计算数学,1994,16(1):65-71.

［14］诸梅芳,薛毅,张凤生.锥模型的拟NEWTON型信赖域方法［J］.高等学校计算数学学报,1995,1(1):36-47.

［15］席少霖.非线性最优化方法［M］.北京:高等教育出版社,1992.

［16］ZHANG X S,ZHANG J L,LIAO L Z.An adaptive trust region method and its convergence［J］.Science in China(Series A),2002,45(3):620-631.

［17］刘培培,陈兰平.一类拟牛顿非单调信赖域算法及其收敛性［J］.数学进展,2008,37(1):92-100.

[1]	王文,李永. 一种新非单调法求解压缩感知问题[J]. , 2015, 28(2): 14-.
[2]	周新慧,李小伟. 多重滤子非单调新锥模型信赖域算法[J]. , 2014, 27(3): 1-.
[3]	李小伟. 非单调的微粒群信赖域算法[J]. , 2014, 27(2): 14-.
[4]	钱慧敏, 周新慧. 半定规划的非单调信赖域算法研究[J]. , 2014, 27(2): 21-.
[5]	周新慧, 李小伟. 一种改进的非单调自适应新锥模型信赖域算法[J]. , 2014, 27(1): 1-.
[6]	陈玥琪. 绝对值方程的一种光滑牛顿算法[J]. , 2014, 27(1): 7-.
[7]	周新慧, 李小伟. 一种多重滤子非单调的新锥模型信赖域算法[J]. , 2013, 26(12): 17-.