开篇:润墨网以专业的文秘视角,为您筛选了一篇一种改进的新锥模型信赖域算法范文,如需获取更多写作素材,在线客服老师一对一协助。欢迎您的阅读与分享!
摘要:本文针对锥模型信赖域算法接受条件中存在的一些不合理因素,提出了一种改进的非单调信赖域算法,该算法通过改变预计下降量,使其与实际下降量对应起来,从而提高了梯度精度,且在一定的条件下,证明了该算法的收敛性。
关键词:无约束优化,信赖域,锥模型,全局收敛性
中图分类号:DF431文献标识码: A 文章编号:
1.算法的提出
(1.1)
的解。比较和的值,若他们的比值令人满意,就接受,一般要求
文[4]介绍的非单调线搜索信赖域算法可放宽这一条件,接受条件为
我们观察,的分子是目标函数从到的实际下降量,而分母是到的预计下降量。一般情况下,所以,用这对非完全对应的函数之差来衡量显然是不合理的,因此本文用作为到的预计下降量,于是接受条件为
2.算法步骤
算法2.1
Step 0:给定,对称矩阵
,为非负整数,
Step 1:计算,如果满足终止条件,则停;否则转Step 2;
Step 2:求解子问题(1.1)的近似解且
(2.1)
Step 3:计算;
Step 4:若,转Step 5;否则取;使其满足
;
(2.2)
令,,,;转Step 6;
Step 5:计算,;如果时,当
时,
Step 6:修正,,,转Step 1。
3.收敛性分析
为证算法的收敛性,我们作以下假设:
(A1)水平集有界,其中为初始点。
(A2)是lipschitz连续函数,即存在常数,满足:
(A3)在水平集S上二次连续可微,且存在,使得 。
引理令是算法2.1产生的解,则有
(3.1)
引理若假设(A1)(A3)成立,则数列非增且收敛。
引理 3.3令是算法3.1产生的解,则有
>..
证明:由的定义可知
.
由引理3.1得出.
我们记
引理 3.4 若假设A1和A3成立,且存在常数,使得设是由前述算法产生的迭代序列,那么对于,()有。
证明:对于,有显然,.从而
由引理3.2和式(3.1)知,
上式左边趋于0,要想此式成立只能有.
引理 3.5 若假设(A1)、(A2)、(A3)成立,且存在常数,使得。设是由前述算法产生的迭代序列,且收敛,那么对于,序列不收敛于0。
证明:反设由,再结合式2.2可得.从而有
结合式2.1可得
而由假设A3,反设,以及,有
其中.上式两边取范数得
又由,知
而序列收敛,由假设A1和反设知,不等式左边收敛于0.矛盾,故反设不成立,即证。
定理 3.6 若假设A1和A3成立,给定初始点,初始对称阵,设是由前述算法产生的迭代序列,则。
证明:反设不成立,则存在常数,使得。由前述算法知,对于对于再结合引理3.5和引理3.4知,它们之间隐含矛盾!于是假设不成立,即.定理得证。
4.数值试验
运用算法2.1对下列目标函数的无约束极小化问题进行试算:
Conic function
.
Cube function
Beal function
这里
Rosenbrock function
Penalty-I function
()
Freuden stein-Roth function
本文对以上函数进行了数值实验,与传统的锥模型信赖域算法进行了比较,在matlab7.0环境下编制程序,得到了表4-1的数值结果。参数选择如下:
其中是随意选取的初始值, 分别是函数梯度和目标函数的迭代次数,是函数终止的梯度范数,终止条件为,代表目标函数值,是在的初始条件下按照算法2.1迭代产生的近似最优解.
表4-1 改进的新锥模型信赖域算法数值实验
分析实验结果,该算法迭代次数除了函数,其他函数基本没有什么变化,但函数的梯度精度都有所提高;且我们看出, 函数的实验结果基本没有变化,采用的是单调锥模型信赖域算法。
参考文献
[1] 袁亚湘,孙文瑜.最优化理论与方法[M],北京:科学出版社,1997.
[2] 陆晓平,倪勤,刘浩.解新锥模型信赖域子问题的折线法.2007年9月,应用数学学报,Vol.30 No.5.
[3] 张建科,刘三阳.一类锥模型非单调信赖域算法及收敛性分析[J].应用数学学报,2005,18:13-17.
[4] 郑跃,刘君娥.一类新的非单调信赖域算法 .2008年4月,高等学校计算数学学报,Vol.11 No.4.