首页 > 范文大全 > 正文

一种改进的新锥模型信赖域算法

开篇:润墨网以专业的文秘视角,为您筛选了一篇一种改进的新锥模型信赖域算法范文,如需获取更多写作素材,在线客服老师一对一协助。欢迎您的阅读与分享!

摘要:本文针对锥模型信赖域算法接受条件中存在的一些不合理因素,提出了一种改进的非单调信赖域算法,该算法通过改变预计下降量,使其与实际下降量对应起来,从而提高了梯度精度,且在一定的条件下,证明了该算法的收敛性。

关键词:无约束优化,信赖域,锥模型,全局收敛性

中图分类号:DF431文献标识码: A 文章编号:

1.算法的提出

考虑无约束最优化问题,基本的信赖算法是在每步迭代求子问题

(1.1)

的解。比较和的值,若他们的比值令人满意,就接受,一般要求

文[4]介绍的非单调线搜索信赖域算法可放宽这一条件,接受条件为

我们观察,的分子是目标函数从到的实际下降量,而分母是到的预计下降量。一般情况下,所以,用这对非完全对应的函数之差来衡量显然是不合理的,因此本文用作为到的预计下降量,于是接受条件为

2.算法步骤

算法2.1

Step 0:给定,对称矩阵

,为非负整数,

Step 1:计算,如果满足终止条件,则停;否则转Step 2;

Step 2:求解子问题(1.1)的近似解且

(2.1)

Step 3:计算;

Step 4:若,转Step 5;否则取;使其满足

(2.2)

令,,,;转Step 6;

Step 5:计算,;如果时,当

时,

Step 6:修正,,,转Step 1。

3.收敛性分析

为证算法的收敛性,我们作以下假设:

(A1)水平集有界,其中为初始点。

(A2)是lipschitz连续函数,即存在常数,满足:

(A3)在水平集S上二次连续可微,且存在,使得 。

引理令是算法2.1产生的解,则有

(3.1)

引理若假设(A1)(A3)成立,则数列非增且收敛。

引理 3.3令是算法3.1产生的解,则有

>..

证明:由的定义可知

.

由引理3.1得出.

我们记

引理 3.4 若假设A1和A3成立,且存在常数,使得设是由前述算法产生的迭代序列,那么对于,()有。

证明:对于,有显然,.从而

由引理3.2和式(3.1)知,

上式左边趋于0,要想此式成立只能有.

引理 3.5 若假设(A1)、(A2)、(A3)成立,且存在常数,使得。设是由前述算法产生的迭代序列,且收敛,那么对于,序列不收敛于0。

证明:反设由,再结合式2.2可得.从而有

结合式2.1可得

而由假设A3,反设,以及,有

其中.上式两边取范数得

又由,知

而序列收敛,由假设A1和反设知,不等式左边收敛于0.矛盾,故反设不成立,即证。

定理 3.6 若假设A1和A3成立,给定初始点,初始对称阵,设是由前述算法产生的迭代序列,则。

证明:反设不成立,则存在常数,使得。由前述算法知,对于对于再结合引理3.5和引理3.4知,它们之间隐含矛盾!于是假设不成立,即.定理得证。

4.数值试验

运用算法2.1对下列目标函数的无约束极小化问题进行试算:

Conic function

.

Cube function

Beal function

这里

Rosenbrock function

Penalty-I function

()

Freuden stein-Roth function

本文对以上函数进行了数值实验,与传统的锥模型信赖域算法进行了比较,在matlab7.0环境下编制程序,得到了表4-1的数值结果。参数选择如下:

其中是随意选取的初始值, 分别是函数梯度和目标函数的迭代次数,是函数终止的梯度范数,终止条件为,代表目标函数值,是在的初始条件下按照算法2.1迭代产生的近似最优解.

表4-1 改进的新锥模型信赖域算法数值实验

分析实验结果,该算法迭代次数除了函数,其他函数基本没有什么变化,但函数的梯度精度都有所提高;且我们看出, 函数的实验结果基本没有变化,采用的是单调锥模型信赖域算法。

参考文献

[1] 袁亚湘,孙文瑜.最优化理论与方法[M],北京:科学出版社,1997.

[2] 陆晓平,倪勤,刘浩.解新锥模型信赖域子问题的折线法.2007年9月,应用数学学报,Vol.30 No.5.

[3] 张建科,刘三阳.一类锥模型非单调信赖域算法及收敛性分析[J].应用数学学报,2005,18:13-17.

[4] 郑跃,刘君娥.一类新的非单调信赖域算法 .2008年4月,高等学校计算数学学报,Vol.11 No.4.