《求解无约束优化问题的共轭梯度法》由会员分享，可在线阅读，更多相关《求解无约束优化问题的共轭梯度法（5页珍藏版）》请在金锄头文库上搜索。
1、求解无约束优化问题的共轭梯度法李芳梅，姚瑞哲指导教师：李良摘要：本文主要针对无约束优化问题，利用共轭梯度法(CG方法) 求解此类问题，并得出其迭代次数及问题的解。论文对此种方法给出 了具体事例，并对例子进行了 matlab软件实现。1. 引言共轭梯度法时介于最速下降法与牛顿法之间的一个方法。它仅需 利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛 顿法需要存储和计算Hesse矩阵并求逆的缺点。共轭梯度法最早是由Hestenes和Stiefel (1952 )提出来的，用于 解正定系数矩阵的线性方程组。由于共轭梯度法不需要矩阵存储，且 有较快的收敛速度和二次终止性等优点，现已广泛应用
2、与实际问题 中。2. 共轭梯度法共轭梯度法是共轭方向法的一种。所谓共轭方向法就是其所有的 搜索方向都是相互共轭的方法。定义 设G是nXn对称正定矩阵，d , d是n维非零向量。如果1 2d TGd =0,1 2则称向量d和d是G-共轭的，简称共轭的。1 2设d , d，d是Rn中任一组非零向量，如果12md TGd =0(i j),i j则称d , d，d是G-共轭的，简称共轭的。12m显然，如果d, d，d是共轭的，则它们是线性无关的。12m算法(共轭梯度法)步1.初始步：给出x， e 0,计算r =Gx -b，令d二-r , k：=0.0 0 0 0 0步2.如果| r |We，停止.k步
3、3.计算a =r Tr /d TGd ,k k k k kx =x + a d ,k+1 k k kr =r +a Gd ,k+1 k k k0 =r Tr /r Tr ,k k+1k+1 k kd =-r +0 d k+1k+1 k k步4.令k：=k+1，转步2.1.共轭梯度法的matlab实现(数值例子)首先建立如下的m.文件functionx,iter=cgopt(G,b,xO,max_iter,tol)x=x0;fprintf(n x0=);fprintf(%10.6f,x0); r=G*x-b; %残差d=-r;for k=1:max_iterif norm(r)=toliter=
4、k-1;fprintfn Algorithm finds a solution!);endalpha=(r*r)/(d*G*d) %收敛速度 xx=x+alpha*d;rr=r+alpha*G*d;beta=(rr*rr)/(r*r);d=_rr+beta*d;x=xx;r=rr;fprintf n x%d=,k);fprintf %10.6f,x);enditer=max_iter;return然后建立CG_main的m.文件，带入数值例子function CG_main()10 x + x + 2 x + 3x + 4 x = 1212345x + 9 x x + 2 x 3 x = 27
5、12345 x 一x +7x +3x 一5x =14G=10 1 2 3 4;1 9 _1 2 _3;2 _1 7 3 _5;3 2 312345L3 x + 2 x + 3 x +12 x x =17123454 x 一 3 x 一 5 x 一 x +15 x = 12l 1234512 _1;4 _3 _5 _1 15;b=12 _27 14 _17 12;x0=0 0 0 0 0;max_iter=1000;tol=1e_6;fprintf(n);fprintf(Conjugate Gradiant Method:n);fprintf(=n);x,iter=cgopt(G,b,x0,max_iter,tol);fprintf(Iterative number:n %dn,iter);fprintf(Solution:n);fprintf(%10.6f,x);fprintf(n=n);实际上，共轭梯度法是最速下降法的一种改进。它不涉及矩阵，仅仅有向量运算，因而存储量小，适合于维数较高的优化问题。上述数值例子说明了用共轭梯度法求解无约束优化问题的可行性，同时也 表明了我们所编写的程序的正确性。参考文献孙文瑜，徐成贤，朱德通.最优化方法（第二版）北京：高等教育出 版社，2010.7.
