《无约束最优化ppt课件》由会员分享,可在线阅读,更多相关《无约束最优化ppt课件(36页珍藏版)》请在金锄头文库上搜索。
1、无约束最优化无约束最优化第七讲第七讲实验目的实验目的实验内容实验内容2、掌握用数学软件包求解无约束最优化问题。、掌握用数学软件包求解无约束最优化问题。1、了解无约束最优化根本算法。、了解无约束最优化根本算法。1 1、无约束优化根本思想及根本算法。、无约束优化根本思想及根本算法。4 4、实验作业。、实验作业。3、用、用MATLAB求解无约束优化问题。求解无约束优化问题。2、MATLAB优化工具箱简介优化工具箱简介 无约束最优化问题无约束最优化问题求解无求解无约束最束最优化化问题的的根本思想的的根本思想*无约束最优化问题的根本算法无约束最优化问题的根本算法规范方式:范方式:求解无约束最优化问题的根
2、本思想求解无约束最优化问题的根本思想求解的根本思想求解的根本思想 ( 以二元函数以二元函数为例例 )531延续可微多部分极小 独一极小(全局极小)搜索过程搜索过程最优点 (1 1)初始点 (-1 1)-114.00-0.790.583.39-0.530.232.60-0.180.001.500.09-0.030.980.370.110.470.590.330.200.800.630.050.950.90 0.0030.990.991E-40.9990.9981E-50.9997 0.9998 1E-8无约束优化问题的根本算法无约束优化问题的根本算法 最速下降法是一种最根本的算法,它在最优化方法
3、中占有重要位置.最速下降法的优点是任务量小,存储变量较少,初始点要求不高;缺陷是收敛慢,最速下降法适用于寻优过程的前期迭代或作为间插步骤,当接近极值点时,宜选用别种收敛快的算法. 1 1最速下降法共轭梯度法算法步骤:最速下降法共轭梯度法算法步骤:2 2牛牛顿法算法步法算法步骤: 假设f是对称正定矩阵A的二次函数,那么用牛顿法经过一次迭代就可到达最优点,如不是二次函数,那么牛顿法不能一步到达极值点,但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收敛速度还是很快的. 牛顿法的收敛速度虽然较快,但要求Hessian矩阵要可逆,要计算二阶导数和逆矩阵,就加大了计算机计算量和存储量.3 3拟牛
4、牛顿法法MatlabMatlab优化工具箱简介优化工具箱简介1.MATLAB1.MATLAB求解优化问题的主要函数求解优化问题的主要函数2. 2. 优化函数的输入变量优化函数的输入变量 运用优化函数或优化工具箱中其它优化函数时, 输入变量见下表:3. 3. 优化函数的输出变量下表优化函数的输出变量下表: :4 4控制参数控制参数optionsoptions的设置的设置 (3) MaxIter: 允许进展迭代的最大次数,取值为正整数.OptionsOptions中常用的几个参数的称号、含义、取值如下中常用的几个参数的称号、含义、取值如下: : (1)Display: 显示程度.取值为off时,不
5、显示输出; 取值为iter时,显示每次迭代的信息;取值为final时,显示最终结果.默许值为final.(2)MaxFunEvals: 允许进展函数评价的最大次数,取值为正整数.例:opts=optimset(Display,iter,TolFun,1e-8) 该语句创建一个称为opts的优化选项构造,其中显示参数设为iter, TolFun参数设为1e-8. 控制参数控制参数optionsoptions可以经过函数可以经过函数optimsetoptimset创建或修正。命创建或修正。命令的格式如下:令的格式如下:(1) options=optimset(optimfun) 创建一个含有一切参
6、数名,并与优化函数optimfun相关的默许值的选项构造options.2options=optimset(param1,value1,param2,value2,.) 创建一个称号为options的优化选项参数,其中指定的参数具有指定值,一切未指定的参数取默许值.(3)options=optimset(oldops,param1,value1,param2, value2,.) 创建称号为oldops的参数的拷贝,用指定的参数值修正oldops中相应的参数.用用MatlabMatlab解无约束优化问题解无约束优化问题 其中3、4、5的等式右边可选用1或2的等式右边。 函数fminbnd的算法
7、基于黄金分割法和二次插值法,它要求目的函数必需是延续函数,并能够只给出部分最优解。常用格式如下:常用格式如下:1 1x= fminbnd (fun,x1,x2)x= fminbnd (fun,x1,x2)2 2x= fminbnd (fun,x1,x2 x= fminbnd (fun,x1,x2 ,options)options)3 3xx,fval= fminbndfval= fminbnd.4 4xx,fvalfval,exitflag= fminbndexitflag= fminbnd.5 5xx,fvalfval,exitflagexitflag,output= fminbndoutp
8、ut= fminbnd. 主程序主程序为wliti1.m:wliti1.m: f=2*exp(-x).*sin(x); f=2*exp(-x).*sin(x); fplot(f,0,8); % fplot(f,0,8); %作作图语句句 xmin,ymin=fminbnd (f, 0,8) xmin,ymin=fminbnd (f, 0,8) f1=-2*exp(-x).*sin(x); f1=-2*exp(-x).*sin(x); xmax,ymax=fminbnd (f1, 0,8) xmax,ymax=fminbnd (f1, 0,8)例例2 2 对边长为对边长为3 3米的正方形铁板,在
9、四个角剪去相等的正方形以米的正方形铁板,在四个角剪去相等的正方形以制成方形无盖水槽,问如何剪法使水槽的容积最大?制成方形无盖水槽,问如何剪法使水槽的容积最大?解解先先编写写M M文件文件fun0.mfun0.m如下如下: : function f=fun0(x) function f=fun0(x) f=-(3-2*x).2*x; f=-(3-2*x).2*x;主程序主程序为wliti2.m:wliti2.m: x,fval=fminbnd(fun0,0,1.5); x,fval=fminbnd(fun0,0,1.5); xmax=x xmax=x fmax=-fval fmax=-fval运
10、算运算结果果为: xmax = 0.5000,fmax =2.0000.: xmax = 0.5000,fmax =2.0000.即剪掉的正方形的即剪掉的正方形的边长为0.50.5米米时水槽的容水槽的容积最大最大, ,最大容最大容积为2 2立方米立方米. . 命令格式命令格式为: :1 1x= fminuncx= fminuncfun,X0 fun,X0 ;或;或x=fminsearchx=fminsearchfun,X0 fun,X0 2 2x= fminuncx= fminuncfun,X0 fun,X0 ,optionsoptions; 或或x=fminsearchx=fminsearc
11、hfun,X0 fun,X0 ,optionsoptions3 3xx,fval= fminuncfval= fminunc.; 或或xx,fval= fminsearchfval= fminsearch.4 4xx,fvalfval,exitflag= fminuncexitflag= fminunc.; 或或xx,fvalfval,exitflag= fminsearchexitflag= fminsearch5 5xx,fvalfval,exitflagexitflag,output= fminuncoutput= fminunc.; 或或xx,fvalfval,exitflagexit
12、flag,output= fminsearchoutput= fminsearch. 2、多元函数无约束优化问题、多元函数无约束优化问题规范型范型为:min F(X)3 fminunc为中型优化算法的步长一维搜索提供了两种算法, 由options中参数LineSearchType控制:LineSearchType=quadcubic(缺省值),混合的二次和三 次多项式插值;LineSearchType=cubicpoly,三次多项式插运用运用fminuncfminunc和和 fminsearch fminsearch能能够会得到部分最会得到部分最优解解. .阐明阐明: :fminsearchf
13、minsearch是用是用单纯形法形法寻优. fminunc. fminunc的算法的算法见以下几点以下几点阐明:明:1 fminunc为无约束优化提供了大型优化和中型优化算法。由options中的参数LargeScale控制:LargeScale=on(默许值),运用大型算法LargeScale=off(默许值),运用中型算法2 fminunc为中型优化算法的搜索方向提供了4种算法,由 options中的参数HessUpdate控制:HessUpdate=bfgs默许值,拟牛顿法的BFGS公式;HessUpdate=dfp,拟牛顿法的DFP公式;HessUpdate=steepdesc,最速
14、下降法例例3 min f(x)=(4x12+2x22+4x1x2+2x2+1)*exp(x1)3 min f(x)=(4x12+2x22+4x1x2+2x2+1)*exp(x1) 1 1、编写写M-M-文件文件 fun1.m: fun1.m: function f = fun1 (x) function f = fun1 (x) f = exp(x(1)*(4*x(1)2+2*x(2)2+4*x(1)*x(2)+2*x(2)+1); f = exp(x(1)*(4*x(1)2+2*x(2)2+4*x(1)*x(2)+2*x(2)+1); 2 2、输入入M M文件文件wliti3.mwliti3
15、.m如下如下: : x0 = -1, 1; x0 = -1, 1; x=fminunc(fun1,x0); x=fminunc(fun1,x0); y=fun1(x) y=fun1(x) 3 3、运、运转结果果: : x= 0.5000 -1.0000 x= 0.5000 -1.0000 y = 1.3029e-10 y = 1.3029e-103.3.用用fminsearchfminsearch函数求解函数求解输入命令: f=100*(x(2)-x(1)2)2+(1-x(1)2; x,fval,exitflag,output=fminsearch(f, -1.2 2)运转结果: x =1.0
16、000 1.0000fval =1.9151e-010exitflag = 1output = iterations: 108 funcCount: 202 algorithm: Nelder-Mead simplex direct search4. 4. 用用fminunc fminunc 函数函数(1)建立M-文件fun2.m function f=fun2(x) f=100*(x(2)-x(1)2)2+(1-x(1)2(2)主程序wliti44.m Rosenbrock Rosenbrock函数不同算法的计算结果函数不同算法的计算结果可以看出,最速下降法的结果最差.由于最速下降法特别不适
17、宜于从一狭长通道到达最优解的情况.例例5 5 产销量的最正确安排量的最正确安排 某厂消某厂消费一种一种产品有甲、乙两个牌号,品有甲、乙两个牌号,讨论在在产销平衡的情况下如何确定各自的平衡的情况下如何确定各自的产量,使量,使总利利润最大最大. . 所所谓产销平衡指工厂的平衡指工厂的产量等于市量等于市场上的上的销量量. .根本假根本假设1 1价价钱与与销量成量成线性关系性关系2 2本本钱与与产量成量成负指数关系指数关系 模型建立模型建立 假设根据大量的统计数据,求出系数b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a22=2,r1=30,1=0.015,c1=20, r2
18、=100,2=0.02,c2=30,那么问题转化为无约束优化问题:求甲,乙两个牌号的产量x1,x2,使总利润z最大. 为简化模型,先忽略本钱,并令a12=0,a21=0,问题转化为求: z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2 的极值. 显然其解为x1 = b1/2a11 = 50, x2 = b2/2a22 = 70,我们把它作为原问题的初始值.总利利润为: z(x1,x2)=(p1-q1)x1+(p2-q2)x2 z(x1,x2)=(p1-q1)x1+(p2-q2)x2 模型求解模型求解 1.建立M-文件fun.m: function f = fun(x) y1=(100-x(1)- 0.1*x(2)-(30*exp(-0.015*x(1)+20)*x(1); y2=(280-0.2*x(1)- 2*x(2)-(100*exp(-0.02*x(2)+30)*x(2); f=-y1-y2; 2.输入命令: x0=50,70; x=fminunc(fun,x0), z=fun(x) 3.计算结果: x=23.9025, 62.4977, z=6.4e+003 即甲的产量为23.9025,乙的产量为62.4977,最大利润为6413.5.实验作作业