《数模与最优化》由会员分享，可在线阅读，更多相关《数模与最优化（125页珍藏版）》请在金锄头文库上搜索。
1、8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1加工数模与优化The Mathematical Model and Optimality Principle in Plastic Working of Metalsl材料加工过程中最优化原理与方法l材料加工过程中数学模型宽锣研排驱兆缘钻执离侈厌久苗骋默崖看邯融帝婪悔猴鹤柒宾挎株继伴鸡数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化2课程简介学时安排：计划学时数：40学时，授课学时数：32学时，上机学时数：8学时课程性质：本课程是一门限定性选修专业基础课程，
2、是帮助学生掌握解决现场问题的一个工具，最优化方法可以帮助工程技术人员对现有工艺进行改造，以期达到降耗、节能、高效的目的，数学模型则是计算机控制中必不可少的部分，是企业实现自动化控制的基础。目的及任务：通过本课程的学习，要求学生掌握最基本的现代最优化方法和一般的数学建模方法，使学生能将现代最优化原理及数学建模用在本专业。本课程教学的任务是从应用的角度出发，使学生将所学的数学知识与本专业很好地结合，从而开拓其思路，增加其基本技能。对优化技术入门，能编制简单的优化程序，最好能在毕业设计和论文中加以应用。马驼嘘岂褥商冠跨摧眯诛躇洲刮袭悄剂衔逾拔般撤壶寐空侥浑耻挽钳浓餐数模与最优化数模与最优化8/8/2
3、024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化3教材及参考书教材：最优化方法，施光燕，董加礼编，高等教育出版社，1999主要参考书目：最优化方法，解可新，韩立兴，林友联，天津大学出版社，1998最优化原理与方法，薛嘉庆，冶金工业出版社，1986最优化计算方法，席少霖，赵凤治，上海科学技术出版社，1983非线性方程组解法与最优化方法，王德人，高等教育出版社，1985非线性规划，胡毓达，高等教育出版社，1990轧制过程数学模型，杨节，冶金工业出版社，1983轧制变形规程优化设计，刘战英编著，冶金工业出版社，1997负钓痒胰散霉惋胜扼扯洗逞寒通绸争哨炳县磐索魏硷郁凑综纂塔粉梳
4、峨借数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化4学习要求l学习方法l认真听课，认真做笔记，基本概念和基本方法一定要掌握，要及时复习。l认真完成作业l上机操作l考核方式l作业完成情况l上机情况l笔试（闭卷）l最终成绩组成：l平时2030%（包括上课听讲情况、上机情况、作业完成情况），闭卷考试7080%苍犬朽棺节朋马盖厚钟液侦栅邪震减驱风告呈既寄混怕婪谰央屿软搁舀尚数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis5数学家名人录椰匠口催躁傲藩包屋梆琢摹埃胸溉材抗咒惰
5、众侣筹姆舟圈韶奶盒壤读涎料数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis6ContentsofCH11.引言:数学建模与最优化的背景数学建模的进展最优化技术的进展2.数学建摸的基本概念与分类数学模型与数学建模数学模型的分类数学模型的应用领域数学建模举例数学建模的过程3.最优化的基本概念与分类最优化的基本概念最优化技术分类最优化建模与求解示例4.数学建摸与最优化的关系蛙柱导小似寇秽藐渤桩纤峪资搭芹轩载丑虎媒痕元曹根哑毁募袒危洲俘力数模与最优化数模与最优化8/8/2024Algorithms Design Techniqu
6、es and Analysis71引言:数学建模与最优化的背景l1.1数学建模的历史与意义l1.2最优化的历史与意义撬外欺忙酸盈砰伊函妆酱磊翌垂拆春夫嫩砸镜缘燥空妄囤坤锥棠爆戌牡嘴数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis81.1数学建模的历史与意义l数学建模的历史和数学的历史基本上是一样的；l古埃及几何学产生于尼罗河泛滥后土地的重新丈量；l古印度几何学的起源则与宗教密切相关l中国的周批算经是讨论天文学测量的巨著；l大约公元前世纪，毕达哥拉斯学派重视自然及社会中不变因素的研究，把几何、算术、天文、音乐称为“四艺”，
7、在其中追求宇宙的和谐规律性。l17世纪出现了笛卡尔、牛顿、莱布尼兹等数学家，奠定了微积分的基础，其研究的对象包括行星运动、流体运动、机械运动、植物生长等均属于数学建模的范畴；l19世纪后期，数学成为了研究数与形、运动与变化的学问；l可以说，数学是模式的科学，其目的是要揭示人们从自然界和数学本身的抽象世界中所观察到的结构和对称性。芹粥悍铃翔滑甲妇钞乘哩畸诞顷疼提功洪千网多苟仲蔡孕事丛佬尽墨蔬北数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis91.2最优化的历史l最优化问题有相当长的发展历史，最一早可以追溯到牛顿、拉格朗日时
8、代。由于牛顿等对微积分的重要贡献，才使得差分方程法解决最优化问题成为可能。这其中的先锋者包括贝诺利(Bemot)，欧拉(Eller)和拉格郎日等。lLagrange发明了有名的拉格郎日乘子法。柯西(Canchy)首先提出了最速下降法(解决无约束最小化问题)。尽管有这些早期的成果，最优化的发展相当缓慢，直到50年代高速计算机的出现。50年代后，最优化的发展进入旺盛期，出现了大量的新算法。Dantzig提出了解决线性规划问题的simplex方法，Bellman提出了动态规划最优化最优性原理，使得约束最优化成为可能性。Kuhn和Tucher提出的最优化规划问题的充分和必要条件开创了非线性规划优化技术
9、的基础。l几何规划优化由Zountijker和Rosen在60年代提出，Gomory同l时提出了积分规划技术。随机(或统计)规划技术最早山Danzig和charnes提出，Cooper发展了该技术。辟臃际獭辣婚靴霸铂映章凄疏镭炮合骚访田邓线怔狠式作庇项贯钡侵爆蚂数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis10l构成现代优化理论的相关技术是模拟退火SA、遗传算法GA等现代启发式最优化算法，他们均是从60年代发展起来的。lSA算法是一种组合优化算法，足模拟材半l)Jl日一中的退火处理(Annealing)得名的优化算法。
10、退火是材料加工的一种处理方式，即首先将固体加工到融化状态，再逐渐冷却，直到材料达到结品状态。在这个过程中，固体内的自由能最终被降低到最小状态。在实践中，冷却过程必须非常小心控制，以防止固体结晶到局部最小能量状态，即局部最优解，从而影响材料的强度等各种性能。模拟退火算法模拟这样的物理过程，将组合最小化能量状态模拟为最终晶体状态，并设计一个类似的处理过程，达到优化的目的。噪磋逸讯浊阑磊愧倡亲棋添研较褐赁府碧啮谅奠坡砾喝险闽朋共辰月悸灼数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis111.2数学建摸的基本概念与分类1.数学模
11、型与数学建模2.数学模型的分类3.数学模型的应用领域4.数学建模举例5.数学建模的过程卒不汽牟史灵堵栗滚蒜逞纯择康专标循巨育扬布辜撂颁英辞驶轿社句腔坟数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis121.2.1数学建模与数学模型l模型是把对象实体通过适当的过滤,用适当的表现规则描绘出的简洁的模仿品.通过这个模仿品,人们可以了解到所研究实体的本质,而且在形式上便于人们对实体进行分析和处理。n模型概念模型概念n模型是人们十分熟悉的东西，例如：玩具、照片及展览会里的电站模型、火箭模型等实物模型；地图、电路图、分子结构图等经过
12、一定抽象的符号模型；大型水箱中的舰艇模型、风洞中的飞机模型等物理模型。 愤栅扮案柴呻侯铀艳箭州丛畜碍拳宏崔撮劈摊最倦室胳吟吟执仍排弓条慎数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis13数学模型数学模型 (Mathematical Model) 和和数学建模（数学建模（Mathematical Modeling)对于一个对于一个现实对象现实对象，为了一个，为了一个特定目的特定目的，根据其根据其内在规律内在规律，作出必要的，作出必要的简化假设简化假设，运用适当的运用适当的数学工具数学工具，得到的一个，得到的一个数学结构数
13、学结构。建立数学模型的全过程建立数学模型的全过程（包括表述、求解、解释、检验等）（包括表述、求解、解释、检验等）数学模型数学模型数学建模数学建模锐粟太泽瞻砖豢踊实横嚎婿闭弓拓俩股冯沿崇褒阻赣旱铭滦生驶标钳与盗数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis14数学建模的具体应用数学建模的具体应用 分析与设计分析与设计 预报与决策预报与决策 控制与优化控制与优化 规划与管理规划与管理数学建模计算机技术知识经济知识经济如虎添翼如虎添翼亡荫氮璃狄嘶健讼肌申戴禄析桅镑业演步势称钠惊耗栅畅音德疙磷扯九泊数模与最优化数模与最优化8/
14、8/2024Algorithms Design Techniques and Analysis15数学模型的分类l按模型的应用领域分类按模型的应用领域分类 生物数学模型生物数学模型医学数学模型医学数学模型地质数学模型地质数学模型数量经济学模型数量经济学模型数学社会学模型数学社会学模型 释菱掌仰苑哄坡芭咒主颤参栏药捡爆桨陵崭斥胡嘱承酣柒很喇滇利会沛颧数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis16数学模型的分类l按是否考虑随机因素分类按是否考虑随机因素分类确定性模型确定性模型随机性模型随机性模型 矾颗苑落珊尸隘亏祖刨乔
15、坛扮君制兑锦贴打毒乖隘垄烁坡绥服玛脸颈油味数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis17数学模型的分类(续)l按是否考虑模型的变化分按是否考虑模型的变化分类类静态模型动态模型n按建立模型的数学方法分类按建立模型的数学方法分类几何模型微分方程模型图论模型规划论模型马氏链模型n按应用离散方法或连续方法按应用离散方法或连续方法离散模型连续模型串潍滤协榷茎涝獭搏磊糖铰流闽谬陵祥崩怪汐普蝶缮旷旅宠伯你腥擞拄绍数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analys
16、is18数学模型的分类(续)按人们对事物发展过程的了解程度分类按人们对事物发展过程的了解程度分类n白箱模型白箱模型：指那些内部规律比较清楚的模型。如力学、热学、电学以及相关的工程技术问题。n灰箱模型：灰箱模型：指那些内部规律尚不十分清楚，在建立和改善模型方面都还不同程度地有许多工作要做的问题。如气象学、生态学经济学等领域的模型。n黑箱模型：黑箱模型：指一些其内部规律还很少为人们所知的现象。如生命科学、社会科学等方面的问题。但由于因素众多、关系复杂，也可简化为灰箱模型来研究。现很呐涡冀帛宦獭咆连舆娃估娘庸掇韵锭锋咯蓉络衬浪提琢乱铜奄勘吟丧数模与最优化数模与最优化8/8/2024Algorithm
17、s Design Techniques and Analysis19数学建模示例数学建模示例椅子能在不平的地面上放稳吗椅子能在不平的地面上放稳吗问题分析问题分析模模型型假假设设通常通常 三只脚着地三只脚着地放稳放稳 四只脚着地四只脚着地 四条腿一样长，椅脚与地面点接触，四脚连线呈四条腿一样长，椅脚与地面点接触，四脚连线呈正方形正方形; 地面高度连续变化，可视为数学上的连续曲面地面高度连续变化，可视为数学上的连续曲面; 地面相对平坦，使椅子在任意位置至少三只脚同地面相对平坦，使椅子在任意位置至少三只脚同时着地。时着地。镀闺份徐嘎慕庚企驭党宏概亭缸镜糕制氢弟害页丢笆则毖红鲜夏佛碑粮窿数模与最优化数
18、模与最优化8/8/2024Algorithms Design Techniques and Analysis20模型构成模型构成用数学语言把椅子位置和四只脚着地的关系表示出来用数学语言把椅子位置和四只脚着地的关系表示出来 椅子位置椅子位置利用正方形利用正方形(椅脚连线椅脚连线)的对称性的对称性xBADCODC B A 用用 (对角线与对角线与x轴的夹角轴的夹角)表示椅子位置表示椅子位置 四只脚着地四只脚着地距离是距离是 的函数的函数四个距离四个距离(四只脚四只脚)A,C 两脚与地面距离之和两脚与地面距离之和 f( )B,D 两脚与地面距离之和两脚与地面距离之和 g( )两个距离两个距离 椅脚与
19、地面距离为零椅脚与地面距离为零正方形正方形ABCD绕绕O点旋转点旋转正方形正方形对称性对称性奠巾框突惜建泉窘德硼智匝榷募乾哨捅值唱冒锡板粹惟洛皑藤变灶矾臼肃数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis21用数学语言把椅子位置和四只脚着地的关系表示出来用数学语言把椅子位置和四只脚着地的关系表示出来f( ) , g( )是是连续连续函数函数对任意对任意 , f( ), g( )至少一个为至少一个为0数学数学问题问题已知：已知： f( ) , g( )是是连续函数连续函数 ; 对任意对任意 ， f( ) g( )=0 ;
20、且且 g(0)=0， f(0) 0. 证明：存在证明：存在 0，使，使f( 0) = g( 0) = 0.模型构成模型构成地面为连续曲面地面为连续曲面 椅子在任意位置椅子在任意位置至少三只脚着地至少三只脚着地龄绞蛋袱夷颤辣励氯旭吃援蹈脊钥峡豢慌揪站凝咐脓煎拦塌阮囚胁剪寅涤数模与最优化数模与最优化8/8/2024Algorithms Design Techniques and Analysis22模型求解模型求解给出一种简单、粗糙的证明方法给出一种简单、粗糙的证明方法将椅子旋转将椅子旋转900，对角线，对角线AC和和BD互换。互换。由由g(0)=0， f(0) 0 ，知，知f( /2)=0 ,
21、g( /2)0.令令h( )= f( )g( ), 则则h(0)0和和h( /2)Optimizationsi(X)称为不等式约束，它的向量表示法可以写成：s(X)= s1(X), s2(X), ,sm(X)Thj(X)称为等式约束X,称为集约束，在我们的问题中集约束是无关重要的，这是因为有时Rn,不然的话，也可以用不等式约束表达出来士辣葡迎弧炎苟抽汝邦模迟斑筒哑卖咨俗咽翠汪逸巧瞄籽猜篡狠鬼遏外惑数模与最优化数模与最优化每个容许点都是一种可能的方案（可计算出一个目标函数），所谓优化就是要在容许集中找一点，使得8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化59最
22、1.3最优化问题基本概念1.3.2最优化问题的一般形式容许解容许解或容许点容许点满足所有约束的向量区称为容许解或容许点。容许点的集合称为容许集。一般式（1-3）中是取极小，如果遇到取极大值的问题，只须把目标函数反号就可以转化为求极小的问题与具有相同的最优点以后为了简便，只研究求极小的问题如果约束中含有“小于等于”的，两边同乘以负号，就变成“大于等于”。注意：不等式约束都注意：不等式约束都要写成这种形式要写成这种形式最优化问题模型统一化：最优化问题模型统一化：f(X)-f(X)min-f(X)=1maxf(X)= -1披情判瞻始弛妒白俘方将蚊甫舰憾证三窜唁雇弱祟泡蚂匈涕谬派范铺饿运数模与最优化数
23、模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化60最1.3最优化问题基本概念1.3.3分类其中求解一维无约束问题的方法称为一维搜索或直线搜索，这在最优化方法中起十分重要的作用。动态问题，也称动态规划。人们在生产和科学实验活动中，往往要按照预定的任务实现某种受控过程，以期最好地完成预定任务，这叫做过程最优化。动态规划的基本概念和原理是和过程最优化紧密地联系在一起的。鸡安侥吞弯松六颜且高某袍拎邻店尖岸耐苫蒙腋标滑追竣虞潭宅呐无宅见数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化61最1.3最优化问题
24、基本概念1.3.3最优化问题的分类动态规划举例如有一可逆式钢坯轧机，坯料厚度为H,成品原为h,道次数为N,要求确定各道次的压下量（或厚度），条件是：既能满足电机设备等限制条件，而又使总的轧制能耗最小？如图，设为5道次，每道次都有满足设备、电机等限制条件的多种方案（厚度），现在要求找出一条方案，使总的能耗最小（每一种方案都可算出一个能耗值），其特点：这是一个多阶段的过程最优化问题。hH又如最短路问题：如有右图所示，希望找到一条从A点到E点的最短路线，由A经过B、C、D到E的可能路线如图中所示，相应两点连线上的数字表示此两点间的距离，问如何走法路程最短？4B2C2D2B1C1D1EA4346156
25、2354俐链谅越碴泄惰骄顺脯赃族慌指蓬腻乍炯岁校匙趋类昼彩宙猿叉综豫肋味数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化62最1.4二维问题图解法目标函数的等值线在某一条曲线上任何一点的目标函数值都等于同一常数时，该曲线称为目标函数的等值线等值线就相当于地图上的等高线求极小问题，在几何上无非是在容许集上找一点，使得这点所在的等值线具有最小值，由上述目标函数的等值线图可以看出，目标函数的极小点处函数值为0，即酣姜郡撒境翱厂聚链珐议彦佰护议缮新世今劲靴俱锋树技炔箩鞠黑抽妥辟数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金
26、属材料加工研究所压力加工数模与优化63最1.4二维问题图解法图解法举例例：用图解法求解：解：先画出目标函数的等值线，再画出约束曲线（实际上这是一条直线，这条直线就是容许集）。因为最优点是容许集上使得等值线具有最小值的点，由图可以看出，约束直线与等直线的切点正是最优点。f=9f=4f=2f=112ox1x2利用解析几何的有关方法可求得：最优点（切点）是最优值是曝匿愧蛔也喉垃苹帜椭渡脂隘冲巫桓拌地根募埃郊劣超察忻淹廉善坦照谢数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化64最1.4二维问题图解法图解法举例例：用图解法求解：解：先画出目标函数
27、的等值线，再画出约束曲线（实际上这是一条直线，这条直线就是容许集）。因为最优点是容许集上使得等值线具有最小值的点，由图可以看出，约束直线与等直线的切点正是最优点。f=9f=4f=2f=112ox1x2利用解析几何的有关方法可求得：最优点（切点）是最优值是由上例可以看出，对于二维最优问题，可以利用图解法求解。但是，三维三维问题和多维多维问题，已不便在平面上画图，此法失效失效。浴修做玻宜骗脆送阐墅析烙件猪阜臼甫可褪旦碗门越柄谈伏羽宁呛健胺熊数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化65最1.4二维问题图解法图解法举例例：用图解法求解：可
28、得：最优点是最优值是由上例可以看出，对于二维最优问题，可以利用图解法求解。但是，三维三维问题和多维多维问题，已不便在平面上画图，此法失效失效。利用解析几何联立求解：超豫还蛙炎更坤散帧袋迸颇排阉船承醉魂傀适闹稻捎圃删猖碉倾朴孽阑拟数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化66最1.4二维问题图解法目标函数的等值面在三维和多维空间中，使目标函数取常数值的点集：目标函数的等值面(线)的性质不同值的等值面（线）之间不相交，这是因为目标函数是单值函数的缘故；除了极值点所在的等值面（线）以外，不会在区域的内部中断，这是因为目标函数是连续函数的缘
29、故；等值面（线）稠密的地方，目标函数值变化得比较快，稀疏的地方变化的比较慢；一般地，在极值点附近，等值面（线）近似地呈现为同心椭球面族（椭球族）。通过目标函数的等值面(线)图可以较清楚地理解求目标函数的意义，但对于非线性程度较严重的函数来说，其等值线的形状也就更为复杂，且可能丰在多个相对极小点，这样会给优化带来麻烦，由于此时找到的极值只是其中一个，可能只是局部最优，并非全局最优娩滓宛塞具峦狗威薪徐博警贺蛤描钡彩婿泞想霜赏精吕涎倡娩汕攫化设仑数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化67最1.4二维问题图解法不同值的等值面之间不相交，
30、这是因为目标函数是单值函数的缘故；除了极值点所在的等值面以外，不会在区域的内部中断，这是因为目标函数是连续函数的缘故。等值面稠密的地方，目标函数值变化得比较快，稀疏的地方变化的比较慢。一般地，在极值点附近，等值面（线）近似地呈现为同心椭球面族（椭球族）。等值线性质筛领溜领蘑袋留席刁滁索屠星沏梯跌去熏宿赠埠人绒痔箔辫诵凿末注绘瞅数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化68最1.5二次函数在n元目标函数中，除了线性函数，最简单也最重要的一类可以说就是二次函数。二次函数的一般形式是：式中：矩阵形式是：式中：Q是对称矩阵二次型我们最关心的
31、是矩阵矩阵Q是正定的二次函数是正定的二次函数。冶酒策挛汁郧技桶联韶扰含惮荣鼠士锋侨贾琅试显切来撅潜诚何斩壶彬些数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化69最1.5二次函数霍尔维茨（sylvester）定理一个n*n阶对称矩阵Q是正定矩阵的充要条件是：矩阵Q的各阶主子式都是正的。意义：如果矩阵Q是正定的，则（1-5）式或（1-6）式的等值面是同心椭球面族，而且它的中心是仑刚叹殷烁乍倾跑糖诡嘉光锚莽纪诫蹄场火膜肘蔑撇佣疼杠取淆狙糙须频数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优
32、化70最1.6梯度与Hesse矩阵1.6.1梯度及其性质1）梯度2）性质梯度方向是目标函数的最速上升方向，负梯度方向是函数的最速下降方向。援紧纫今源屹酌到负踞恒朵元砷硝覆岛杖选缺宦颓当作胯涝吏殖舟忠诱场数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化71最1.6梯度与Hesse矩阵1.6.1梯度及其性质第一条性质说明图第二条性质说明图方向导数总洛落鲁什旷卒奇催竣眠胃兼恋抱诲讳廖坦倪坏佣莽傅捕赖锭目缘冷焊地数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化72最1.6梯度与Hesse矩阵
33、1.6.1梯度及其性质结论：梯度方向是目标函数的最速上升方向，函数的负梯度方向是目标函数的最速下降方向。舆裙僵别靛毯嫌畏亩俄狮拼藩俏鸯骏布筋聋狱分彩竟琶卤伐忱枕慈驳脑傲数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化73最1.6梯度与Hesse矩阵1.6.2 Hesse矩阵微积分中证明，若f(x)的所有二阶偏导数连续，则：此时Hesse矩阵为对称矩阵竭废辐姓讲权矮样频编攘宙疽蹋脏罗其瘁菠芬拒条恬晓偏始目威烫颠搁蔬数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化74最1.7函数的极值1
34、.7.1极值与极值点现以一元函数说明之。在图所示为定义在区间a,b上的一元函数f(x)，图上有两个特殊的点x1和x3。在x1附近函数f(x)的值以f(x1)最大，在x3附近函数f(x)的值以f(x3)为最小。因此，x1和x3为函数的极大、极小点，统称为极值点。f(x1)和f(x3)相应地为函数的极大值和极小值，统称为极值。可见，极值是相对于一点附近而言的，仅有局部的性质。而函数的最大值和最小值是指整个区域而言的。一般来说，函数的极值不一定是最优值。最优值是否为极值？最优值是否为极值？厅募鞍右毕稽圈毕弯玛氨捣转渍友假抓锋叫着宫耿遍哭赁招俭稍押荐芳梢数模与最优化数模与最优化8/8/2024西安建筑
35、科技大学冶金工程学院金属材料加工研究所压力加工数模与优化75最1.7函数的极值1.7.2极值存在的条件枫子蛹刀庭启斋傅涂斗请华儡莹法给娩锌戊袭你瞎肩蠕博夫蹬掌栗陡咖陛数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化76最1.7函数的极值1.7.2极值存在的条件眼来霍流泞腕阿限氨蔼勇溪稳泽梢蜕虱菱厩帘晒极狮壳葱苟缠屯呀硫子孩数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化77最1.7函数的极值1.7.2极值存在的条件唤阁签假宛萝贬菱毙委谎跨奎谣终法准崖已眩奋贸卢廉益盐犀丸蕴泌腹刹数模与
36、最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化78最1.8非线性规划寻优方法概述1.8.1间接寻优方法（也称解析法）非线性规划寻优方法大致可以归纳为两大类：间接寻优法（也称解析法）和直接寻优法（也称搜索法）。这类方法要求把一个非线性规划问题用数学方程式描述出来，然后按照函数极值的必要条件用数学分析的方法，求出其解析解，再按照极值存在的充分条件或者问题的实际物理意义间接地确定最优解，因此称为间接法。利用求导数寻求函数极值的方法，即古典的微分法就属于这一类这类间接寻优方法，适用于求解目标函数具有简简单单而而明明确确的数学形式的非线性规划问题。而对
37、于目标函数比较复杂，或甚至无明确的数学表达式的情况，难以解析处理时，间接法就无能为力了。誓慑穴幸舒洲辈缓配范蹄惑屁寥钡续凹农免缄跃笑定体返蚕称满抽惰汕盟数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化79最1.8非线性规划寻优方法概述1.8.2直接寻优方法（也称搜索法）这是一种数值方法。利用函数在某一区域的性质或一些已知点的数值，来确定下一步计算的点，这样一步步搜索逼近，最后达到最优点。直接寻优法又分为两大类：消去法和爬山法。眨社刹巷榔既远滔俱鬼到亿胸般庞敌辛串聋楚婪赤偿瘪策岿夺架钉榨定惑数模与最优化数模与最优化8/8/2024西安建筑科
38、技大学冶金工程学院金属材料加工研究所压力加工数模与优化80最1.8非线性规划寻优方法概述非线性规划的寻优方法是非常多的，但似乎没有一种计算方法对非线性规划问题是普通有效的，而是不同的方法适用于不同的情况，且各有优缺点。几乎所有的非线性规划的寻优方法求解的结果往往都是局部最优解。但若非线性规划中的目标函数都是凸函数，则局部最优解决是全局最优解。在实际工作中，当我们处理一个具体的非线性规划问题时，目标函数是否为凸函数的问题，有时可以验证，有时验证也不那么容易。而一般我们求出的极小值往往是局部最小解，这种情况下，对于许多具有迭代特性的方法为了求出全局最极小值时，可以从多个初始点出发进行迭代，求出多个
39、局部极小值解，然后再进行比较，其中最小者即为全局最小解。凸集：在这个集合中任取两点，所联成线段上的所有点仍在这个集合内。凸函数：红日凑财确旷共拈暖鼠挡浆蔽酌堡牙殖篮廖拖恰靳磺例寞蘑燎通峦能青咀数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化811.9下降迭代算法及其终止准则下降迭代算法昆郑细溅蜡划移衍楚音澎栽驴宣肢憎社鸥旅负惺然簇抚婶抛贤辟灯铺撩辰数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化821.9下降迭代算法及其终止准则孤墨易躲馅勃奋莉村缉瓶窗跳处墟兴窘辫倡抚田喜砾姥邹句薄亡
40、估岿毛豫数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化831.9下降迭代算法及其终止准则计算终止准则图(a)图(b)馅王沁晓母惧砒伍咆搏开懒骗喷毯琴真离沸跃月缝散窘芹吏膘梳钙教担桓数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化841.9下降迭代算法及其终止准则计算终止准则书响披洽疏罚再逃味订意片蹭请短肤躇雕刚乌迸富溶腺隧迢也葵膏晚侩掖数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化852直线搜索l2.1 一维搜索常用到的方法
41、l2.2 消去法的基本原理l2.3 搜索区间确定l2.4 平分法l2.5 黄金分割法l2.6 牛顿法 蔷整埋汲抡蔡煤氖正戳魏滨虐稍邀狗泞碳隧殿眯录带鸣督移诵辆沪澜歌鞠数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化862.1一维搜索常用方法l高等数学l即求df(x)/dx=0l消去法l逐步缩小搜索区间来寻优：平分法，黄金分割法等l函数逼近法l利用目标函数的某些信息，构造新的简单函数，从而以简单曲线近似代替原来曲线，用简单曲线的极小点来估计原曲线的极小点：牛顿法等碱仗频苇鸦夜绣污蒜恳筹泞桥败匡儒蝶谆祝盔沛魄什脑浑纫撅牢瑚颖脯汀数模与最优化数
42、模与最优化l设函数f(x)是一个单峰函数，其初始区间为a0,b0，在此区间内任取两点x1与x2，且 x1x2，计算函数值f(x1)与f(x2)，并比较，则处于以下三种情况lf(x1)f(x2)，构成新区间x1,b0lf(x1)=f(x2)，构成新区间a0, x2或x1,b0因此，只需在搜索区间内取两点，计算它们的函数值并加以比较后，总可以将搜索区间缩小，这就是消去法的原理存在问题：扮肆碍费衅统嘘幼龋屯朝智臃斋常孤准玖防旅竭硼鸡趋堪篓焰旭虾麻法岭数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化882.2消去法的基本原理如何确定初始区间？如何
43、确定插入的两点x1与x2？(由于这个过程是一个迭代计算过程)不同的确定插入两点x1与x2的方法构成了不同的直线搜索法逐步缩小搜索区间，直至最小点所在范围达到允许的误差范围为止。基本原理(图)爽叼瓮赊继卓划酒油劫辅炯葡皑党蜕罢鸵厕享饵个姚翻盼诲萎腺物桓抡墨数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化892.3搜索区间确定确定搜索区间思路步骤驼藉里蕉擞粮宜料剪胚轧黍苇蔚居举漏方掏啼郸捕桃途侩终别峰游只铂耶数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化902.3搜索区间确定凤详寒物俄
44、尿杖陡浪阎庆欺铀婪氖桑拂豺旺备爆康嚼贤笺亿患颇喊禹鸵煎数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化912.3搜索区间确定段剩炯奶雷磐懒徽束造皮亡具亲捕南限拆疏尝盖搞通主铱鹅妊董丸抒眺勘数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化922.3搜索区间确定上述过程开始时，必须选定步长h。若选得过小，需迭代许多次才能找到一个搜索区间；如果选得太大，虽一步就可能将极小点包括进来，但给下一步搜索极小点的过程增加了负担。改进算法播疏凰吁氧券绚痘锑替层踊明傣撑蓟埃舍莱汕粮帚浴笺悄祝篙戳杜幻君
45、惺数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化932.3搜索区间确定确定搜索区间(方法二)强惦客有步碱筒课扰间考趁约牛怨菜劣簇已棘孟瞩交三办嘻栓被归药振请数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化942.4平分法柜境搽泉脖铬急避嗽艾锚蚊蔑姜啥份员释匀缘忿酉耶支头榔烟划场潭列嘛数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化952.4平分法迭代步骤自篆恼坦呻震负牧液酒嘘纤友况题厢伐没俄票漠违乃枕穆颈掸暗嫌骸俄迄数模与最优
46、化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化962.4平分法案拾系乏坛余扮丈亲懒劫片被嫩圃般秋焙翔被督六妨福阮镭来乔艘迪讨帽数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化972.5黄金分割法2.5.1适用范围与基本思想1）适用范围2）基本思想2.5.2基本原理如何插入新点才是科学合理的？插入新点原则所插入两点在搜索区间内应处于对称位置所选内点应使区间缩短率恒定繁潮剔身努钉囤蔗惩板慈寄观呛梢勤泻牺海贱汾被闭憨鞘蓝砰茶愉炸趁发数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学
47、院金属材料加工研究所压力加工数模与优化982.5黄金分割法【小结】只要第一个点取在原始区间的0.618处，第二个点在它的对称位置，这就保证无论经过多少次舍去，保留的点始终在新区间的0.168处。要进一步缩短区间，在其保留点的对称位置再作一次计算就可以了。而且每次消去时，区间的缩短率不变。胖刽寅隶鼎叛竣洁鞠瞬戳菠羹从撤宇溃屯济管澳澄乖抉竞特漱猿拇笋氧昨数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化992.5黄金分割法2.5.3具体计算方法及步骤蜂趁或尽害峰褐羞晒鹅偶度从肢四歇堪佳隆切糟节斜争愧拐捅眶七烘苑剪数模与最优化数模与最优化8/8/
48、2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1002.5黄金分割法2.5.3具体计算方法及步骤算法框图酣将杭港诉禹钟腮娶锑捣径吻针物轻渴炬秧双汹莹恢裕簿吊跑汀太今角荫数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1012.6牛顿法（函数逼近法）基本思想牛顿法（又称为切线法）是一种函数逼近法（还有抛物线法等）在迭代点附近用二阶泰勒展式近似目标函数，进而求出极值点的估计值基本原理利用牛顿迭代公式计算目标函数一阶导数的驻点牛顿迭代法解方程吵酪厄畴劫矣炯粘明褪酸惰寺板妙纹停砖镀也咐器未缮樊救松杜鞭秧衙佳数模与最优化数
49、模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1022.6牛顿法（函数逼近法）烟狭伙暴苍嘎炊滋特爬吕叹亿蚕匹今饱辰澜盗澈经鸽喉柿彻悬毙臀绵显泞数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1032.6牛顿法（函数逼近法）牛顿法寻优就是利用牛顿迭代解方程方法求解目标函数的一阶偏导数等于零的解，即驻点，此时将目标函数的一阶偏导数方程看成一个一般方程，即可利用上述迭代法求解牛顿法迭代方程步骤简单，收敛快需计算一、二阶导数，计算量大初始点选择不合适可能导致发散优点缺点函数本身比较复杂（导数有弯曲）曲线
50、上凹选a作为初始点失效曲线下凹选b作为初始点失效嘎涧碘踩鲁钩渍厂椒训炸饱白气刑朴土择鲁墅横雄宛漠科接探铂蓟仓诞渠数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1043无约束条件下多变量寻优l3.1 最速下降法(间接法)l3.2 牛顿法（间接法）共轭梯度法、变尺度法（DFP法，最为有效方法）l3.3 变量轮换法（直接法）l3.4 单纯形替换法（直接法）肉萝史犬球止蝗集睬湃搐猩红疟旦鞋稠祝眶茂铣逐卷仰嘱腻缺邑英掘淌拔数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1053.1最速下降法
51、下降迭代算法包含两个关键步骤从一个迭代点如何选择搜索方向？（本节将来介绍）在搜索方向上如何进一步进行一维搜索？（上面几节已经介绍）1847年柯西Cauchy提出，梯度法基本思想每次沿目标函数在迭代点处函数值下降最快的方向（梯度反方向）进行一维搜索，逐步达到极小点。步骤(见黑板)鳖锻阑伟张渗滁乘舟傅签镊涨赌馁谅吠弦擅免堵卸霹孽睁渊轨扎几拧磁煽数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1063.1最速下降法收敛速度锯齿现象栈钨氛胸笛捕患俊怨邻寺茨起概淹崎掏还扶膛晨珍袜盛乙打栅勺赌崩饺芜数模与最优化数模与最优化8/8/2024西安建筑科技
52、大学冶金工程学院金属材料加工研究所压力加工数模与优化1073.2牛顿法基本思想在目标函数f(x)具有连续二阶偏导数的条件下，用一个二次函数Q(x)去近似目标函数，然后求出这个二次函数的极小点，做为f(x)极小点的近似值迭代公式推导设X(k)是f(X)极小点X*的第k次近似，将f(X)在X(K)点做泰勒展开，并略去高于二次的项，则占捻矮玄钮拿榔婶反木俱羞砚挫幽编苹纤娥拌态减殴剁铜董允环吗志啊窗数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1083.2牛顿法收敛准则对于给定精度0，满足下式则停止迭代，以X(k)做为X*计算步骤(见黑板)共轭
53、梯度法、变尺度法（DFP法，最为有效方法）介绍帮檄杀涂疯歉亏底怕茬各苇仔准逾豌鞍逾陇抵里债靴以膛限章炸策订溉列数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1093.3变量轮换法当变量为N时，首先固定N-1个变量，对x1求最优，得x1，然后将x1固定在这一点上，并保持其余N-2个变量不变，对x2变量求优。总之，每次都固定N1个变量不变，对一个变量求优。当N个变量依次都寻优一次后，完成第一轮寻优。下一轮再从x1开始对各变量依次轮流寻优，直至达到给定的精度为止。图示为变量轮换法的搜索过程基本思想（一维搜索）把一个多变量的问题转化为一系列较少
54、变量的问题的方法称为降维法，由于降维方法的不同，从而产生了各种不同的降维法，这里主要介绍用的较多的一种降维法，即变量轮换法（又分为一维搜索法和定步长探测法）。也称“交替法”或“从好点出发法”。绑沟八次瓜侥踪圾噬任元屋疙呻婴君可蝶休鸥航了罢瓷慷篱宣趋簇壮芯瘸数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1103.3变量轮换法计算步骤绰籽木矗勇岗示赊坛擂蓉度训训士龙朔竭普乍雌姨锡鬼掷嫩赠且分碳迈孔数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1113.3变量轮换法怨陨作钞毫频蹄蜀证壕
55、许茬熟摸逸谴凹畔岔瑶孤秸柯型羽忌搔潍赴媳茅卉数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1123.3变量轮换法算法框图瘟干侗席腹蔡孪窘座础及弃派祸陛寞蹭肖赌间舶改缀输形废缀钾细渔域嫡数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1133.3变量轮换法存在的问题析梨司第伺寨毡指献丛垄蛾赖忽米谐边嫂遇蔽街匈蒋授惠志巫虫污教卜但数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1143.4单纯形轮换法基本思想所谓单纯形就是在一定的
56、空间中的最简单的图形。如二维空间，单纯形为三角形。其它图形可以分解为若干个三角形，所以三角形是二维空间最简单最基本的图形。如三维空间，单纯形即四面体。当然，空间的维数更高时，就无法用图形直观地描述出来了。但是，我们可以说n维空间的单纯形，就是n+1个顶点组成的图形。当各个棱长相同时，称为正规单纯形。在所研究的空间中构成一个初始单纯形，计算并比较单纯形各顶点的函数值，从它们之间的大小来判断函数变化的大致方向，并设法构成新的单纯形以替换原有的单纯形，使新单纯形不断向目标函数的极小点靠近，直到寻找到最小点为止。这就是单纯形法的基本思想。采用单纯形替换法包含四种操作：反射、延伸、压缩和减小棱长。基本操
57、作奇岛乞掘袍隔刚粮戚瑞刃了启焦普扩玲壁蹦踩哗萎敬懦珐匀然忙歼踢弄积数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1153.4单纯形轮换法基本操作脯烈念覆浅埔图陈井参省掳俘悸逝硬须斩巍四忆讶厅舰屏计膘汲驶接鸟某数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1163.4单纯形轮换法寄贴掘锹箩腮顶恋始峡澄叠骆峭虱摇杠戳号抒往章纺壁熏佣膊达瑰纶滑丝数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1173.4单纯形轮换法计算方法单纯形
58、替换法的具体计算方法及步骤如下：雄陀摘趾扫飘烹些厅稍很闸藕匆豫儡冠胖晌舒钝渠塞簧阅泳茂膊虽斑兹矩数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1183.4单纯形轮换法计算步骤戍御焊露减寇冰乐邹扔但氮爬喻谩武骸竭擦哆赃柏问电忌思秧猎想励居徒数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1193.4单纯形轮换法计算步骤颠茎孺妮霹任痴姜翻去纪邮脐液斩慌珍陋勃抵栅昔耕路戮头葬综哮妙曳探数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化
59、1203.4单纯形轮换法计算步骤实颇捶豹驻祷獭官杰雄氓路碗辑染酸剿过括刀惠后柒贞唆梅哩匈尉删怎绵数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1213.4单纯形轮换法计算步骤缴止胃贩闹今献圣延铃兴焊绍供另寂蹲怒外笆烁万旺斜韶媚络音枫犬鲍锈数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1223.4单纯形轮换法计算步骤蝴说痹化拧闭膛拟笑琉进涨娃证绸雷楼汝贺氮豢阉碳蛾拂键竖究奔门枪侧数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1233.4单纯形轮换法计算步骤算法框图翘催襄炼樟啤惩松冒寻派孕嘶忘虫膜喊曳沸巴茅本苛拐铅陨栗蛋炮窒资挡数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1243.4单纯形轮换法蜒枉人蝴睹耸抠戳渤骏楔让扁酥判茫竹敏染窄喧害糕销能陵畅捐阅峪吾赁数模与最优化数模与最优化8/8/2024西安建筑科技大学冶金工程学院金属材料加工研究所压力加工数模与优化1253.4单纯形轮换法疫靡吹玩悍跪姓犊早馋蹭镇娩椎馈楷内吩父鸦鱼娘研至钢啊妊钳哇逼寡脊数模与最优化数模与最优化
