《最优化最速下降法和Newton法ppt课件》由会员分享,可在线阅读,更多相关《最优化最速下降法和Newton法ppt课件(34页珍藏版)》请在金锄头文库上搜索。
1、采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物最优化最优化主讲:刘陶文课件制作:刘陶文课件制作:刘陶文唯楚有材唯楚有材 於斯为於斯为盛盛学好最优化,走遍天下都不怕学好最优化,走遍天下都不怕采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物第三章第三章 无约束问题算法无约束问题算法(I)(I) 最速下降法、最速下降法、 Newton法法 第一节 最速下降法 第二节 Newton法及其修正形式采用PP管及配件:根据给水设计图配置
2、好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物第一节第一节 最速下降法最速下降法1 1、 思想思想 :每次沿负梯度方向进行搜索:每次沿负梯度方向进行搜索等值线(面)最古老的优化方法,十九世纪中叶由Cauchy提出采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物负梯度方向也称为最速下降方向:以负梯度为搜索方向的算法称为最速下降法
3、采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物2 2、 算法步骤算法步骤最优化算法看来是如此的简单?采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物事实上,上面的例子刻画了最速下降法的所有收敛特征采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保
4、证切口面的圆度,保持熔接部位干净无污物3 3、 最速下降法的收敛性最速下降法的收敛性全局收敛性采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物收敛速度估计收敛速度估计采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物从上图可以看出,最速下降法从上图可以看出,最速下降法 具有锯齿现象具有锯齿现象采
5、用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物对一般的非二次函数有下面的收敛速度估计:定理的证明参见文献19,定理3.4采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物 由上面的分析可知,最速下降法的收敛速度比较慢,通常将其用在某些算法的初始阶段求较好的初始点或作为某些算法的间插步.思考题:思考题: 有点难啊有点难啊采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度
6、,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物 第二节第二节 Newton Newton法及其修正形式法及其修正形式 1 1、思想:用近似二次函数的极小点作为原问题的新的近似解、思想:用近似二次函数的极小点作为原问题的新的近似解几何解释:采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持
7、熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物2 2、 Newton Newton法的算法步骤法的算法步骤采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接
8、部位干净无污物对不同的两个初始点,经一次迭代求出最优解,这是偶然还是必然的呢?采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物下面我们来看看最速下降法与Newton法求解二次函数的比较采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物等值线采用PP管及配件:根据给水设计图配置好PP管及配件,用管
9、件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物3 3、Newton Newton 的收敛性的收敛性 采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物4 4、 局部二次收敛性局部二次收敛性采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物(1) 收敛性略,参见前面的牛顿法的收敛性(2) 收敛速度采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面
10、的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物5 5、 Newton Newton法的修正形式:如何有效计算下降方向法的修正形式:如何有效计算下降方向采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物该算法有较好的稳定性及较快的收敛速度采用PP管及配件:根据给水设计图配置好PP管及配件,用管件在管材垂直角切断管材,边剪边旋转,以保证切口面的圆度,保持熔接部位干净无污物从Newton法出发进行修改 ,利用其优点,克服其缺点,产生很多效果非常好的其他新算法上面的Newton法的两种修正形式,在较弱的条件下具有超线性收敛性或二次收敛性. 还有很多其他的修正形式Newton法 的优点:收敛快; 缺点:对初始点要求很高,而且 计算量大注意:注意: