《梯度法和共轭梯度法讲解》由会员分享,可在线阅读,更多相关《梯度法和共轭梯度法讲解(27页珍藏版)》请在金锄头文库上搜索。
梯度法和共轭梯度法 1. 无约束最优化问题 2. 梯度法 3. 共轭方向法 4. 共轭梯度法 一. 无约束最优化问题 解析法:利用函数的解析性质构造迭代公式。 二. 梯度法(最速下降法) 迭代公式: 如何选择下降最快的方向? 梯度法(最速下降法): 梯度法算法步骤: 解: 收敛性 性质. 几何解释 三、共轭方向法 1. 何谓共轭方向? 2. 共轭方向 共轭是正交的推广。 3、共轭方向法 四. 共轭梯度法 : 如何选取一组共轭方向? q 二次函数情形 q 非二次函数情形 以下分析算法的具体步骤。 1、 二次函数情形 2. 用于一般函数的共轭梯度法