《零阶优化和一阶优化算法》由会员分享，可在线阅读，更多相关《零阶优化和一阶优化算法（3页珍藏版）》请在金锄头文库上搜索。
1、零阶优化和一阶优化算法零阶优化和一阶优化算法零阶优化方法和一阶优化方法通过对目标函数逼近或对目标函数加罚函数 的方法将约束的优化问题转换为非约束的优化问题。两种算法的主要区别在于： 零阶算法不利用一阶导数信息，一阶算法利用一阶导数信息；因此，一阶算法 迭代一次所需要的时间大于零阶算法。1 零阶优化算法零阶优化算法 零阶算法是在一定次数的抽样基础上,拟合设计变量、状态变量和目标函 数的响应函数,从而寻求最优解,顾又可称其为子问题方法。函数曲线(或曲面)的 形式可采用线性拟合、平方拟合或平方加交叉项拟合。若采用平方拟合,则目标 函数的拟合公式为:对于设计变量和状态变量的约束条件,可采用罚函数将其转
2、化为无约束方程, 如式(2),从而将带有约束的优化问题转化成无约束的最小值求解问题。上式中,xi 为设计变量,gi、hi、wi为状态变量,X、G、H、W 为对应的罚 函数,其形式如式(3)所示。f0 为目标函数的参考值,pk 为响应面参数。当设计变 量(或状态变量)接近限值时,其罚函数值将急剧增加,如图 1 所示。转化为无约束问题后,即可采用序惯无约束极小化方法(SUMT)来搜索无约 束目标函数。2 一阶优化算法一阶优化算法 一阶方法在优化过程中需要使用状态变量和目标函数对于设计变量的偏导 数,因此被称为一阶方法。采用与零阶算法类似的方式,可将约束条件转化为罚函 数,并将无约束目标函数分作目标
3、函数和惩罚函数两部分,如式(5)所示。对于第 i 步优化迭代,引入优化搜索方向 d(j)，则下一步的设计变量值变为:式中: sj 为线搜索参数,对应于搜索方向 d(j)上的最小步进值,它使用黄金 分割比和局部的平方拟合技术来得到,其范围限制由式(8)给出:式中: sj 为最大可用步进值,而 smax 是设置的步进缩放尺寸, smax(0, 100。 根据式(5),搜索方向 dj 可分为如式(9)所示的两部分,这两部分均可由 Polak- Ribiere 递推式 9确定:参考文献：参考文献： 1Tu W,Mayne R W.An approach to multi-start clusterin
4、g for global optimization with non-linear constraintsJ.International Journal for Numerical Methods in Engineering,2002,53:22532269. 2Montgomery D C.Design and analysis of experiments M.New York:John Wiley&Sons,1991. 3Zheng Q,Zhuang D M.Integral global optimization:Algorithms,implementations and numerical testsJ.Journal of Global Optimization,1995,7:421454.
