《常用一维搜索算法》由会员分享，可在线阅读，更多相关《常用一维搜索算法（4页珍藏版）》请在金锄头文库上搜索。
1、word格式-可编辑-感谢下载支持无约束优化：不对定义域或值域做任何限制的情况下，求解目标函数的最小值。这是因为实际应用中，许多情形被抽象为函数形式后均为凸函数，对于凸函数来说局部最小值点即为全 局最小值点，因此只要能求得这类函数的一个最小值点，该点一定为全局最小值。(直接法：又称数值方法，它只需计算目标函数驻点的函数数值，而不是求其倒数，如坐标轮换法，单 纯型法等。间接法：又称解析法，是应用数学极值理论的解析方法。首先计算出目标函数的一阶或一阶、二阶导数， 然后根据梯度及海赛矩阵提供的信息，构造何种算法，从而间接地求出目标函数的最优解，如 牛顿法、最速 下降法共轭梯度法及变尺度法。)在优化算
2、法中保证整体收敛的重要方法就是线搜索法与信赖域法，这两种算法既相似又有所不同。根据不 同的线搜索准则就延伸出不同的线搜索算法，譬如比较常见和经典的最速下降法，牛顿法,拟牛顿法以及共辄梯 度法等。一维搜索又称线性搜索(Line Search)，就是指单变量函数的最优化，它是多变量函数最优化的基础，是求解无 约束非线性规划问题的基本方法之一。一维搜索技术既可独立的用于求解单变量最优化问题，同时又是求解多变量最优化问题常用的手段，虽然 求解单变量最优化问题相对比较简单，但其中也贯穿了求解最优化问题的基本思想。由于一维搜索的使用频率 较高,因此努力提高求解单变量问题算法的计算效率具有重要的实际意义。在
3、多变量函数的最优化中，迭代格式Xk+1=Xk+akdk其关键就是构造搜索方向dk和步长因子ak设(a)=f(xk+adk)这样从凡出发，沿搜索方向dk,确定步长因子ak,使(a)0)则称这样的一维搜索为最优一维搜索，或精确一维搜索,ak叫最优步长因子；如果选取a/吏目标函数f得到可接受的下降量，即使得下降量f (xk) f (xk+akdk)0是用户可接受的，则称这样的一维搜索为近似一维搜索，或不精确一维搜索，或可接受一维搜索。由于在实际计算中,一般做不到精确的一维搜索，实际上也没有必要做到这一点，因为精确的一维搜索需要 付出较高的代价，而对加速收敛作用不大，因此花费计算量较少的不精确一维搜索
4、方法受到了广泛的重视和欢 迎。word格式-可编辑-感谢下载支持精确一维搜索，作为一种理想的状态，虽然在实际计算中被采用的概率较之不精确一维搜索要小，但有关精 确一维搜索技术的研究历史悠久成果相当丰富，方法众多,其理论体系也相对比较完备，对其进行进一步的研究 仍有着重要的理论意义和现实意义。通常我们根据算法中有无使用导数的情况，将精确一维搜索算法分为两大 类:一类是不用函数导数的方法,这其中就包括二分法（又称作对分法或中点法）、0.618法（黄金分割脚、Fibonacci 法（分数法）、割线法、成功一失败法等;另一类是使用函数导数的方法，包括经典的Newton法、抛物线法以及各 种插值类方法等
5、。（1）在不用导数的方法中，二分法、0.618法（黄金分割法）以及Fibonacci法均是分割方法，其基本思想就是 通过取试探点和进行函数值比较,使包含极小点的搜索区间不断缩短，当区间长度缩短到一定程度时，区间上各 点的函数值均接近函数的极小值,从而各点均可看作极小点的近似。分割类方法仅需计算函数值，因此使用的范 围较广，尤其适用于非光滑及导数表达式复杂或写不出等情形。二分法是一种最简单的分割方法，每次迭代都将搜索区间缩短一半，故二分法的收敛速度是线性的,收敛比 为0.5,收敛速度较慢。其优势就是每一步迭代的计算量都相对较小，程序简单,而且总能收敛到一个局部极小点。黄金分割法是一种针对目标函数
6、是单峰函数亦即目标函数为凸的情形的分割类方法，因其不要求函数可微, 且每次迭代只需计算一个函数值，程序简单容易实现而被广泛采用。由于黄金分割法是以等比例t =0.618分割 缩小区间的，因此它是一种近似最优方法。针对在实际中遇到的目标函数往往不是单峰函数的情 况,HPonfiger（1976）提出了.0618法的改进形式，即在缩小区间时，不只是比较两个内点处的函数值，而是对两内点 及其两端点处的函数值进行综合比较，以避免搜索得到的函数值反而比初始区间端点处的函数值大的情况。经 过这样的修改，算法比.0618法要更加可靠。Fibonacci法是另一种与.0618法相类似的分割类方法,两者的主要区
7、别在于Fibonacci法搜索区间的缩短比 率不是采用黄金分割数T ,而是采用Fibonacci数列。在使用Fibonacci法时,通常是由用户给定最终区间长度的 上限，从而确定探索点的个数,逐步进行搜索。通过对Fibonacci数列进行分析表明，在迭代次数n趋于无穷的情 形。Fibonacci法与.0618法的区间缩短率相同，因而Fibonacci法的收敛速度也是线性的，收敛比也是黄金分割数 t。可以证明,Fibonacci法是分割方法求解一维极小化问题的最优策略,而0.618法只是近似最优的，但因0.618 法不必预先知道探索点的个数，程序实现更加容易，因而应用也更加广泛。抛物线法也可称作
8、三点二次插值法，其基本思想与下面要叙述的牛顿法相同，也是用二次函数近似目标函 数，并以其极小点去近似目标函数的极小点，不同之处是牛顿法是利用目标函数fx（）在x0处的二阶Tyalor展式来 逼近f（x）,而抛物线法则是利用目标函数fx（）在三个点x0,xl,xZ处的函数值构造一个二次函数作为其近似。一般 地,抛物线法并不能保证算法一定收敛，在迭代过程中有可能会出现相邻迭代点xk，xk+1充分接近且xk+1并非函数 近似极小点的退化情况。但在己知迭代点列收敛到目标函数极小点的情况，可以证明:在一定的条件下，抛物线法 是超线性收敛的,收敛的阶约为1.3。割线法与分割法类似，也是通过取试探点和进行函
9、数值比较，使包含所求点的搜索区间缩小,但试探点的取word格式-可编辑-感谢下载支持法与分割法不同,它是选取连接两个端点的线段与横轴的交点作为试探点。割线法不能保证每次都使搜索区间 缩小一定的比例,因而不具有全局线性收敛性，但是它却利用了函数的一些性质。在函数接近线性时，它是非常快 的。如果函数本身是线性函数时,它可以一步找到解。(ii)一般地，使用导数的方法通常包括牛顿法、插值法等，其中插值法又有一点二次插值法(牛顿法)、二点二 次插值法)、三点二次插值法以及三次插值法、有理插植法等常用方法。求一维无约束极小化问题的牛顿法是从计算方法中方程求根的牛顿法演化而来的，其基本思想是用目标函 数f
10、(x)在己知点x0处的二阶Tylor展式g (x)来近似代替目标函数，用g (x)的极小点作为f (x)的近似极小点，迭代公 式是X =x = S 海k s K生顿法的优点是收敛速度快，具有局部二阶收敛速度;缺点是要在每个迭代点处计算函数的二阶导数值，增 加了每次迭代的工作量，而且它要求迭代初始点要选的好，也就是说初始点不能离极小值太远，在极小点未知的 情况下，做到这一点是很困难的，这就限制了算法的应用范围，导致算法不实用。事实上，牛顿法也是插值类方法 的一种。插值法是一类重要的一维搜索方法，其基本思想是在搜索区间内不断用低次(通常不超过三次)多项式来 逼近目标函数，并用插值多项式的极小点去近
11、似目标函数的极小点。实践表明，在目标函数具有较好的解析性质 时,插值方法比直接方法(如.0618或Fibonacci法)效果更好。所谓不精确一维搜索方法是指应用各种可接受的步长选择律的线性搜索方法。常用的不精确一维搜索算 法包括利用简单准则的后退方法、经典的Armijo-Goldstein方法、Wolfe-Powell方法和强Wolfe-Powell方法、以 及其后发展起来的利用Curry-Altman步长律、改进的Curry-Altman步长律、Danilin-Pshenichuyi步长律、De Leone-Grippo步长律、Backtracking步长律等的各种方法（P19-24）方法、
12、特点可靠性有效性简便性备注程度特点程度特点程度特点问题 大小直接法坐标轮换法中对背脊稳问题舍入误差低不具有收敛 性高程序简单，内 存少n10鲍威尔法高S.(k)有较高 的共轭程度高近似二次收 敛性中程序较繁，内 存量较大n1020V间接 法梯度法中舍入误差低不具有二次 收敛性高结构简单，内 存少低维牛顿法低函数二次性 要求严高具有二次收 敛性低程序复杂，内 存大低维变尺度法高对函数要求 低高高二次收敛 性中程序较繁，内 存量一般高维V坐标轮换法：可靠性较高，算法效率太低，操作方便，一般只用于低维问题，n10word格式-可编辑-感谢下载支持鲍威尔法：可靠性高，算法效率较高，操作较复杂，一般适用于n1020的问题梯度法：可靠性较高，算法效率低，操作方便用于低维、低精度的问题。牛顿法：可靠性低，算法效率高，操作不方便，很少用。变尺度法：可靠性高（BFGS比DFP更高），算法效率高，使用较复杂，适用于高维问题
