《拉格朗日乘数法和拉格朗日中值定理》由会员分享，可在线阅读，更多相关《拉格朗日乘数法和拉格朗日中值定理（2页珍藏版）》请在金锄头文库上搜索。
1、拉格朗日乘数在数学最优化问题中，拉格朗日乘数法是一种寻找变量受一个或多个条件所限制的多元函数的极值的方法。这种方法将 一个有n个变量与k个约束条件的最优化问题转换为一个有n + k个变量的方程组的极值问题，其变量不受任何约束。 这种方法引入了一种新的标量未知数，即拉格朗日乘数：约束方程的梯度(gradient)的线性组合里每个矢量的系数。简单举例：最大化f(x,y) 受限于g(x,y)=c .引入新变量拉格朗日乘数 ,即可求解下列拉格朗日方程一 /a A.=d “. X I t I.八“ 厂！、从而找到能让设出的隐函数的微分为零的未知数的值。因为极值点的导数(导数表示变化率)为0 那么可以对x
2、,y，人分别求导，求导式子结构为0。矢量的形式来表达的话，我们说相切的性质在此意味着和口的斜率在某点上平行。此时引入一个未知标戢，并求解:V/(.T?y) +A(g (x.y) -r) =0一旦求出久的值，将其套入下式，易求在无约束极值和极值所对应的点。新方程卜“:在达到极值时与”八“湘等，因为卜h达到极值时：厂总等于零。拉格朗日乘数的运用方法如f定义为在Rn上的方程，约束为gk (x) = Ck(或将约束左移得到gk(x) - Ck = 0)。定义拉格朗日人为注意极值的条件和约束现在就都被记录到一个式子里了：= o V/=刀入闪弘 VxA = 0gk 和拉格朗日乘数常被用作表达最大增长值。原
3、因是从式子：中我们可以看出久是当方程在被约束条件下，能够达到的最大增长率。拉格朗日乘数法宅Karush-Kuhn-Tucker最优化条 k件被推广。例子求此方程的最小值：门八J同时未知数满足-因为只有一个未知数的限制条件，我们只需要用一个乘数.= t2 + y2 - 1 &你入）=f（x,y） + Xg（x,y） = x2y + 1）将所有方程的偏微分设为零，得到一个方程组，最大值是以下方程组的解中的一个:2xy + 2 Arc = 0x2 + 2Xy = 0甘+护i = o求解方程组，结果如下：lambda=3（l/2）/3, x=-6（l/2）/3 , y=-3（l/2）/3求此离散分布的最大熵nAP11P2, ）= - 52 Pfc log2Pfe1-1所有概率的总和是1,因此我们得到的约束是g （p） = 1即P Cig（兀p?伽）=X玖=1In1可以使用拉格朗日乘数找到最高熵（概率的函数）对于所有的k从1到n要求忒（/+入（9 -1）= a由此得到nn刀必1。臣肌+入（丫必1）fc=lfc=l 计算出这n个等式的微分，我们得到：-（召+血以）+入这说明Pi都相等（因为它们都只是久的函数）.解出约束匸宀二1,得到Pk=1/n因此，使用均匀分布可得到最大熵的值。
