《遗传算法及在神经网络中的应用课件》由会员分享，可在线阅读，更多相关《遗传算法及在神经网络中的应用课件（139页珍藏版）》请在金锄头文库上搜索。
1、遗传算法及在神遗传算法及在神经网络中的应用经网络中的应用目录n引言引言nGAGA的基本概念的基本概念DarwinDarwin进化论及进化系统模型进化论及进化系统模型MendelMendel的遗传学说的遗传学说GAGA的基本概念与术语的基本概念与术语nGAGA的原理的原理GAGA的目的的目的GAGA的基本原理的基本原理GAGA的算法过程的算法过程目录nGAGA的应用的应用GAGA的特点的特点GAGA应用的关键应用的关键GAGA在函数优化中的应用在函数优化中的应用GAGA在组合优化中的应用在组合优化中的应用nGAGA的理论分析的理论分析nGAGA在智能控制中的应用在智能控制中的应用n遗传算法优化神
2、经网络遗传算法优化神经网络n遗传神经网络应用设计遗传神经网络应用设计nGAGA的发展展望的发展展望n参考文献参考文献7.1 7.1 引言引言n生物的进化是一个奇妙的优化过程生物的进化是一个奇妙的优化过程,它通过选择淘汰它通过选择淘汰,突然变异突然变异,基因遗传等规律产生适应环境变化的优良基因遗传等规律产生适应环境变化的优良物种物种.例如例如,在人类的进化过程中在人类的进化过程中,通过通过“物竞天择、适者生存物竞天择、适者生存”自然的选择和淘汰自然的选择和淘汰,人类的身、心不断得到进化人类的身、心不断得到进化,逐渐逐渐进化成为这地球上的具有最高等智慧的主宰者进化成为这地球上的具有最高等智慧的主宰
3、者.在这个进化过程中在这个进化过程中,不仅人的身体得到进化不仅人的身体得到进化,而且而且人的智人的智慧、智能慧、智能也在得到进化也在得到进化.因此因此,生物的进化过程其实也是一种智能的进化、优化生物的进化过程其实也是一种智能的进化、优化过程过程,也是一种智能行为也是一种智能行为.“物竞天择、适者生存物竞天择、适者生存”中蕴中蕴涵了智能的光辉、蕴涵了优化的思想涵了智能的光辉、蕴涵了优化的思想.n遗传算法遗传算法(Genetic(Genetic Algorithm,GAAlgorithm,GA)就是根据生物进就是根据生物进化思想而启发得出的一种智能理论和方法化思想而启发得出的一种智能理论和方法.它
4、是基于进化过程中的信息遗传机制和优胜劣汰的自然它是基于进化过程中的信息遗传机制和优胜劣汰的自然选择原则的搜索算法选择原则的搜索算法,是通过对生物进化的归纳和模拟得是通过对生物进化的归纳和模拟得到的一种仿生算法到的一种仿生算法.GAGA在本质上是一种不依赖具体问题的直接搜索方法在本质上是一种不依赖具体问题的直接搜索方法,是一是一种具有普适性的优化方法种具有普适性的优化方法.nGAGA的发展历程为的发展历程为:19651965年年,Michigan,Michigan大学的大学的HollandHolland首次提出了人工遗传操首次提出了人工遗传操作的重要性作的重要性,并把这些应用于自然系统和人工系统
5、中并把这些应用于自然系统和人工系统中.19671967年年,J.D.BagleyJ.D.Bagley在他的论文中首次提出了在他的论文中首次提出了GAGA这一术语这一术语与概念与概念,并讨论了并讨论了GAGA在自动博弈中的应用在自动博弈中的应用.7.1 7.1 引言引言19701970年年,CavicchioCavicchio把把GAGA应用于模式识别中应用于模式识别中.第一个把第一个把GAGA应用于函数优化的是应用于函数优化的是HollstienHollstien.而而GAGA的理论和方法的系统性研究开始于的理论和方法的系统性研究开始于19751975年年,这一开创性工作是由这一开创性工作是由
6、J.H.HollandJ.H.Holland所实行所实行.n这一年是这一年是GAGA研究的历史上十分重要的一年研究的历史上十分重要的一年.nHollandHolland在他的著名专著在他的著名专著Adaptation in Natural Adaptation in Natural and Artificial Systemsand Artificial Systems中系统地阐述了中系统地阐述了GAGA的基的基本理论和方法本理论和方法,并提出了对并提出了对GAGA的理论研究和发展极为的理论研究和发展极为重要的模式理论重要的模式理论(schemata theory).(schemata the
7、ory).n该理论首次确认了结构重组遗传操作对于获得隐并该理论首次确认了结构重组遗传操作对于获得隐并行性的重要性行性的重要性.7.1 7.1 引言引言同年同年,DeJongDeJong完成了他的重要论文完成了他的重要论文遗传自适应遗传自适应系统的行为分析系统的行为分析.n他在该论文中所做的研究工作可看作是他在该论文中所做的研究工作可看作是GAGA发展过程发展过程中的一个里程碑中的一个里程碑,这是因为他把这是因为他把HollandHolland的模式理论的模式理论与他的计算使用结合起来与他的计算使用结合起来.19891989年年GoldbergGoldberg对对GAGA从理论上从理论上,方法上
8、和应用上方法上和应用上作了系统的总结作了系统的总结.19901990年代以来年代以来,以以GAGA为代表的进化类算法及计算为代表的进化类算法及计算智能理论和算法得到极大重视智能理论和算法得到极大重视.1994.1994年在美国召年在美国召开了第一届世界计算智能大会开了第一届世界计算智能大会,欣起了进化类算欣起了进化类算法研究和应用的热潮法研究和应用的热潮.7.1 7.1 引言引言nGAGA与其它优化方法相比与其它优化方法相比,具有如下特点具有如下特点:GAGA不是直接作用在参变量集上不是直接作用在参变量集上,而是利用参变量而是利用参变量集的某种编码集的某种编码;GAGA不是从单个点不是从单个点
9、,而是在群体中从多个点开始搜而是在群体中从多个点开始搜索索;GAGA利用适应值信息利用适应值信息,无需导数或其它辅助信息无需导数或其它辅助信息;n因此对优化问题因此对优化问题(函数函数)的限制较弱的限制较弱,灵活灵活,通用性通用性(普普适性适性)强强,有着较广泛的应用领域有着较广泛的应用领域.GAGA利用概率转移规则利用概率转移规则,而非确定性规则而非确定性规则.GAGA在解空间内不是盲目的穷举或完全随机测试，在解空间内不是盲目的穷举或完全随机测试，而是一种启发式搜索，效率优于其它算法。而是一种启发式搜索，效率优于其它算法。7.1 7.1 引言引言nGAGA的优点的优点:较容易的和其它方法结合
10、较容易的和其它方法结合避免陷入局部最优解避免陷入局部最优解n即使在较短的有限时间内即使在较短的有限时间内,也能获得较好的次优解、也能获得较好的次优解、满意解满意解.鲁棒性佳鲁棒性佳n对优化问题的初始条件对优化问题的初始条件(状态状态)依赖性小。依赖性小。n 抗干扰性强。抗干扰性强。具有并行计算的特点，可提高计算速度具有并行计算的特点，可提高计算速度7.1 7.1 引言引言nGAGA的不足的不足:No guarantee for optimal solution within No guarantee for optimal solution within finite timefinite t
11、imeWeak theoretical basisWeak theoretical basisnGAGA能解决的问题能解决的问题:优化优化NPNP完全完全高度复杂的非线性问题高度复杂的非线性问题7.1 7.1 引言引言n近年近年,GA,GA在各应用领域中得到极大重视在各应用领域中得到极大重视,并广泛应用并广泛应用于各领域的优化、搜索、问题求解中于各领域的优化、搜索、问题求解中,并在并在模式识别、模式识别、NNNN、图像处理、图像处理、机器学习、机器学习、工业优化控制、工业优化控制、自适应控制、自适应控制、生物科学、生物科学、社会科学社会科学等方面都得到应用等方面都得到应用.7.1 7.1 引言
12、引言n当前在当前在AIAI研究中研究中,人们认为人们认为“GAGA、自适应系、自适应系统、细胞自动机、混沌理论与统、细胞自动机、混沌理论与AIAI一样一样,都是都是对今后十年的计算技术有重大影响的关键技对今后十年的计算技术有重大影响的关键技术术”.7.1 7.1 引言引言7.2 GA7.2 GA的基本概念的基本概念nGAGA的的基基本本思思想想是是基基于于达达尔尔文文(Darwin)(Darwin)进进化化论论和和门门德德尔尔(Mendel)(Mendel)的的遗遗传传学学说说的的,下下面面将将分分别别介绍介绍:DarwinDarwin进化论及进化系统模型进化论及进化系统模型MendelMen
13、del的遗传学说的遗传学说GAGA的基本概念与术语的基本概念与术语7.2.1 Darwin7.2.1 Darwin进化论及进化系统模型进化论及进化系统模型CharlesDarwinAll environments have All environments have finite resources(i.e.,finite resources(i.e.,can only support a limited can only support a limited number of individuals)number of individuals)它它认认为为每每一一物物种种在在发发展展中中越越
14、来来越适应环境越适应环境.nDarwin(Darwin(1809-1882,1809-1882,Father Father o of f the the evevololutiutio on then theo oryry)进化论最进化论最重要的是重要的是适者生存适者生存(Survival of(Survival of the fittest)the fittest)原理原理.物物种种每每个个个个体体的的基基本本特特征征由由后后代代所所继继承承,但但后后代代又会产生一些异于父代的新变化又会产生一些异于父代的新变化.在在环环境境变变化化时时,只只有有那那些些能能适适应应环环境境的的个个体体特特征
15、征方能保留下来方能保留下来.7.2.1 Darwin7.2.1 Darwin进化论及进化系统模型进化论及进化系统模型7.2.1 Darwin7.2.1 Darwin进化论及进化系统模型进化论及进化系统模型生物进化过程生物进化过程(循环图循环图):):初始群体淘汰体竞争初始种群繁殖变异新的群体n自自DarwinDarwin以来的新进化学说强调以来的新进化学说强调:个体是基本的选择目标个体是基本的选择目标;随随机机过过程程在在进进化化中中起起重重大大作作用用,遗遗传传变变异异大大部部分分是偶然现象是偶然现象;进进化化是是在在适适应应中中变变化化的的,形形式式多多样样,不不仅仅是是基基因因的的变化变
16、化;选择是概率型的选择是概率型的,而不是决定型的而不是决定型的.7.2.1 Darwin7.2.1 Darwin进化论及进化系统模型进化论及进化系统模型7.2.2 Mendel7.2.2 Mendel遗传学说遗传学说GregorMendel它它认认为为遗遗传传以以密密码码方方式式存存在在细细胞胞中中,并并以以基基因因形形式包含在染色体内式包含在染色体内.每每个个基基因因有有特特殊殊的的位位置置并并控控制制某某种种特特殊殊性性质质;所所以以,每每个个基基因因产产生生的的个个体体对环境具有某种适应性对环境具有某种适应性.nMendel(Mendel(1822-1884,1822-1884,Father Father o of genetics)f genetics)遗传学说最重遗传学说最重要的是要的是基因遗传原理基因遗传原理.7.2.2 Mendel7.2.2 Mendel遗传学说遗传学说基基因因突突变变和和基基因因杂杂交交可可产产生生更更适适应应于于环环境境的的后后代代.经经过过存存优优去去劣劣的的自自然然淘淘汰汰,适适应应性性高高的的基基因因结结构构得以保存下来得以保存下来.7.2.3
