《基于遗传算法的bp神经网络的优化问题研究》由会员分享，可在线阅读，更多相关《基于遗传算法的bp神经网络的优化问题研究（57页珍藏版）》请在金锄头文库上搜索。
1、 编 号： 审定成绩： 重庆邮电大学毕业设计（论文）设计（论文）题目：基于遗传算法的BP神经网络的优化问题研究学 院 名 称 ：学 生 姓 名 ：专 业 ：班 级 ：学 号 ：指 导 教 师 ：答辩组 负责人 ：填表时间：2010年06月重庆邮电大学教务处制重庆邮电大学本科毕业设计（论文）摘 要本文的主要研究工作如下：1、介绍了遗传算法的起源、发展和应用，阐述了遗传算法的基本操作，基本原理和遗传算法的特点。2、介绍了人工神经网络的发展，基本原理，BP神经网络的结构以及BP算法。3、利用遗传算法全局搜索能力强的特点与人工神经网络模型学习能力强的特点，把遗传算法用于神经网络初始权重的优化，设计出混
2、合GA-BP算法，可以在一定程度上克服神经网络模型训练中普遍存在的局部极小点问题。4、对某型导弹测试设备故障诊断建立神经网络，用GA直接训练BP神经网络权值，然后与纯BP算法相比较。再用改进的GA-BP算法进行神经网络训练和检验，运用Matlab软件进行仿真，结果表明，用改进的GA-BP算法优化神经网络无论从收敛速度、误差及精度都明显高于未进行优化的BP神经网络，将两者结合从而得到比现有学习算法更好的学习效果。【关键词】 神经网络 BP算法 遗传算法ABSTRACTThe main research work is as follows: 1. Describing the origin of
3、 the genetic algorithm, development and application, explain the basic operations of genetic algorithm, the basic principles and characteristics of genetic algorithms. 2. Describing the development of artificial neural network, the basic principle, BP neural network structure and BP. 3. Using the ge
4、netic algorithm global search capability of the characteristics and learning ability of artificial neural network model with strong features, the genetic algorithm for neural network initial weights of the optimization, design hybrid GA-BP algorithm, to a certain extent, overcome nerves ubiquitous n
5、etwork model training local minimum problem. 4. A missile test on the fault diagnosis of neural network, trained with the GA directly to BP neural network weights, and then compared with the pure BP algorithm. Then the improved GA-BP algorithm neural network training and testing, use of Matlab softw
6、are simulation results show that the improved GA-BP algorithm to optimize neural network in terms of convergence rate, error and accuracy were significantly higher than optimized BP neural network, a combination of both to be better than existing learning algorithm learning.Key words：neural networkb
7、ack-propagation algorithmsgenetic algorithms目 录第一章 绪 论11.1 遗传算法的起源11.2 遗传算法的发展和应用11.2.1 遗传算法的发展过程11.2.2 遗传算法的应用领域21.3 基于遗传算法的BP神经网络31.4 本章小结4第二章 遗传算法52.1 遗传算法基本操作52.1.1 选择(Selection)52.1.2 交叉(Crossover)62.1.3 变异(Mutation)72.2 遗传算法基本思想82.3 遗传算法的特点92.3.1 常规的寻优算法92.3.2 遗传算法与常规寻优算法的比较102.4 本章小结11第三章 神经网
8、络123.1 人工神经网络发展123.2 神经网络基本原理123.2.1 神经元模型123.2.2 神经网络结构及工作方式143.2.3 神经网络原理概要153.3 BP神经网络153.4 本章小结21第四章 遗传算法优化BP神经网络224.1 遗传算法优化神经网络概述224.1.1 用遗传算法优化神经网络结构224.1.2 用遗传算法优化神经网络连接权值224.2 GA-BP优化方案及算法实现234.3 GA-BP仿真实现244.3.1 用GA直接训练BP网络的权值算法254.3.2 纯BP算法264.3.3 GA训练BP网络的权值与纯BP算法的比较284.3.4 混合GA-BP算法284.
9、4 本章小结31结 论32致 谢33参考文献34附 录351 英文原文352 英文翻译423 源程序47- 1 -第一章 绪 论1.1 遗传算法的起源从生物学上看，生物个体是由细胞组成的，而细胞则主要由细胞膜、细胞质、和细胞核构成。在细胞核中，有一种微小的丝状化合物，称为染色体，染色体由许多基因片段组成，基因是生物遗传物质的载体，决定了生物的各种遗传性状，是遗传的基本单位。生物个体在交配繁殖时，正是将这些基因遗传给了后代，才使后代具有父代的生物特征。由于生物在繁殖中可能发生基因交叉和变异，这种交叉和变异引起了生物性状的连续微弱变化，为外界环境的定向选择提供了物质条件和基础，使生物的进化成为可能
10、。人们正是通过对环境的选择、基因的交叉和变异这一生物演化的迭代过程的模仿，从而提出了能够用于求解最优化问题的具有强鲁棒、自适应的遗传算法。遗传算法1(Genetic Algorithms，简称GA)是模拟自然界生物进化这一“适者生存，优胜劣汰”过程而得到的，是由Michigan大学Holland教授于1975年首次提出的，它的基本算法力求充分模仿这一自然寻优过程的随机性、鲁棒性和全局性，这是一种新的全局优化搜索算法，因为它直接对结构对象进行操作，不存在求异和函数连续性的限定，鲁棒性强，具有随机性和全局性，适于并行处理，已广泛应用于神经网络、计算机科学、优化调度、运输问题、组合优化、机器学习、信
11、号信息、自适应控制和人工生命领域。1.2 遗传算法的发展和应用1.2.1 遗传算法的发展过程1965年，美国Michigan大学的John Holland教授在设计人工适应系统中开创性地使用了一种基于自然演化原理的搜索机制，并于1975年出版了著名的专著“Adaptation in Natural and Artificial Systems”，这些有关遗传算法的基础理论为遗传算法的发展和完善鉴定了基础。同时，Holland教授的学生Dejong首次将遗传算法应用于函数优化中，设计了遗传算法执行策略和性能评价指标，他挑选的5个专门用于遗传算法数值实验的函数至今仍被频繁使用，而他提出的在线和离线
12、指标则仍是目前衡量遗传算法优化性能的主要手段。在Holland教授和他的学生与同事Dejong进行大量有关遗传算法的开创性工作的同时，德国柏林工业大学的Rechenberg和Schwefel等在进行风洞实验时，为了对描述物体性状的参数进行优化以获得更好的实验数据，将变异操作引入计算模型中，获得了意外的优良效果，实验后，经过进一步系统地研究，形成了进化策略(Evolutionary Strategies，ES)。1962年，Fogel等人在设计有穷状态自动机(Finite State Machine, FSM)时借用进化和思想对一组FSM进行进化，提出了一种模仿人类智能的方法，称为进化编程(Ev
13、olutionary Programming, EP)，随后将其应用于数值优化及神经网络的训练问题中。这两种算法和遗传算法以及遗传编程(Genetic Programming, GP)一起构成了目前进化计算的四大分支，它们从不同层次、不同角度模拟自然演化的规律，以达到求解实际问题的目的。20世纪80年代开始，遗传算法进入了兴旺发展时期。有关遗传算法的国际会议在世界各地定期召开。遗传算法被提出之后立即受到了各国学者的广泛关注，有关遗传算法的研究成果不断涌现。1981年Bethke应用Walsh函数分析模式；1983年Welzel用遗传算法解决了NP难问题旅行问题(TSP)；1985年Schaff
14、er利用多种群遗传算法研究解决了多目标优化问题。1985年在美国卡耐基梅隆大学召开的第一届国际遗传算法会议ICGA95，以后该会议每隔一年举行一次。1997年夏季在美国密歇根大学召开了ICGA97。现在与之平行的国际会议很多，其中有International Conference on Evolutionary Programming和IEEE International Conference on Evolutionary Computation也分别召开了有关遗传算法的会议。此外，每年夏季在美国斯坦福大学召开有关遗传算法程序设计的国际会议(The Annual Conference of
15、Genetic Programming)。有关遗传算法的学术活动也经常举行，相关的国际学术会议还有很多。1.2.2 遗传算法的应用领域遗传算法的应用领域很广，主要应用在以下几个方面：(1)、控制 瓦斯管道控制，防避导弹控制，机器人控制。(2)、规划 生产规划，并行机任务分配。(3)、设计 VLSI布局，通信网络设计，喷气发动机设计。(4)、组合优化 TSP问题，背包问题，图划分问题。(5)、图像处理 模式识别，特征抽取。(6)、信号处理 滤波器设计。(7)、机器人 路径规划。(8)、人工生命 生命的遗传进化。1.3 基于遗传算法的BP神经网络人工神经网络(Artificial Neural Netw
