《基于matlab神经网络仿真》由会员分享，可在线阅读，更多相关《基于matlab神经网络仿真（43页珍藏版）》请在金锄头文库上搜索。
1、 第 1 页 装 订 线 基于基于 MATLABMATLAB 神经网络仿真神经网络仿真 摘摘 要要 随着人工神经网络的研究和应用越来越广泛，误差反向传播算法（BP 算法）的 提出，成功地解决了求解非线性连续函数的多层前馈神经网络权值调整问题，BP 神 经网络如今成为最广泛使用的网络，研究它对探索非线性复杂问题具有重要意义， 而且它具有广泛的应用前景。以 BP 神经网络为例，讨论了 BP 神经网络及几种改进 BP 神经网络性能的算法；通过 BP 学习算法的推导和分析得知 BP 网络是一种多层前 馈网络，采用最小均方差的学习方式，缺点是仅为有导师训练，训练时间长，易限 于局部极小；运用 MATLA
2、B 来实现各种 BP 神经网络的实现的设计与训练，比较不同 BP 神经网络的性能，验证改进 BP 网络的优势，得出如何根据对象选取神经网络的 结论。 关键词：关键词： 人工神经网络、BP 神经网络、误差反向传播算法、MATLAB、仿真 第 2 页 装 订 线 AbstractAbstract With the artificial neural network of research and application of more and more widely, the error back-propagation algorithm (BP algorithm) is proposed,
3、successfully resolved the continuous function for solving nonlinear multi-layer feed-forward neural network weights adjustment, BP network has become now the most widely used networks, Study to explore its complicated nonlinear problem has important significance, but also has broad application prosp
4、ects. BP neural network is discussed and several improvements in the performance of BP neural network algorithm. BP learning algorithm through the derivation and analysis that the BP network is a multi-layer feedforward networks, the use of least-mean- variance approach to learning, there is only di
5、sadvantage is that the training instructors, training time, limited to local minimum easily. The use of MATLAB to achieve a variety of BP neural network to achieve the design and training, to compare the performance of BP neural network to verify the advantages of improving the BP network, how to dr
6、aw the object selected in accordance with the conclusions of neural networks. KeyKey words:words: Artificial neural network, BP neural networks, error back-propagation algorithm, MATLAB, simulation 第 3 页 装 订 线 目目 录录 1.绪论5 1.1 引言 5 1.2 神经网络概述 5 121 神经网络起源 5 122 神经网络的发展历程 5 123 神经网络国内发展概况 6 124 神经网络研究
7、现状 7 1.3 研究目的、方法和问题（BP 神经网络）8 131 研究目的 8 132 研究方法 8 133 研究问题 8 2.BP 神经网络 10 2.1 BP 神经网络相关原理.10 211 神经元非线性模型 .10 212 有教师监督学习 .10 213 神经元数学模型 .11 214 Delta 学习规则11 215 神经元激活函数 .12 216 BP 神经网络收敛准则.12 2.2 BP 神经网络学习过程描述.13 221 BP 神经网络计算模型建立.13 222 BP 神经网络学习过程描述.14 223 BP 神经网络方框图.14 2.3 BP 神经网络学习方法.14 231
8、BP 神经网络信号流程.14 232 误差反向传播计算 .15 233 BP 神经网络算法描述.18 2.4 影响因素分析 .19 241 权值初始值设置影响分析 .19 242 权值调整方法影响分析 .19 243 激活函数选择影响分析 .20 244 学习率 选择影响分析 20 245 输入输出归一化影响分析 .21 246 其他影响因素分析 .22 2.5 BP 学习算法的改进.22 251 BP 学习算法的优缺点.22 252 增加动量项 .23 253 弹性 BP 学习算法 23 254 自适应学习速率法 .24 255 共轭梯度法 .25 256 Levenberg-Marquar
9、dt 算法25 第 4 页 装 订 线 3.BP 神经网络仿真 27 3.1 仿真平台 MATLAB.27 311 MATLAB 简介.27 312 仿真平台的构建和策略 .27 3.2 仿真实验 .28 321 BP 神经网络 MATLAB 设计28 322 各种 BP 学习算法 MATLAB 仿真 .29 323 各种算法仿真结果比较与分析 .32 324 调整初始权值和阈值的仿真 .33 325 其他影响因素仿真 .35 4.BP 神经网络应用实例 37 4.1 实例概述 .37 4.2 网络设计 .37 4.3 网络训练 .38 4.4 网络测试 .39 4.5 实例总结 .40 5.
10、总结与展望.41 5.1 BP 神经网络研究总结.41 5.2 神经网络研究展望 .42 致谢.43 参考文献.44 附录.46 第 5 页 装 订 线 1.1.绪论绪论 1.11.1 引言引言 随着计算机的问世与发展， 人们设法了解人的大脑，进而构造具有人类智能 的智能计算机。在具有人脑逻辑推理能力延伸的 计算机战胜人类棋手 的同时引 发人们对模拟人脑信息处理的人工神经网络的研究。 人工神经网络（ Artificial Neural Networks, ANN） （注：简称为神经网 络） ，一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模 型。这种网络依靠系统的复杂程度，通过
11、调整内部大量节点之间相互连接的关系， 从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力，可以通过 预先提供的一批相互对应的输入输出数据，分析掌握两者之间潜在的规律，最 终根据这些规律，用新的输入数据来推算输出结果，这种学习分析的过程被称为 “训练” 。 （引自环球科学2007 年第一期神经语言：老鼠胡须下的秘密 ） 1.21.2 神经网络概述神经网络概述 1 12 21 1 神经网络起源神经网络起源 早在 1890 年，美国心理学家 William James（1842-1910）出版了Principles of Psychology专著，本书研究了心理活动与大脑神经生理活动的关系
12、,开创性提 出学习、联想记忆的基本原理。指出：“让我们假设所有后继推理的基础遵循这样 的规则：当两个基本的脑细胞曾经一起或相继被激活过，其中一个受刺激激活时会 将刺激传播到另一个” 。他还认为在大脑皮层上的任意一点的刺激量是其他所有发射 点进入该点刺激总和。1943 年，心理学家 W.S.McCulloch 和数理逻辑学家 W.A.Pitts 建立了神经网络和数学模型，称为 M-P 模型。他们通过 M-P 模型提出了 神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从 而开创了人工神经网络研究的时代。 1 12 22 2 神经网络的发展神经网络的发展历程历程 1943 年
13、，心理学家 W.S.McCulloch 和数理逻辑学家 W.Pitts 建立了神经网络和数 学模型，称为 M-P 模型； 1949 年，心理学家 Donald Olding Hebb 出版了Organization of Behavior ， 在该书他首先提出了连接权训练算法，即如今人们称为的 Hebb 算法； 1958 年，计算机科学家 Frank Rosenblatt，在一篇著名的文章中提出了一种具有 三层网络特性的“感知器” （perceptron）神经网络； 1960 年，电机工程师 Bernard Widrow 和 Marcian Hoff 发表了Adaptive Switching
14、 Circuits文章，不仅把人工神经网络在计算机上仿真，而且用硬件电 第 6 页 装 订 线 路实现了它。因此 Widrow-Hoff 的学习训练算法（也称 （误差大小）算法或最小 均方（LMS）算法）也应运而生； 1969 年，人工智能的创始人之一，MMinsky 和 S.Papert 经过数年研究，仔细分 析了以感知器为代表的神经网络系统的功能及局限后，出版了Perceptron一书， 指出感知器不能解决高阶谓词问题； 1969 年，美国波士顿大学自适应系统中心的 S.Grossberg 教授及其夫人 G.A.Carpenter 提出了著名的自适应共振理论（adaptive resonance theory）模型； 1972 年，芬兰的 T.Kohonen 教授提出了自组织映射（SOM）理论，并称其神经网 络结构为“associative memory” ；与此同时，美国的神经生理学家和心理学家 J.Anderson，提出了一个类似的神经网络“interactive memory” ； 1980 年，日本东京 NHK 广播科学研究实验室的福岛邦彦（Kunihiko Fukushima） ， 发表了Neocognitron ，开发了一些神经网络结构和训练算法，还有一系列的改进 的文章，
