matlab辅助神经网络设计方案

《matlab辅助神经网络设计方案》由会员分享，可在线阅读，更多相关《matlab辅助神经网络设计方案（44页珍藏版）》请在金锄头文库上搜索。

1、目录第一节 神经网络基本理论一、人工神经网络概论二、生物神经元模型三、Matlab 的神经网络工具包第二节 感知器一、感知器神经元模型二、感知器的网络结构三、感知器神经网络的学习规则四、感知器神经网络的训练五、重要的感知器神经网络函数的使用方法六、感知器神经网络应用举例第三节 线性神经网络一、线性神经元模型二、线性神经网络结构三、线性神经学习网络的学习规则四、线性神经网络训练五、重要线性神经网络函数的使用方法六、线性神经网络的应用举例第四节 BP 网络一、BP网络的网络结构二、BP 网络学习规则三、BP 网络的训练四、重要 BP 神经网络函数的使用方法五、BP 网络的应用举例第五节 径向基函数

2、网络一、径向基函数神经网络结构二、径向基函数的学习算法三、重要径向基函数的函数使用方法第六节 反馈网络一、Hopfield 网络的结构与算法二、Hopfield 网络运行规则三、重要的反馈网络函数四、重要的自组织网络函数五、反馈网络应用举例第七节 自组织网络一、自组织特征映射的网络结构二、自组织特征映射网络的学习三、自组织特征映射网络的训练四、重要的自组织网络函数五、自组织网络应用举例第一节 神经网络基本理论一、人工神经网络概论 近代神经生理学和神经解剖学的研究结果表明，人脑是由约一千多亿 个神经元（大脑皮层约 140 多亿，小脑皮层约 1000 多亿）交织在一起的、 极其复杂的网状结构，能完

3、成智能、思维、情绪等高级精神活动，无论是 脑科学还是智能科学的发展都促使人们对人脑（神经网络）的模拟展开了 大量的工作，从而产生了人工神经网络这个全新的研究领域。人工神经网络（ ANNS ）常常简称为神经网络（ NNS ），是以计算机 网络系统模拟生物神经网络的智能计算系统， 是对人脑或自然神经网络的 若干基本特性的抽象和模拟。网络上的每个结点相当于一个神经元，可以 记忆（存储）、处理一定的信息，并与其它结点并行工作。神经网络的研究最早要追述到 40 年代心理学家 Mcculloch 和数学家Pitts 合作提出的兴奋与抑制型神经元模型和 Hebb 提出的神经元连接强度的修改规则，其成果至今仍

4、是许多神经网络模型研究的基础。5060年代的代表性工作主要有 Rosenblatt 的感知器模型、 Widrow 的自适应网络元件Adaline 。然而在 1969 年 Minsky 和 Papert 合作发表的 Perceptron 一书中阐 述了一种消极悲观的论点，在当时产生了极大的消极影响，加之数字计算 机正处于全盛时期并在人工智能领域取得显著成就，这导致了70 年代人工神经网络的研究处于空前的低潮阶段。 80 年代以后，传统的 Von Neumann 数字计算机在模拟视听觉的人工智能方面遇到了物理上不可逾越的障碍。 与此同时 Rumelhart 、 Mcclelland 和 Hopfi

5、eld 等人在神经网络领域取得了突 破性进展，神经网络的热潮再次掀起。目前较为流行的研究工作主要有： 前馈网络模型、反馈网络模型、自组织网络模型等方面的理论。人工神经 网络是在现代神经科学的基础上提出来的。它虽然反映了人脑功能的基本 特征，但远不是自然神经网络的逼真描写，而只是它的某种简化抽象和模 拟。求解一个问题是向人工神网络的某些结点输入信息，各结点处理后向 其它结点输出，其它结点接受并处理后再输出，直到整个神经网工作完 毕，输出最后结果。如同生物的神经网络，并非所有神经元每次都一样地 工作。如视、听、摸、想不同的事件（输入不同），各神经元参与工作的 程度不同。当有声音时，处理声音的听觉神

6、经元就要全力工作，视觉、触 觉神经元基本不工作，主管思维的神经元部分参与工作；阅读时，听觉神 经元基本不工作。在人工神经网络中以加权值控制结点参与工作的程度。 正权值相当于神经元突触受到刺激而兴奋，负权值相当于受到抑制而使神 经元麻痹直到完全不工作。如果通过一个样板问题“教会”人工神经网络处理这个问题，即通过 “学习”而使各结点的加权值得到肯定，那么，这一类的问题它都可以 解。好的学习算法会使它不断积累知识，根据不同的问题自动调整一组加 权值，使它具有良好的自适应性。此外，它本来就是一部分结点参与工 作。当某结点出故障时，它就让功能相近的其它结点顶替有故障结点参与 工作，使系统不致中断。所以，

7、它有很强的容错能力。人工神经网络通过样板的“学习和培训”，可记忆客观事物在空间、 时间方面比较复杂的关系，适合于解决各类预测、分类、评估匹配、识别 等问题。例如，将人工神经网络上的各个结点模拟各地气象站，根据某一 时刻的采样参数（压强、湿度、风速、温度），同时计算后将结果输出到 下一个气象站，则可模拟出未来气候参数的变化，作出准确预报。即使有 突变参数（如风暴，寒流）也能正确计算。所以，人工神经网络在经济分 析、市场预测、金融趋势、化工最优过程、航空航天器的飞行控制、医 学、环境保护等领域都有应用的前景。人工神经网络的特点和优越性使它近年来引起人们的极大关注，主要 表现在三个方面：第一，具有自

8、学习功能。例如实现图像识别时，只需把许多不同的图 像样板和对应的应识别的结果输入人工神经网络，网络就会通过自学习功 能，慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。 人工神经网络计算机将为人类提供经济预测、市场预测、效益预测，其前 途是很远大的。第二，具有联想存储功能。人的大脑是具有联想功能的。如果有人和 你提起你幼年的同学张某某，你就会联想起张某某的许多事情。用人工神 经网络的反馈网络就可以实现这种联想。第三，具有高速寻找最优解的能力。寻找一个复杂问题的最优解，往 往需要很大的计算量，利用一个针对某问题而设计的人工神经网络，发挥 计算机的高速运算能力，可能很快找到最优解。人工

9、神经网络是未来微电子技术应用的新领域，智能计算机的构成就是作为主机的冯 诺依曼计算机与作为智能外围机的人工神经网络的结合。二、生物神经元模型神经元是脑组织的基本单元，其结构如图 1 所示，神经元由三部分构 成：细胞体，树突和轴突；每一部分虽具有各自的功能，但相互之间是互 补的。树突是细胞的输入端，通过细胞体间联结的节点“突触”接受四周细 胞传出的神经冲动；轴突相当于细胞的输出端，其端部的众多神经未梢为 信号的输出端子，用于传出神经冲动。神经元具有兴奋和抑制的两种工作状态。当传入的神经冲动，使细胞 膜电位升高到阀值（约为 40mV ）时，细胞进入兴奋状态，产生神经冲动，由轴突输出。相反，若传入的

10、神经冲动，使细胞膜电位下降到低于阀 值时，细胞进入抑制状态，没有神经冲动输出。二、人工神经元模型人工神经元模型是以大脑神经细胞的活动规律为原理的，反映了大脑 神经细胞的某些基本特征，但不是也不可能是人脑细胞的真实再现，从数 学的角度而言，它是对人脑细胞的高度抽象和简化的结构模型。虽然人工 神经网络有许多种类型，但其基本单元一人工神经元是基本相同的。如图 2是一个典型的人工神经元模型：图2人工神经元模型神经元模型相当于一个多输入单输出的非线性阀值元件，X1 ,X2，Xn表示神经元的 n个输入，W1 , W2，Wn表示神经元之间 的连接强度，称为连接权， 7 WiXi称为神经元的激活值， 0表示这

11、个神 经元的输出，每个神经元有一个阀值 0，如果神经元输入信号的加权和超过0，神经元就处于兴奋状态。以数学表达式描述为：O=fp WiXi -0)三、Matlab的神经网络工具包由于神经网络自身的特点，计算中经常涉及到大量的训练样本数据、复杂的运算操作、繁琐的程序设计等问题。对此，具有强大功能的数学软件Matlab，为我们提供了神经网络工具箱NeuralNetwoks Toolbox (NNT)及丰富的函数命令。NNT是进行神经网络训练和仿真的优良平台。常用来对网络进行初始化、仿真、设计、调整、优化。集成化的处理方式、友好的 界面、形象的演示过程、简易的操作，为神经网络应用者节约了大量的不 必

12、要的编程时间，使得非专业人士应用神经网络成为了可能。Matlab是Mathworks公司开发的工程计算软件包，其中有一个神经网络工具包，可以用来方便地创建各种神经网络，对数据进行学习和模拟输 出。Matlab中普遍采用的是物理和工程学中强有力的矩阵描述的语言，简 洁优美。第二节感知器感知器(Pereceptron)是一种特殊的神经网络模型，是由美国心理学家F.Rosenblatt于1958年提出的，一层为输入层，另一层具有计算单元，感 知器特别适合于简单的模式分类问题，也可用于基于模式分类的学习控制 和多模态控制中。一、感知器神经元模型感知器神经元通过对权值的训练，可以使感知器神经元的输出能代

13、表感知器神经元的每一个输入都对应神经元模型9的输入与X1图2.1由于阀值函数的引入,WiR对输入模式进行的分类，图2.1为感知器神经元模型。其对应权值的加权和作为阀值函数的输入。II 得感知器可以将输入向量分为两个区域，通常阀XRo如:(x) =x0xcO(2.1)而感知器神经元模型的实际输出为(2.2)其中b为阀值、感知器的网络结构图22所描述的是一个简单的感知器网络结构，输入层有R个输入，Q个输出，通过权值 Wj与s个感知器神经元连接组成的感知器神经网络。即:P o RX Q根据网络结构，可以写出感知器处理单1 oC n其输入的加权和SX Q-操作,SX QSX 1图2.2感知器神经网络结

14、构ni二 WjPj(2.3)而其输出ai为(2.4)ai=f( ni+bi)由式2.1易知ai1 ni b-00 ni - bi : 0(2.5)则当输入n+bi大于等于0，即有ni- bi时，感知器的输出为1;否则输出为0。上面所述的单层感知器神经网络是不可能解决线性不可分的输入向量 分类问题，也不能推广到一般的前向网络中去。为解决这一问题，我们可 以设计多层感知器神经网络以实现任意形状的划分。2.3描述了一个双层感知器神经网络。其工作方式与单层感知器网络一样,只不过是增加了一层而已，具体的内容这里不做讨论。oRX Q三、感知器神经网络的学习SX 1w1aiW2 oba2*图2.3 感知器神

15、经网络结构感知器的学习规则主要是通过调整网络层的权值和阀值以便能够地网 络的输入向量进行正确的分类。如图22所示的输入向量 P、输出和量a和目标向量为t的感知器神经 网络，感知器的学习规则是根据以下输出矢量 a 可能出现的几种情况未进 行参与调整的：1）如果第i个神经元的输出是正确的，即有 ai = ti，则与第i个神经元 联接的权值和阀值保持不变。2）如果第 i 个神经元的输出是不正确，应该有两种情况。i）实际输出为0，而理想输出为1，即有a=0，而ti = 1，则所有的输入 j对权值和阀值进行调整，修正值 wij=pj, bj=i。ii）实际输出为1,而期望输出为 0,即有a=1，而ti=0，则对所有的输 入j进行权值和阀值调整， W1j=-pj, bi= - 1。基于感知器误差e=t a,感知器学习规则可望写为： w 1j =ei pj可以证明当前输入样本来自线性可分的模式时,上述学习