《《神经网络作业》ppt.ppt》由会员分享,可在线阅读,更多相关《《神经网络作业》ppt.ppt(26页珍藏版)》请在金锄头文库上搜索。
1、第一题神经网络系统是一个高度复杂的非线性动力系统,不但具有一般非线性的共性,更主要的是它具有自己的特点,总结起来,神经网络系统具有以下的基本特性:非线性映射逼近能力自适应性和自组织性并行处理能力分布存储和容错性便于集成实现和计算模拟人工神经网络的发展概况1、兴起阶段:(1)早在1943年,心理学家McCulloch和数学家Pitts在数学生物物理学会期刊Bulletin of Mathematical Biophysics上发表文章,总结了生物神经元的一些基本生理特征,提出了形式神经元的数学描述与结构,即MP模型。(2)1949年心理学家DOHebb出版了The Organization of
2、 Behavior一书,提出神经元之间突触联系强度可变的假设。 (3)1958年,Rosenblatt提出了感知机,第一次把神经网络的研究付诸工程实践。2、萧条阶段:主要的影响因素:(1)60年代,美国著名人工智能学者Minsky和Papert对Rosenblatt的工作进行了深入的研究,写了很有影响的感知机一书,指出感知机的处理能力有限,甚至连XOR(异或)这样的问题也不能解决,并指出如果引入隐含神经元,增加神经网络的层次,可提高神经网络的处理能力,但是研究对应的学习方法非常困难。3、兴盛阶段:1982年,美国物理学家J.Hopfield 提出了Hopfield网络模型,用能量函数的思想形成
3、了一种新的计算方法,该计算方法由含有对称突触连接的反馈网络执行。 Hopfield网和反向传播算法的提出使人们看到了神经元网络的前景和希望;1987年在美国召开了国际神经网络会议,它掀起了神经网络研究的热潮。第二题由各种神经元输入输出关系是 在三维空间上,只要设计连接权系数 得出平面方程:得出平面方程: 取取 ,该平面可以将,该平面可以将P1-P4P1-P4与与即平面方程:即平面方程:P5-P8P5-P8分开,即可以将分开,即可以将与与区分开来。区分开来。 从上图看出,可取三点a(0,0,2),b(2,2,2),c(0,2,0)组成该平面,该层的变换函数是阶跃函数,“”表示1,“”表示0 ,于
4、是将它们正确归类。第三题根据下图基于标准模型的模糊神经网络结构,可设计如下的网络结构:(1)第一层是输入层,输入变量的维数n=2,因此,第一层结点数为N1=2;(2)第二层每个结点代表一个语言变量值,用于计算各输入分量属于各语言变量值模糊集合的隶属度函数。将输入量x1和x2均分为8个模糊等级,它们对应于从NL到PL的8个模糊语言名称,即m1=m2=8,则第二层结点数为N2=82=16;(3)第三层的每个结点代表一条模糊规则,用来匹配模糊规则的前件,计算出每条规则的适用度,该层的结点数为N3=88=64;(4)第四层的结点数与第三层相同,即N4=88=64;(5)第五层是输出层,它所实现的是清晰
5、化计算,输出为单变量,输出层结点数为N5=1。确定隶属度函数的形状隶属函数采用高斯函数表示的铃形函数,则其中其中 分别表示隶属函数的中心和宽度。分别表示隶属函数的中心和宽度。 确定学习参数:假设输入分量的模糊分割数是确定学习参数:假设输入分量的模糊分割数是预先确定的,则需要计算的参数主要是最后一层预先确定的,则需要计算的参数主要是最后一层的连接权系数的连接权系数 第二层的隶属度函数中心第二层的隶属度函数中心 和宽度和宽度 选取网络训练样本:这里按 。的间隔均匀取点,用给定的解析式进行理论计算,的间隔均匀取点,用给定的解析式进行理论计算,得到得到400组输入输出的样本数据。组输入输出的样本数据。
6、利用这些样本数据可对设计的模糊神经网络利用这些样本数据可对设计的模糊神经网络进行训练,进行训练,当学习完所有数据后,求取平均当学习完所有数据后,求取平均仿真结果:仿真结果: 梯度所对应的连接权系数梯度所对应的连接权系数 隶属度函数隶属度函数中心位置中心位置隶属度函数宽度隶属度函数宽度 进行调整,进行调整,当学习次数超过要求最大次数或者满足要当学习次数超过要求最大次数或者满足要求是,停止学习。求是,停止学习。 第四题对本题进行数学描述,做分析矩阵如下,对本题进行数学描述,做分析矩阵如下,每个神经元采用如下的S形变换函数当当其中其中这里取较大的这里取较大的u u,以使以使S S形函数比较陡峭,从而
7、稳态时能够形函数比较陡峭,从而稳态时能够趋于趋于1 1或趋于或趋于0 0。 选择初始位置A,最终将获得如下的输出形式:在方阵中A、B、C、D、E表示城市名称,1、2、3、4、5表示路径顺序。为保证每个城市只去一次,要求方阵每行只能有一个元素为1,其余为零;为了某一时刻只能经过一个城市,方阵中每列也只能有一个元素为1,其余为零;为使每个城市只经过一次,方阵中1的个数总和必须为n。 对于所给方阵,其路径顺序为:ACEDBA,所走的距离为第五题 神经网络对系统的辨识实质上是选择一个适当的神经网络模型来逼近实际系统的数学模型。它通过直接学习系统的输入输出数据,使所要求的误差函数达到最小,来归纳出隐含在
8、系统输入输出数据中的关系。只要神经网络的输出能够逼近同样信号的激励输出,则认为神经网络已充分体现实际系统特性,完成对系统的辨识。神经网络用于对系统的辨识关键在于网络中神经元连接强度等参数的确定。这些参数通常通过某种学习算法,并利用被辨识的输入输出数据进行训练得到的。两者的误差为两者的误差为,系统辨识的原理就是,系统辨识的原理就是过调整辨识模型的结构来使过调整辨识模型的结构来使e最小。最小。神经网络辨识的原理是给对象和辨识模型施加神经网络辨识的原理是给对象和辨识模型施加相同的输入,得到对象的输出相同的输入,得到对象的输出和模型的输出和模型的输出选择适当的神经网络作为被辨识系统P的模型及其逆模型(
9、P可以是线性系统也可以是非线性系统)。所选的网络结构确定后,在给定的被辨识系统输入输出观测数据下,网络通过学习(训练),不断的调整权系值,使得准则函数为最优。 模型辨识结构模型辨识结构 所谓正向模型是指利用多层前馈神经络,通过训练或学习,使其能够表达系统正向动力学特性的模型。1.正向模型正向模型(1)直接逆建模直接逆建模也称广义逆学习(Generalized Inverse Learning),在建立系统的逆模型时,可逆性必须首先假定。2.逆模型逆模型(2) 正逆建模正-逆建模也称狭义逆学习(Specializedlnverse Learning)1.神经网络本质上已是一种辨识模型,其所谓参数则反映在网络内部的权值上。2. 辨识的结果为网络外部特性拟合系统的输入/输出特性,网络的内部特性归纳隐含在系统输入/输出数据中的系统特性。3. 辨识的收敛速度不依赖于待辨识系统的维数,只与神经网络本身及其所采用的学习算法有关。4. 神经网络具有大量连接,其连接权的权值在辨识中对应于模型参数,通过调节这些参数可使网络输出逼近系统输出。5. 神经网络作为实际系统的辨识模型,实际上也是系统的一个物理实现,可以用于在线控制。神经网络辨识的特点:神经网络辨识的特点: