《人工神经网络(网络资料)》由会员分享，可在线阅读，更多相关《人工神经网络(网络资料)（6页珍藏版）》请在金锄头文库上搜索。
1、人工神经网络1、 基本特征(1)结构特征 并行处理（时间）、分布式存储（空间）与容错性(2)能力特征 自适应性（自学习和自组织）2、 基本功能(1)联想记忆 自联想和异联想(2)非线性映射(3)分类与识别(4)优化计算(5)知识处理3、神经元建模：(1)每个神经元都是一个多输入单输出的信息处理单元；(2)神经元输入分兴奋性输入和抑制性输入两种类型；(3)神经元具有空间整合性和阈值特性；(4)神经元输入与输出间有固定的时滞，主要取决于突触延搁；(5)忽略时间整合作用和不应期；(6)神经元本身是非时变的，即其突触时延和突触强度均为常数。4、人工神经元模型令 表示 t时刻神经元 j 接收的来自神经元
2、 i 的输入信息， 表示 t)(txi )(toj时刻神经元 j 的输出信息， 则神经元 j 的状态可表达为： )()(1ni jijijj Ttxwfto其中， 为输入输出间的突触时延， 为神经元 j 的阈值， 为神经元 i 到 j 的ijjTijw突触连接系数或称权重值， 为神经元转移函数。取 ，则有：f 1ij)()1(1ni jijj Ttxwfto输入总和常称为神经元在 t时刻的净输入，用下式表示： niijj txte1)()(体现了神经元 j 的空间整合性，而未考虑时间整合，当 时，)(tnej 0)(jjTtne神经元才能被激活。上式还可表示为权重向量 和输入向量 的点积：jW
3、XXtneTjj其中 和 均为列向量，定义为：jWXTnjjjj w),(21 xX如果令 ， ，则有 ，因此净输入与阈值之差可表达为：10xjjTw0 jj0niTjijjjj XWxwettn0综合以上各式，神经元模型可简化为： )()(fnetfoTjjj5、神经元的转移函数(1)阈值型转移函数(M-P 模型) 处理离散信号单极性阈值型转移函数 单位阶跃函数双极性阈值型转移函数 sgn(x)(2)非线性转移函数（单极性/双极性 Sigmoid 函数曲线）实数域 R 到0,1闭集的非减性连续函数，代表了状态连续型神经元模型。(3)分段线性转移函数（伪线性函数）(4)概率型转移函数6、人工神
4、经网络模型人工神经网络中的神经元常称为节点或处理单元，每个节点均具有相同的结构其动作在时间和空间上均同步。人工神经网络模型分类方法：按网络连接的拓扑结构和按网络内部的信息流向分类。神经元之间的连接方式不同，网络的拓扑结构也不同。根据神经元之间的连接方式，可将神经网络结构分 为：(1)层次型结构a.单纯型层次网络结构b.输出层到输入层有连接的层次网络结构c.层内有互连的层次网络结构(2) 互连型结构a.全互连型b.局部互连型c.稀疏连接型 网络中的节点只与少数相距较远的节点相连。根据网络内部的信息流向，可将神经网络结构分为：(1)前馈型网络单层前馈型网络的结构特点与单纯型层次网络结构完全相同。从
5、信息处理能力来看，网络中的节点可分 为两种：一种是输入节点，只负责从外界引入信息后向前传递给第一隐层；另一种是具有处理能力的节点，包括各隐层和输出层节点。前馈 网络中除输出层外，任一层的输出是下一层 的输入，信息的 处理具有逐层传递进行的方向性，一般不存在反馈环路。因此， 这类网络很容易串联起来建立多层前馈网络。多层前馈网络可用一个有向无环路的图表示，如图 1 所示。其中输入层常记为网络的第一层，第一个隐层记为网络的第二层，其余类推。网 络除输入节点外，有一层或多层的隐含层节点，同层节点间无任何连接。由于同层节点间无任何耦合，故每一层节点的输出只影响下一层节点，每个 节 点表示单个神经元，其
6、对应的函数常为 Sigmoid 型函数，有时输出层节点取线性函数。电影网 图 1 前馈型网络所以，当提到具有单层计算神经元的网络时，指的 应该是一个两层前馈网络（输入层和输出层）；当提到具有单隐层的网络时，指的应该是一个三层前馈网络（输入层、 隐层和输出层）。(2)反馈型网络单纯反馈型网络的结构特点与全互连型网络结构完全相同，称为反馈网络是指其信息流向的特点。在反馈网络中所有节点都居于信息处理功能，而且每个节点既可以从外界接收输入，同时又可以向外界输出。其中也包括神经元射出信号引回到本身输入构成的自环反馈。如图 2 所示，它可以画成无向图，其中每个连接线都是双向的。图 2 反馈型网络7、人工神
7、经网络学习人工神经网络的学习算法有很多，根据一种广泛采用的分类方法，可将人工神经网络的学习算法归纳为：(1)有导师学习 有导师学习也称为监督学习，这种学习模式采用的是纠错规则。在学习训练过程中需要不断给网络成对提供一个输入模式和一个期望网络正确输出的模式，称为“教师信号 ”。将神经网络的实际输出同期望输出进行比较，当网络的输出与期望的教师信号不符时，根据差错的方向和大小按一定的规则调整权值，以使下一步网络输出更接近期望结果。(2)无导师学习 无导师学习也称为无监督学习，在学习过程中，需要不断地给网络提供动态输入信息，网络能根据特有的内部结构和学习规则，在输入信息流中发现任何可能存在的模式和规律
8、，同时 能根据王安利的功能和输入信息调整权值，这个过程称为网络的自组织，其结果是使网络能对属于同一类的模式进行自动分类。在这种学习模式中，网络的权值调 整不取决于外来教师信号的影响，可以认为网络的学习评价标准隐含于网络的内部。网络的运行一般分为训练和工作两个阶段。训练的目的是为了从训练数据中提取隐含的知识和规律，并存储于网络中供工作阶段使用。可以认为一个神经元是一个自适应单元，其权值 可以根据它所接受的输入信号、它的输出信号以及对应的监督信号进行调整。不同的神经网络权值调整的学习规则对学习信号有不同的定义，从而形成各种各样的神经网络。(1)Hebb 学习规则(2)Perceptron 学习规则(3) 学习规则(4)LMS 学习规则(5)Correlation 学习规则(6)Winner-Take-All 学习规则(7)Outstar 学习规则
