《神经网络计算课件》由会员分享，可在线阅读，更多相关《神经网络计算课件（14页珍藏版）》请在金锄头文库上搜索。
1、智能中国网提供学习支持智能中国网提供学习支持2.8 Elman神经网络模型与学习算法 1概述概述pElmanElman神经网络由神经网络由Jeffrey L. Elman Jeffrey L. Elman 于于19901990年提出年提出p是一种反馈神经网络是一种反馈神经网络 p具有很强的计算能力具有很强的计算能力 Hello ,Im Jeffrey L. Elman22.8.1 Elman神经网络结构pElmanElman网络由网络由4 4层组成层组成输入层 信号传输作用隐含层承接层 也称上下文单元或状态层,承接层从隐含层接收反馈信号，用来记忆隐含层神经元前一时刻的的输出值，承接层神经元的输
2、出经延迟与存储，再输入到隐含层。这样就使其对历史数据具有敏感性，增加了网络自身处理动态信息的能力。输出层 仅起线性加权作用。32.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法 pElmanElman神经网络各层输入输出公式神经网络各层输入输出公式如果输入向量 为 维向量，输出向量 为 维，隐含层输出向量 为 维，承接层输出向量 为 维， 分别为隐含层到输出层、输入层到隐含层、承接层到隐含层的连接权值。 为输出神经元的激活函数,是隐含层输出的线性组合。 为隐含层神经元的激活函数， 为承接层的海派函数， 表示某层的净输入，用A表示输入层，用B表示承接层， 表示迭代次序则
3、各层之间的表达式如下图所示。 42.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法Output yr12Input uInput un1n1m1输出层用紫色表示输出层用紫色表示隐含层用黄色表示隐含层用黄色表示承接层用白色表示承接层用白色表示52.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法pElmanElman神经网络学习算法采用神经网络学习算法采用BPBP算法算法判断算法是否结束的误差函数为： 其中 为期望输出Elman神经网络学习算法流程图6ElmanElman神经网络学习算法流程图神经网络学习算法流程图计计计计算算算算输出输出输出输出
4、层层层层输出输出输出输出初始初始初始初始化化化化各各各各层权层权层权层权值值值值输输输输入入入入样本值样本值样本值样本值计计计计算算算算输入输入输入输入层输出层输出层输出层输出计计计计算算算算误差误差误差误差函数函数函数函数更更更更新新新新权权权权值值值值计计计计算算算算承接承接承接承接层层层层输出输出输出输出计计计计算隐含层输出算隐含层输出算隐含层输出算隐含层输出72.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现 pElmanElman神经网络的重要函数和基本功能神经网络的重要函数和基本功能 函 数 名功 能newelm()生成
5、一个Elman神经网络trains()根据已设定的权值和阈值对网络进行顺序训练traingdx()自适应学习速率动量梯度下降反向传播训练函数learngdm()动量梯度下降权值和阈值学习函数82.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-7 2-7 下表为某单位办公室七天上午下表为某单位办公室七天上午9 9点到点到1212点的空调负荷数据，数据已经做了点的空调负荷数据，数据已经做了归一化处理，预测方法采用前归一化处理，预测方法采用前6 6天的数据天的数据作为网络的训练样本，每作为网络的训练样本，每3 3天的负荷作为天的
6、负荷作为输入向量，第输入向量，第4 4天的负荷作为目标向量，天的负荷作为目标向量，第七天的数据作为网络的测试数据。第七天的数据作为网络的测试数据。 92.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p空调负荷数据表空调负荷数据表 时间9时负荷10时负荷11时负荷12时负荷第1天0.44130.47070.69530.8133第2天0.43790.46770.69810.8002第3天0.45170.47250.70060.8201第4天0.45570.47900.70190.8211第5天0.46010.48110.71010.8
7、298第6天0.46120.48450.71880.8312第7天0.46150.48910.72010.8330102.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-72-7程序程序112.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-72-7误差曲线误差曲线12小结小结p概述概述pElmanElman神经网络结构神经网络结构pElmanElman神经网络学习算法神经网络学习算法pElmanElman神经网络学习算法神经网络学习算法MATLABMATLAB实现实现pElmanElman神经网络与前向神经网络之间的区神经网络与前向神经网络之间的区别别13谢谢谢谢! !14
