《基于递归神经网络的非线性系统辨识研究》由会员分享，可在线阅读，更多相关《基于递归神经网络的非线性系统辨识研究（69页珍藏版）》请在金锄头文库上搜索。
1、兰州大学 硕士学位论文 基于递归神经网络的非线性系统辨识研究 姓名：章国升 申请学位级别：硕士 专业：信息与通信工程、通信与信息系统 指导教师：杨凌 20100601 兰州大学研究生学位论文 摘要 非线性动态系统的辨识一直是控制领域研究的难点和热点。传统的前馈神经网络在处 理非线性动态系统辨识中存在很多缺陷。而递归神经网络能够利用自身内部的状态反馈来 描述系统的非线性特性，更适用于非线性系统的辨识。 递归神经网络有很多不同的结构，本文介绍了5 种常用的递归网络：H o p f i e l d 、J o r d a n 、 E l m a n 、D R N N 、E S N 网络。并将E l m
2、 a n 、D R N N 、E S N 网络模型用于实际非线性系统的辨 识。 对学习算法的研究一直是神经网络研究的核心而递归神经网络常用的学习算法有 B P T T 、R T R L 算法，它们都是基于梯度下降法的，因此避免不了误差梯度带来的诸多缺陷。 因此本文在研究了3 种常用智能优化算法的基础上，提出了2 种改进的优化算法，对3 个 基准函数的优化比较了5 种优化算法的性能，找到了性能最好的优化算法一蝴 ( I m p r o v e dA n tC o l o n y A l g o r i t h m ) ，并将此算法用于优化神经网络的结构和参数。 本文以兰州石化某厂乙烯、丙烯精馏塔
3、动态化工系统为辨识对象，首先通过实验研 究了E l m a a 、D R N N 网络用于非线性系统辨识的优势及不足，针对传统递归网络训练算法 的缺陷，将I A C A 用于网络结构和参数的设计，获得了较好的辨识性能；此外，文章比较 细致地研究了新型递归神经网络_ E S N 用于乙烯、丙烯精馏塔的辨识问题，主要研究了 E S N 网络的3 个重要参数( 储备池规模、谱半径* 连接密度缈) 对网络辨识性能的影 响，并针对常规E S N 网络学习算法易导致病态解的问题，将I A C A 用于优化E S N 网络的 输出权值，获得了相对最佳的辨识结果。 本文通过大量的仿真实验结果表明，递归神经网络
4、相比于前馈网络更适合于非线性 动态化工系统的辨识，将I A C A 算法引入到神经网络的结构及参数的设计中，有效地改善 了网络的学习效率，提高了网络的训练速度，较好地克服了传统梯度下降法的局部极小 问题以及E S N 网络的病态解问题。 基于对乙烯、丙烯精馏塔的辨识研究，本文最后提出了基于I A C A 算法的E S N 网络 辨识模型的精馏塔产品质量实时预测方案。 文章最后对全文的工作进行了总结，并提出了一些今后研究工作的方向和重点。 关键字：递归神经网络：学习算法；非线性动态系统；辨识；优化；预测 兰州大学研究生学位论文 A b s t r a c t 如1 ci d e n t i f
5、i c a t i o no fn o n l i n e a rd y n a m i cs y s t e mi sa l w a y st h ed i f f i c u l t ya n dt h ef o c u si nt h e f i e l d so fc o n t r o lr e s e a r c h T h e r ea r em a n yd e f e c t so fT r a d i t i o n a lf e e d f o r w a r dn e u r a ln e t w o r k si n d e a l i n gw i t hn o n
6、 l i n e a rd y n a m i cs y s t e mi d e n t i f i c a t i o n A n dt h er e c u r r e n tn e u r a ln e t w o r kc a nu s e i t so w ni n t e r n a ls y s t e mo fs t a t e - f e e d b a c kt or e f l e c tt h en o n - l i n e a rc h a r a c t e r i s t i c s ，S Oi ti sm o r e s u i t a b l ef o r
7、n o n l i n e a rs y s t e mi d e n t i f i c a t i o n T h e r ea r om a n yd i f f e r e n tt y p e so fr e c u r r e n tn e u r a ln e t w o r k s ，a n dt h i sp a p e rh a so n l y d e s c r i b e df i v ec o m m o nr e c u r r e n tn e u r a ln e t w o r k s ：H o p f i e l dn e t w o r k s ，J o
8、 r d a nn e t w o r k , E l m a n n e t w o r k , D R N Nn e t w o r ka n dE S Nn e t w o r k I nt h i sp a p c r , E l m a n , D R N N ，E S Nn e t w o r km o d e l s h a v eu s e di nt h ea c t u a ln o n l i n e a rs y s t e mi d e n t i f i c a t i o n T h er e s e a r c ho fl e a r n i n ga l g
9、o r i t h mh a sa l w a y sb e e nt h ec o r eo ft h en e u r a ln e t w o r k r e s e a r c h T h el e a r n i n ga l g o r i t h mo ft h er e c u r r e n tn e u r a ln e t w o r kc o m m o n l yu s eB P T Ta l g o r i t h m ， R T R La l g o r i t h m ，w h i c ha r eb a s e do ng r a d i e n td e s
10、 c e n t T h e r e f o r et h ec o m m o n l ya l g o r i t h m sc a n n o tp r e v e n tm a n yd e f e c t st ot h eo n o rg r a d i e n t A f t e rt h es t u d yo ft h r e ek i n d so fi n t e l l i g e n t o p t i m i z a t i o na l g o r i t h m ，t h i sp a p e rh a sp r o p o s e dt w ok i n d
11、so fi m p r o v e do p t i m i z a t i o na l g o r i t h m s a n dh a sc o m p a r e dt h eo p t i m i z a t i o nr e s u l t so ft h r e eb e n c h m a r kf u n c t i o n st of i n dt h eb e s t p e r f o r m a n c ea l g o r i t h mi nt h ef i v ek i n d so fo p t i m i z a t i o na l g o r i t h
12、 m s 1 1 1 cI A C Aa l g o r i t h mh a st h e b e s tp e r f o r m a n c e ，a n dt h ea l g o r i t h mh a su s e dt oo p t i m i z et h en e u r a ln e t w o r ks t r u c t u r ea n d p a r a m e t e r s T a k i n gt h ef a c t o r yi nL a n z h o u ，t h ed y n a m i cc h e m i c a ls y s t e mp e
13、 仃o c h e m i c a le t h y l e n e ， p r o p y l e n e d i s t i l l a t i o nc o h u n nf o rt h ei d e n t i f i c a t i o n o b j e c t s y i r s t ，I t i s a d v a n t a g e s a n d d i s a d v a n t a g e so ft h ee x p e r i m e n t a ls t u d yo ft h eE l m a n ，D R N Nn e t w o r kf o rn o n
14、 l i n e a rs y s t e m i d e n t i f i c a t i o n T h e r ea r em a n ys h o r t c o m i n g so ft h et r a d i t i o n a lr e c u r r e n tn e t w o r kt r a i n i n g a l g o r i t h m S oi th a sab e t t e rr e c o g n i t i o np e r f o r m a n c ef o ru s i n gt h eI A C Aa l g o r i t h mt o
15、d e s i g nt h e n e t w o r ks t r u c t u r ea n dp a r a m e t e r s I na d d i t i o n , t h i sp a p e rh a sd e t a i l e ds t u d i e dan e wt y p eo f r e c u r r e n tn e u r a ln e t w o r k sw h i c hi sE S Nn e t w o r k ，a n dh a su s e di tf o r t h ei d e n t i f i c a t i o np r o b
16、l e mo f e t h y l e n e ，p r o p y l e n ed i s t i l l a t i o n A l s ot h i sP a p e rh a ss t u d i e dt h et h r e ei m p o r t a n tp a r a m e t e r s ( r e s e r v ep o o ls i z eN ，t h es p e c t r a lr a d i u s1 ；c o n n e c t i o nd e n s i t y9 ) o fE S Nn e t w o r ko nt h e N e t w o r kI d e n t i f i c a t i o np r o p e r t i e s I ti se a s i l yl e a dt op a t h o l o g i c a lp r o b l e m so fE S Nn e t w o r k r e g u l a rl e a r n i n ga l g o
