《人工神经网络数学建模培训.PPT》由会员分享，可在线阅读，更多相关《人工神经网络数学建模培训.PPT（38页珍藏版）》请在金锄头文库上搜索。
1、人工神经网络人工神经网络 Artificial Neural Networks2024/7/281 凌 光人人 工工 神神 经经 网网 络络1. 1. 人工神经网络基本概念人工神经网络基本概念人工神经网络基本概念人工神经网络基本概念2. 2. 单层前向神经网络单层前向神经网络单层前向神经网络单层前向神经网络-线性网络线性网络线性网络线性网络3.3.单层前向神经网络单层前向神经网络单层前向神经网络单层前向神经网络-阶跃网络阶跃网络阶跃网络阶跃网络4. 4. 多层前向神经网络多层前向神经网络多层前向神经网络多层前向神经网络 5. MATLAB的图像交互界面的图像交互界面 2024/7/282 凌
2、光人工神经网络基本概念人工神经网络基本概念11 生物神经元及生物神经网络神经元是大脑处理信息的基本单元，以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成。人脑大约由1012个神经元组成，神经元互相连接成神经网络.2024/7/283 凌 光人工神经网络基本概念人工神经网络基本概念图1 生物神经元示意图 2024/7/284 凌 光人工神经网络基本概念人工神经网络基本概念从神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近。当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定
3、强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质。突触有两种：兴奋性突触和抑制性突触。前者产生正突触后电位，后者产生负突触后电位。2024/7/285 凌 光人工神经网络基本概念人工神经网络基本概念12 人工神经元模型生物神经元是一个多输入、单输出单元。常用的人工神经元模型可用图2模拟。 图2 人工神经元模型 2024/7/286 凌 光人工神经网络基本概念人工神经网络基本概念响应函数（激活函数）的基本作用：1、控制输入对输出的激活作用；2、对输入、输出进行函数转换；3、将可能无限域的输入变换成指定的有限范围内的输出。 2024/7/287 凌 光人工神经网络基本概念人工神
4、经网络基本概念常见的响应函数有以下几种类型： 1、阶跃函数 2、线性函数 3、非线性：Sigmoid函数 2024/7/288 凌 光人工神经网络基本概念人工神经网络基本概念图3 常见响应函数 2024/7/289 凌 光人工神经网络基本概念人工神经网络基本概念1.3 建立和应用神经网络的步骤 （1）网络结构的确定）网络结构的确定包含网络的拓扑结构和每个神经元相应函数的选取；（2）权值和阈值的确定）权值和阈值的确定通过学习得到，为有指导的学习，也就是利用已知的一组正确的输入、输出数据，调整权和阈值使得网络输出与理想输出偏差尽量小；（3）工作阶段）工作阶段用带有确定权重和阈值的神经网络解决实际问
5、题的过程，也叫模拟（simulate）。 2024/7/2810 凌 光单层前向线性网络2.1 单层前向神经网络网络中的神经元是分层排列的。单层：只有输入和输出层。 前向：信息由上一层的神经元向下一层神经元传递，即：上层的输出就是下层的输入；同层神经元之间没有信息传递。2024/7/2811 凌 光单层前向线性网络2024/7/2812 凌 光单层前向线性网络2024/7/2813 凌 光单层前向线性网络x1x2xmy1y2ynwnmw11wn1wn2w1m输出层输出层输入层输入层图3 单层前向神经网络 2024/7/2814 凌 光单层前向线性网络2024/7/2815 凌 光单层前向线性网
6、络2.2 线性网络采用线性相应函数，得2024/7/2816 凌 光单层前向线性网络理论上这是一个很好的结果。另一种，学习过程面对自适应性网络，采用的学习规则为：误差修正规则2024/7/2817 凌 光单层前向线性网络2024/7/2818 凌 光单层前向线性网络体会：最小二乘规则与误差修正规则的区别。感受：牛顿迭代与误差修正在梯度下降方面的异同。2024/7/2819 凌 光单层前向线性网络2.3 线性网络的MATLAB实现MATLAB产生线性网络的命令：net=newlin(A,n);其中，A为m2的矩阵，m为输入变量的个数，每一行分别表示对应输入变量的下、上界；n为输出变量的个数。最小
7、二乘规则的学习命令：net=newlind(P,T);其中，P为学习的输入数据矩阵,T为学习的理想输出矩阵。2024/7/2820 凌 光单层前向线性网络计算网络输出的命令：result=sim(net,P)P为工作阶段需要计算的输入矩阵。误差修正规则的学习命令：net=train(net,P,T)利用误差修正，对P,T一对对的学习，每学习一遍称为一轮（epoch）.默认学习效率为1.在用该命令前，需给定平均（误差）方差上限和计算的最大轮数。2024/7/2821 凌 光单层前向线性网络例1：例2：例3：2024/7/2822 凌 光人 工 神 经 网 络3.1 基本原理2024/7/2823
8、 凌 光 三. 阶 跃 网 络3.2 阶跃网络的MATLAB实现产生网络的命令：net=newp(A,n);数据意义和其他命令均与线性网络相同。例4：略2024/7/2824 凌 光四. 多层前向神经网络x1输出层输出层隐藏层隐藏层输入层输入层x2xn图4 二层前向神经网络示意图 2024/7/2825 凌 光四. 多层前向神经网络若每一层都采用线性相应函数，则有若每一层都采用线性相应函数，则有2024/7/2826 凌 光四. 多层前向神经网络4.1 BP（back-propagation）规则2024/7/2827 凌 光四. 多层前向神经网络学习算法过程：学习算法过程：（1）给定学习数组
9、，随机确定初始化权矩阵；给定最小二乘目标函数的偏差）给定学习数组，随机确定初始化权矩阵；给定最小二乘目标函数的偏差上界和迭代次数；上界和迭代次数；（2）用逐一或者成批学习规则修正权值，直到到达偏差要求或者迭代次数上）用逐一或者成批学习规则修正权值，直到到达偏差要求或者迭代次数上限。限。2024/7/2828 凌 光四. 多层前向神经网络应用BP网络时注意事项：响应函数为S形函数，只能趋于0或者1；初始权和阈值最好随机选取；算法的全局最优可以通过其他方法改进得到；BP算法主要采用与梯度下降有关的学习方法，非线性函数优化有很多的方向下降法，这些方法都可以应用过来。 比如：traingdm（势能修正
10、法）、traingdx（自调整学习效率法）、trainbfg（拟牛顿法）、trainscg（标量共轭梯度法） 等等。2024/7/2829 凌 光四. 多层前向神经网络4.2 MATLAB实现产生多层网络结构的命令：net=newff(A,B,C,trainfun);A同前，规模为n02,代表n0个输入的下、上界B是一个K为行向量，其分量为对应层神经元个数，C是一个K维字符串向量，每个字符串代表对应层神经元的响应函数； trainfun为学习规则。可选响应函数字符串：logsig,tansig,purelin分代表： Sigmoid ，双曲正切，线性函数2024/7/2830 凌 光四. 多层
11、前向神经网络常见参数：net.trainParam.show 显示中间结果的周期（25）net.trainParam.lr 整批学习中的学习效率（0.01）net.trainParam.mc 势能学习规则(traingdm)势能率（0.9）net.trainParam.epochs 整批学习迭代次数上限（100）net.trainParam.goal 最小二乘目标误差设定值（0）2024/7/2831 凌 光四. 多层前向神经网络4.3 应用举例例5：例6：谵妄的诊断谵妄是由于各种原因引起的急性脑器质性综合症，其特点是急性发病，意识水平变化，病程波动，定向力、注意力、思维、精神运动、行为和情感
12、改变。根据国外1980年以后的有关谵妄研究文献的报道，谵妄的发病率为4%25%。目前对谵妄的发病机制还了解不多，诊断的方式常采用多个指标综合评价。2024/7/2832 凌 光四. 多层前向神经网络如对老年人谵妄，通常采用检查表的方式确诊，检查表如对老年人谵妄，通常采用检查表的方式确诊，检查表中的中的11个项目包含：个项目包含：急性起病：病人的精神状况有急性变化的证据吗？急性起病：病人的精神状况有急性变化的证据吗？注意障碍：患者的注意力难以集中吗？注意障碍：患者的注意力难以集中吗？思维混乱：患者的思维是凌乱或是不连贯吗？思维混乱：患者的思维是凌乱或是不连贯吗？意识水平的改变：总体上看，您如何评
13、价该患者的意识水平？意识水平的改变：总体上看，您如何评价该患者的意识水平？定向障碍：在会面的任何时间患者存在定向障碍吗？定向障碍：在会面的任何时间患者存在定向障碍吗？记忆力减退：在面谈时患者表现出记忆方面的问题吗？记忆力减退：在面谈时患者表现出记忆方面的问题吗？知觉障碍：患者有知觉障碍的证据吗？知觉障碍：患者有知觉障碍的证据吗？精神运动性兴奋：面谈时患者的行为活动有不正常的增加吗？精神运动性兴奋：面谈时患者的行为活动有不正常的增加吗？精神运动性迟缓：面谈时患者有运动行为水平的异常减少吗？精神运动性迟缓：面谈时患者有运动行为水平的异常减少吗？波动性：患者的精神状况（注意力、思维、定向、记忆力）在
14、面波动性：患者的精神状况（注意力、思维、定向、记忆力）在面谈前或者在面谈中有波动吗？谈前或者在面谈中有波动吗？睡眠睡眠-觉醒周期的改变：患者有睡眠觉醒周期的改变：患者有睡眠-觉醒周期紊乱的证据吗？觉醒周期紊乱的证据吗？2024/7/2833 凌 光四. 多层前向神经网络针对以上11个问题，医生对病人进行观察和提问，每项分4个等级打分：不存在1分；轻度存在2分；中度存在3分；严重存在4分。数据为一个医生对96名测试人员的观察和提问，并通过计分方式记录下来的直观诊断。诊断标准为：22分以上可诊断为谵妄，在量表诊断一列中记为Y（否则记为N）。这样的标准是否合理？2024/7/2834 凌 光四. 多
15、层前向神经网络序号起病注意思维意识定向记忆错觉兴奋迟滞波动睡眠22分标准量表诊断13322212313325 Y24443333414436 Y33322332213428 Y96 1222111311217 N2024/7/2835 凌 光四. 多层前向神经网络实际上已经知道，前48个数据来自临床诊断的病人，后48个数据来自正常人。可以看出，量表诊断一共出了10例误诊病例，占测试人员的10.4%，这是一个比较高的错误率。现在有神经网络解决这个问题。该如果解决？2024/7/2836 凌 光五. MATLAB交互界面2024/7/2837 凌 光谢谢大家谢谢大家 天津职业技术师范大学天津职业技术师范大学 理学院理学院凌凌 光光 E_mail:ling_ E_mail:ling_2024/7/2838 凌 光
