《人工神经网络---数学建模培训课件》由会员分享，可在线阅读，更多相关《人工神经网络---数学建模培训课件（38页珍藏版）》请在金锄头文库上搜索。
1、人工神经网络Artificial Neural NetworksDate1信息工程大学 韩中庚 凌 光人 工 神 经 网 络1. 人工神经网络基本概念2. 单层前向神经网络-线性网络3.单层前向神经网络-阶跃网络4. 多层前向神经网络 5. MATLAB的图像交互界面 Date2信息工程大学 韩中庚 凌 光人工神经网络基本概念 11 生物神经元及生物神经网络 神经元是大脑处理信息的基本单元，以 细胞体为主体，由许多向周围延伸的不规 则树枝状纤维构成的神经细胞，其形状很 像一棵枯树的枝干。它主要由细胞体、树 突、轴突和突触(Synapse，又称神经键)组 成。 人脑大约由1012个神经元组成，神
2、经元 互相连接成神经网络.Date3信息工程大学 韩中庚 凌 光人工神经网络基本概念图1 生物神经元示意图 Date4信息工程大学 韩中庚 凌 光人工神经网络基本概念从神经元各组成部分的功能来看，信息的 处理与传递主要发生在突触附近。当神经元 细胞体通过轴突传到突触前膜的脉冲幅度达 到一定强度，即超过其阈值电位后，突触前 膜将向突触间隙释放神经传递的化学物质。突触有两种：兴奋性突触和抑制性突触。前者 产生正突触后电位，后者产生负突触后电位 。Date5信息工程大学 韩中庚 凌 光人工神经网络基本概念 12 人工神经元模型 生物神经元是一个多输入、单输出单元。 常用的人工神经元模型可用图2模拟。
3、 图2 人工神经元模型 Date6信息工程大学 韩中庚 凌 光人工神经网络基本概念响应函数（激活函数）的基本作用：1、控制输入对输出的激活作用； 2、对输入、输出进行函数转换； 3、将可能无限域的输入变换成指定的有限范围 内的输出。 Date7信息工程大学 韩中庚 凌 光人工神经网络基本概念常见的响应函数有以下几种类型： 1、阶跃函数 2、线性函数 3、非线性：Sigmoid函数 Date8信息工程大学 韩中庚 凌 光人工神经网络基本概念图3 常见响应函数 Date9信息工程大学 韩中庚 凌 光人工神经网络基本概念 1.3 建立和应用神经网络的步骤（1）网络结构的确定 包含网络的拓扑结构和每个
4、神经元相应函数的选取；（2）权值和阈值的确定 通过学习得到，为有指导的学习，也就是利用已知的 一组正确的输入、输出数据，调整权和阈值使得网络输出 与理想输出偏差尽量小；（3）工作阶段 用带有确定权重和阈值的神经网络解决实际问题的过 程，也叫模拟（simulate）。Date10信息工程大学 韩中庚 凌 光单层前向线性网络 2.1 单层前向神经网络网络中的神经元是分层排列的。单层： 只有输入和输出层。前向： 信息由上一层的神经元向下一层神经元 传递，即：上层的输出就是下层的输入；同层神 经元之间没有信息传递。Date11信息工程大学 韩中庚 凌 光单层前向线性网络Date12信息工程大学 韩中庚
5、 凌 光单层前向线性网络Date13信息工程大学 韩中庚 凌 光单层前向线性网络x1x2xmy1y2yn wnmw11wn1wn2w1m输出层输入层图3 单层前向神经网络 Date14信息工程大学 韩中庚 凌 光单层前向线性网络Date15信息工程大学 韩中庚 凌 光单层前向线性网络 2.2 线性网络 采用线性相应函数，得Date16信息工程大学 韩中庚 凌 光单层前向线性网络理论上这是一个很好的结果。另一种，学习过程面对自适应性网络，采用的学习规则为 ：误差修正规 则Date17信息工程大学 韩中庚 凌 光单层前向线性网络Date18信息工程大学 韩中庚 凌 光单层前向线性网络体会：最小二乘
6、规则与误差修正规则的区别。感受：牛顿迭代与误差修正在梯度下降方面的异同。Date19信息工程大学 韩中庚 凌 光单层前向线性网络 2.3 线性网络的MATLAB实现 MATLAB产生线性网络的命令： net=newlin(A,n); 其中，A为m2的矩阵，m为输入变量的个数，每 一行分别表示对应输入变量的下、上界；n为输出 变量的个数。 最小二乘规则的学习命令： net=newlind(P,T); 其中，P为学习的输入数据矩阵,T为学习的理想输 出矩阵。Date20信息工程大学 韩中庚 凌 光单层前向线性网络计算网络输出的命令： result=sim(net,P) P为工作阶段需要计算的输入矩
7、阵。 误差修正规则的学习命令： net=train(net,P,T) 利用误差修正，对P,T一对对的学习，每学习 一遍称为一轮（epoch）.默认学习效率为1. 在用该命令前，需给定平均（误差）方差 上限和计算的最大轮数。Date21信息工程大学 韩中庚 凌 光单层前向线性网络 例1： 例2： 例3：Date22信息工程大学 韩中庚 凌 光人 工 神 经 网 络 3.1 基本原理Date23信息工程大学 韩中庚 凌 光三. 阶 跃 网 络 3.2 阶跃网络的MATLAB实现 产生网络的命令： net=newp(A,n); 数据意义和其他命令均与线性网络相同。例4：略Date24信息工程大学 韩
8、中庚 凌 光四. 多层前向神经网络x1输出层隐藏层输入层x2xn图4 二层前向神经网络示意图 Date25信息工程大学 韩中庚 凌 光四. 多层前向神经网络若每一层层都采用线线性相应应函数，则则有Date26信息工程大学 韩中庚 凌 光四. 多层前向神经网络 4.1 BP（back-propagation）规则Date27信息工程大学 韩中庚 凌 光四. 多层前向神经网络学习习算法过过程：（1）给给定学习习数组组，随机确定初始化权权矩阵阵；给给定最小二乘目标标函数的偏 差上界和迭代次数；（2）用逐一或者成批学习规则习规则 修正权值权值 ，直到到达偏差要求或者迭代次数上 限。Date28信息工程
9、大学 韩中庚 凌 光四. 多层前向神经网络 应用BP网络时注意事项： 响应函数为S形函数，只能趋于0或者1； 初始权和阈值最好随机选取； 算法的全局最优可以通过其他方法改进得到； BP算法主要采用与梯度下降有关的学习方法， 非线性函数优化有很多的方向下降法，这些方 法都可以应用过来。 比如：traingdm（势 能修正法）、traingdx（自调整学习效率法） 、trainbfg（拟牛顿法）、trainscg（标量共轭 梯度法） 等等。Date29信息工程大学 韩中庚 凌 光四. 多层前向神经网络 4.2 MATLAB实现产生多层网络结构的命令： net=newff(A,B,C,trainfu
10、n); A同前，规模为n02,代表n0个输入的下、上界 B是一个K为行向量，其分量为对应层神经元个 数，C是一个K维字符串向量，每个字符串代表 对应层神经元的响应函数； trainfun为学习规 则。 可选响应函数字符串：logsig,tansig,purelin 分代表： Sigmoid ，双曲正切，线性函数Date30信息工程大学 韩中庚 凌 光四. 多层前向神经网络 常见参数： net.trainParam.show 显示中间结果的周期（ 25） net.trainParam.lr 整批学习中的学习效率（ 0.01） net.trainParam.mc 势能学习规则(traingdm)势
11、 能率（0.9） net.trainParam.epochs 整批学习迭代次数上限 （100） net.trainParam.goal 最小二乘目标误差设定值 （0）Date31信息工程大学 韩中庚 凌 光四. 多层前向神经网络 4.3 应用举例 例5： 例6：谵妄的诊断 谵妄是由于各种原因引起的急性脑器质性综合症 ，其特点是急性发病，意识水平变化，病程波 动，定向力、注意力、思维、精神运动、行为 和情感改变。根据国外1980年以后的有关谵妄 研究文献的报道，谵妄的发病率为4%25%。 目前对谵妄的发病机制还了解不多，诊断的方 式常采用多个指标综合评价。Date32信息工程大学 韩中庚 凌 光
12、四. 多层前向神经网络如对老年人谵妄，通常采用检查表的方式确诊，检查表 中的11个项目包含： 急性起病：病人的精神状况有急性变化的证据吗？ 注意障碍：患者的注意力难以集中吗？ 思维混乱：患者的思维是凌乱或是不连贯吗？ 意识水平的改变：总体上看，您如何评价该患者的意识水平？ 定向障碍：在会面的任何时间患者存在定向障碍吗？ 记忆力减退：在面谈时患者表现出记忆方面的问题吗？ 知觉障碍：患者有知觉障碍的证据吗？ 精神运动性兴奋：面谈时患者的行为活动有不正常的增加吗？ 精神运动性迟缓：面谈时患者有运动行为水平的异常减少吗？ 波动性：患者的精神状况（注意力、思维、定向、记忆力）在面 谈前或者在面谈中有波动
13、吗？ 睡眠-觉醒周期的改变：患者有睡眠-觉醒周期紊乱的证据吗？Date33信息工程大学 韩中庚 凌 光四. 多层前向神经网络针对以上11个问题，医生对病人进行观察 和提问，每项分4个等级打分：不存在1 分；轻度存在2分；中度存在3分；严 重存在4分。数据为一个医生对96名测试人员的观察和提 问，并通过计分方式记录下来的直观诊断 。诊断标准为：22分以上可诊断为谵妄， 在量表诊断一列中记为Y（否则记为N）。 这样的标准是否合理？Date34信息工程大学 韩中庚 凌 光四. 多层前向神经网络序 号起 病注 意思 维意 识定 向记 忆错 觉兴 奋迟 滞波 动睡 眠22 分 标 准量 表 诊 断 13
14、322212313325 Y 24443333414436 Y 33322332213428 Y 96 1222111311217 NDate35信息工程大学 韩中庚 凌 光四. 多层前向神经网络实际上已经知道，前48个数据来自临床诊 断的病人，后48个数据来自正常人。可以 看出，量表诊断一共出了10例误诊病例， 占测试人员的10.4%，这是一个比较高的错 误率。现在有神经网络解决这个问题。该如果解决？Date36信息工程大学 韩中庚 凌 光五. MATLAB交互界面Date37信息工程大学 韩中庚 凌 光谢谢大家天津职业技术师范大学 理学院 凌 光E_mail:ling_Date38信息工程大学 韩中庚 凌 光
