《人工智能》-第四章 计算智能(1)

《《人工智能》-第四章 计算智能(1)》由会员分享，可在线阅读，更多相关《《人工智能》-第四章 计算智能(1)（73页珍藏版）》请在金锄头文库上搜索。

1、人 工 智 能主讲: 吴顺祥 教授模式识别与智能系统研究所Powerpoint中南大学 智能系统与智能软件研究所第四章 计算智能(1)神经计算 模糊计算中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC4.1 概述v信息科学与生命科学的相互交叉、相互 渗透和相互促进是现代科学技术发展的 一个显著特点。 v计算智能涉及神经网络、模糊逻辑、进 化计算和人工生命等领域，它的研究和 发展正反映了当代科学技术多学科交叉 与集成的重要发展趋势。 3中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICC

2、ISICCISICCISICCISIC什么是计算智能 v人工神经网络（ANN）研究自1943 年就开始了，期 间几起几落，波浪式向前发展。而在20世纪80年代， 由于Hopfield网络的促进和反向传播网络（back propagation ,BP) 训练多层感知器来推广的。把神经网 络（NN）归类于人工智能（AI）可能不大合适，而 归类于计算智能（CI）更能说明问题实质。进化计算 、人工生命和模糊逻辑系统的某些课题，也都归类于 计算智能。 v计算智能的定义最早由贝兹德克（Bezdek）1992年提 出的，他认为，计算智能取决于制造者（ manufacturers）提供的数值数据，不依赖于知识

3、；另 一方面，人工智能应用知识精品（knowledge tidbits） 。所以，他认为，人工神经网络应当称为计算神经网 络。 4.1 概述4中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv(Marks) 在1993年提到了计算智能和人工智能的 区别，而贝兹德克则关心模式识别（PR）与生物神经网 络（BNN）、人工神经网络（ANN）和计算神经网络 （CNN）的关系，以及模式识别与其它智能的关系。忽 视ANN与CNN的差别可能导致对模式识别中神经网络 模型的混淆、误解、误表示和误用。 v贝兹德克对这些相关术语给予一定的

4、符号和简要说明或 定义。他给出有趣的ABC： AArtificial：表示人工的（非生物的），即人造的 BBiological：表示物理的化学的（？）生物 的 CComputational， 表示数学计算机5中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv下图4.1表示ABC及其与神经网络（NN） 、模式识别（PR）和智能（I）之间的关系 。它是由贝兹德克于1994年提出的。图中 间部分有9个节点，表示九个研究领域或学 科。图中，A，B，C三者对应三个不同的 系统复杂性级别，其复杂性自左向右及自 底向上逐步提高。而节

5、点间的距离则衡量 领域间的差异。符号表示“适当的子集” 。6中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC计算智能与人工智能的区别和关系 输入人类知识 ()传感输入知识 ()传感数据计算 ()传感器C数值的A符号的B生物的输入复杂性复杂性BNNBPRBIANNAPRAICNNCPRCI4.1 概述7中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICABC及其相关领域的定义8中南大学 智能系统与智能软件研究所CISICCISICCISICCISI

6、CCISICCISICCISICCISICCISICv由上图可见，计算智能是一种智力方式的低层认知，它 与人工智能的区别只是认知层次从中层下降至低层而已 。中层系统含有知识（精品），低层系统则没有。 v当一个系统只涉及数值（低层）数据，含有模式识别部 分，不应用人工智能意义上的知识，而且能够呈现出：（1）计算适应性； （2）计算容错性； （3）接近人的速度； （4）误差率与人相近，则该系统就是计算智能系统。 v当一个智能计算系统以非数值方式加上知识（精品）值 ，即成为人工智能系统。4.1 概述9中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCIS

7、ICCISICCISIC本节将介绍人工神经网络的由来、特性、 结构、模型和算法；然后讨论神经网络的 表示和推理。这些内容是神经网络的基础 知识。神经计算是以神经网络为基础的计 算。4.2 神经计算10中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC概述v什么叫人工神经网络v采用物理可实现的系统来模仿人脑神经细胞的结构 和功能的系统。v为什么要研究神经网络v用计算机代替人的脑力劳动。 v计算机速度为纳秒级，人脑细胞反应时间是毫秒级 。而计算机不如人。 v长期以来人类的梦想，机器既能超越人的计算能力 ，又有类似于人的识别、

8、分析、联想等能力。11中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC概述v人工智能与神经网络v共同之处：研究怎样使用计算机来模仿人脑工作过程 。学习实践再学习再实践 。v不同之处：v人工智能研究人脑的推理、学习、思考、规划等 思维活动，解决需人类专家才能处理的复杂问题 。v神经网络企图阐明人脑结构及其功能，以及一些 相关学习、联想记忆的基本规则（联想、概括、 并行搜索、学习和灵活性） 12中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC概述v

9、例如：v人工智能专家系统是制造一个专家，几十年难以 培养的专家。 神经网络是制造一个婴儿，一个幼儿，一个可以 学习，不断完善，从一些自然知识中汲取智慧的 生命成长过程。 v同样是模仿人脑，但所考虑的角度不同。成年人和 婴儿。学习过程不一样。一个是总结出常人都不懂 得规律；一个是没完没了向他出示、重复一样东西 ，就象教一个小孩子说话。13中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC概述14中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv19

10、60年威德罗和霍夫率先把神经网络用 于自动控制研究。v60年代末期至80年代中期，神经网络控 制与整个神经网络研究一样，处于低潮。 v80年代后期以来，随着人工神经网络研 究的复苏和发展，对神经网络控制的研究 也十分活跃。这方面的研究进展主要在神 经网络自适应控制和模糊神经网络控制及 其在机器人控制中的应用上。4.2.1 人工神经网络研究的进展15中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC人工神经网络的特性v并行分布处理：神经网络具有高度的并行结构和并行实 现能力，因而具有较好的耐故障能力和较快的总体处理 能力。

11、 v非线性映射：其具有固有的非线性特性，这源于它近似 任意非线性映射(变换)能力。 v通过训练进行学习：神经网络通过研究系统过去的数据 记录进行巡逻学习。 v适应与集成：能适应在线运行，并可以同时进行定量和 定性操作。 v硬件实现：其不仅可以通过软件而且还可以通过硬件实 现并行处理。4.2 神经计算16中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC4.2.2 人工神经网络的结构 4.2 神经计算神经元及其特性v神经网络的结构是由基本处理单元及其 互连方法决定的。连接机制结构的基本 处理单元与神经生理学类比往往称为神

12、经元。每个构造起网络的神经元模型模 拟一个生物神经元。图4.2 就是一个 神经元模型的视图。17中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC4.2 神经计算-1W j 1X1X2Wj2X nW j n ( )Yi图4.2 神经元模型18中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC图4.2中的神经元单元由多个输入xi，i=1,2,.,n 和一个输出y组成。中间状态由输入信号的权 和表示，而输出为（4.1）v 式中，j为神经元单元的偏置，w

13、ji为连接权 系数。 n为输入信号数目，yj为神经元输出，t 为时间，f( )为输出变换函数，又称激励函数 ，往往采用0和1二值函数或形函数，见图 4.3，这三种函数都是连续和非线性的。4.2 神经计算19中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISIC(a)xf(x)1x00图4.3 神经元中的某些变换（激发）函数(a) 二值函数(b) S形函数 (c) 双曲正切函数4.2 神经计算(c)xf(x)1-1(b)f(x)x1020中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCIS

14、ICCISICCISICCISIC人工神经网络的基本特性和结构v人工神经网络(artificial neural nets,ANN)或 模拟神经网络是由模拟神经元组成的，可 把ANN看成是以处理单元PE(processing element)为节点，用加权有向弧(链)相互连 接而成的有向图。其中，处理单元是对生 理神经元的模拟，而有向弧则是轴突-突触 -树突对的模拟。有向弧的权值表示两处理 单元间相互作用的强弱。 4.2 神经计算21中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv严格来说，人工神经网络是具有下列特性

15、 的有向图：v 对于每个节点 i 存在一个状态变量xi ；v 从节点 j 至节点 i ，存在一个连接权系统数wij ；v 对于每个节点 i ，存在一个阈值 i；v对于每个节点 i ，定义一个变换函数 对于最一般的情况，此函数取 形式。22中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv人工神经网络的结构基本上分为两类：递归 （反馈）网络和前馈网络。 （）递归网络在递归网络中，多个神经元互连以组织一个 互连神经网络，如图4.4所示。有些神经元的 输出被反馈至同层或前层神经元。因此，信 号能够从正向和反向流通。Hopfi

16、eld网络， Elmman网络和Jordan网络是递归网络有代表 性的例子。递归网络又叫做反馈网络。23中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv递归（反馈）网络:在递归网络中，多个神经元互连以组织一个互连神经网络。 v图4.4中， 表示节点的状态， 为节点的输入（初始）值， 为收敛后的输出值，i=1,2,.,n。图4.4 反馈网络x1x2xnV1V2Vn输入输出x1x2xn4.2 神经计算24中南大学 智能系统与智能软件研究所CISICCISICCISICCISICCISICCISICCISICCISICCISICv() 前馈网络前馈网络具有递阶分层结构，由一些同层 神经元间不存在互连的层级组成。从输入 层至输出层的信号通过单向连接流通；