智能技术上课讲义

《智能技术上课讲义》由会员分享，可在线阅读，更多相关《智能技术上课讲义（103页珍藏版）》请在金锄头文库上搜索。

1、智能技术,普通高校本科计算机专业特色教材精选 曹承志 编著,总 目 录,第1章 概论 第2章 知识表示技术 第3章 知识推理技术 第4章 模糊逻辑技术 第5章 神经网络技术 第6章 遗传算法,总 目 录,第7章 专家系统 第8章 机器学习,第8章 机器学习,8.1 机器学习的基本概念 8.2 机械学习 8.3 指导学习 8.4 类比学习 8.5 归纳学习 8.6 解释学习 8.7 知识发现与数据挖掘 8.8 学习控制系统,8.1.1 什么是机器学习,1. 学习 机器学习的核心是学习，关于学习至今还没有一个精确的、能被公认的定义。目前，对学习这一概念研究的观点主要有以下几种： 按照人工智能大师西

2、蒙的观点，学习就是系统在不断重复的工作中对本身能力的增强或改进，使得系统在下一次执行同样任务或类似任务时，会比现在做得更好或效率更高。 从事专家系统研究人们的观点，学习就是获取知识的过程。由于知识获取一直是专家系统建造中的主要问题之一，因此希望通过对机器学习的研究，实现对知识的自动获取。, 心理学家对于学习活动有不同的见解，大致分为三派：一派主张学习是条件反射作用；一派主张学习是刺激与反应的联结；一派提出“领悟说”，认为学习是重新组织已有的知觉、经验，掌握与领悟情景中各因素间的新关系，导致问题解决。 工程控制专家蔡普金的观点，学习是一种过程，通过对系统重复输入各种信号，并从外部校正该系统，从而

3、系统对特定的输入作用具有特定的响应；自学习就是不具外来校正的学习，即不具奖罚的学习，它不给系统响应正确与否的任何附加信息。 综合上述观点可以认为：学习是一个有特定目的的知识获取过程，其内在行为是获取知识、积累经验直至发现规律；其外部表现是改进性能、适应环境和实现系统的自我完善。,2. 机器学习 机器学习是研究如何使用计算机来模拟人类学习活动的一门学科。稍严格的提法是，机器学习是一门研究计算机获取新知识和新技能并识别现有知识的方法。 机器学习的研究工作主要从以下三个方面进行：学习机理的研究，通过对人类获取知识技能和抽象概念能力的研究，将从根本上解决机器学习中存在的种种问题；学习方面的研究，通过对

4、人类的学习过程、各种可能的学习方法的探索研究，建立起独立于具体应用领域的学习算法；面向任务的研究，通过对特定任务要求的研究，建立起相应的学习系统。,8.1.2 学习系统,所谓学习系统，是指能在一定程度上实现机器学习的系统。1973年萨里斯的定义是：学习系统是一个能够学习有关过程的未知信息，并用所学信息作为进一步决策和控制的经验，从而逐步改善系统的性能。类似的定义是：若一个系统能够学习某一过程或环境的未知特征固有信息，并用所得经验进行估计、分类、决策或控制，使得全系统的品质得到改善，则称该系统为学习系统。,一个学习系统应具有如下的条件和能力：,1 适当的学习环境。这里所说的环境是指学习系统进行学

5、习时的信息来源，若学习系统不具有适当的环境，则它就失去了学习和应用的基础，不能实现机器学习。对不同的学习系统及不同的应用，其环境一般是不相同的。 2 具有一定的学习能力。除了上述的学习环境，为要从中学到有关信息，它还必须有合适的学习方法及一定的学习能力。学习过程是系统与环境相互作用的过程，是边学习、边实践，然后再学习、再实践的过程。学习系统也是通过与环境相互作用逐步学到有关知识的，而且在学习过程中要通过实践验证、评价所学知识的正确性。 3 能应用学到的知识求解问题。学习系统应能把学到的信息用于未来的估计、分类、决策或控制，做到学以致用。 4 能提高系统的性能。学习系统通过学习应能增长知识，提高

6、技能，改善系统的性能，使它能完成原来不能完成的任务，或比原来做得更好。,8.1.3 机器学习的主要策略,学习是一项复杂的智能活动，学习过程与推理过程二者紧密相连，学习中使用的推理方法称为学习策略。学习系统中的推理过程实际上就是一种变换过程，它将系统外部提供的信息变换为符合系统内部表达的形式，以便对信息进行存储和使用。这种变换的性质决定了学习策略的类型为：机械学习、通过传授学习、类比学习和通过事例学习。, 机械学习。它就是记忆，是最简单的学习策略。这种学习策略不需任何推理过程；外界输入的知识表示方式与系统内部表示方式完全一致，不需要任何处理与转换。虽然机械学习在方法上看似简单，但由于计算机的存储

7、容量相当大，检索速度又相当快，且记忆精度无丝毫误差，所以也能产生难以预料的效果。 通过传授学习。对于使用该种策略的系统来说，外界输入知识的表达方式与内部表达方式不完全一致，系统接受外部知识时需要一点推理、翻译和转化的工作。 类比学习。该系统只能得到完成类似任务的有关知识，即在遇到新的问题时，可学习以前解决过的相类似问题的解决办法，来解决当前的问题。所以寻求与当前问题相似的已知问题就很重要，并且必须要能够发现当前任务与已知任务的相似之点，由此制订出完成当前任务的方案。因此，它比上述两种学习策略需要更多的推理。 通过实例学习。系统事先完全没有完成任务的任何规律性的信息，所得到的只是一些具体的工作例

8、子及工作经验。系统需要对这些例子及经验进行分析、总结和推广，得到完成任务的一般性规律，并在进一步工作中验证或修改规律，因此，它需要的推理是最多的。,8.1.4 机器学习系统的基本结构,以西蒙的学习定义作为出发点，建立起图81所示的机器学习的基本模型，通过对此模型的讨论，总结出设计学习系统时应当注意的一些原则。该模型中包括了四个基本组成环节。环境向系统的学习环节提供某些信息，学习环节利用这些信息修改知识库，以增进系统执行环节完成任务的效能，执行环节根据知识库完成的任务，把获得的信息反映给学习环节。下面对系统中的各个环节进行讨论。,图8-1, 环境。指系统获取知识和信息的来源以及执行对象等。总之，

9、环境就是为学习系统提供获取知识所需的相关对象的素材或信息。一般，高水平的信息比较抽象、适用于更广泛的问题；低水平的信息比较具体、仅适用于个别问题。 学习环节。该环节通过对环境的搜索获得外部信息，并将这些信息与执行环节所反馈回来的信息进行比较。一般情况下，环境提供的信息水平与执行环节所需的信息水平之间往往有差距，经分析、综合、类比和归类等思维过程，学习环节就要从这些差距中获取相关对象的知识，并将这些知识存入知识库中。 3. 知识库。知识库是影响机器学习系统设计的重要因素。知识库中常用的知识表示法有谓词逻辑法、产生式规则法、语义网络法和框架法等。这些表示方法各有特点，在选择表示方法时要考虑以下4个

10、方面：,(1) 表达能力较弱。所选择的知识表示方法要能很容易且较准确的表达有关的知识，不同的表示方法适用于不同的知识对象。 (2) 推理难度的大小。在具有较强表达能力的基础上，为了使学习系统的计算代价比较低，总希望知识表示方法能使推理较为容易。 (3) 知识库修改的难易。 学习系统的本身要求它能不断地修改自己的知识库，当推理得出一般的执行规则后，要把它加到知识库中；当发现某些规则不适用时要能将其删除。因此，学习系统的知识表示，一般都采用明确、统一的方式，以利于知识库的修改。 (4) 知识是否易于扩展。 随着系统学习能力的提高，单一的知识表示法已不能满足需要，一个系统有时同时使用几种知识表示方法

11、，以便于学习更复杂的知识；有时还要求系统自己能构造出新的表示方法，以适应外界信息不断变化的需要。,4. 执行环节。它是整个学习系统的核心，用于处理系统面临的现实问题，即应用知识库中所学到的知识求解问题，并对执行的效果进行评价，将评价的结果反馈回学习环节，以便系统进一步学习。 一般，同执行环节密切相关的问题是： (1) 任务的复杂性。解决复杂的任务比解决简单的任务需要更多的知识。 (2) 反馈信息。当执行环节解决当前问题后，根据执行的效果，要给学习环节一些反馈信息，以便改善学习环节的性能。所有的学习系统必须以某种方式评价执行环节的效果。 (3) 执行过程的透明度。它要求从系统执行部分的动作效果可

12、以很容易地对知识库的规则进行评价。,8.2 机械学习,8.2.1 机械学习的模式 8.2.2 机械学习的主要问题,8.2.1 机械学习的模式,机械学习是最简单的机器学习方法。机械学习就是记忆。即把新的知识储存起来，供需要时检索调用，而不需要计算和推理。机械学习又是最基本的学习过程。任何学习系统都必须记住它们所获取的知识。在机械学习系统中，知识的获取是以较为稳定和直接的方式进行的，不需要系统进行过多的加工。而对于其它学习系统，需要对各种建议和训练实例等信息进行加工处理后，才能存储起来。,当机械学习系统的执行元件解决完问题之后，系统就记住该问题及其解。可以把系统的执行元件抽象成某个函数F，该函数在

13、得到自变量输入值（X1，X2，Xn）之后，计算并输出函数值（Y1，Y2，Yp）。若经过评价得知该计算是正确的，则把联想对： （X1，X2，Xn），（Y1，Y2，Yp） 存入知识库中。以后再次需要F(X1，X2，Xn)时，系统的执行机构就直接从知识库中把(Y1，Y2，Yp)检索出来而不是重新计算它，这种简单的学习模式如下： (X1，X2，Xn) (Y1，Y2，Yn) (X1，X2，Xn)，(Y1，Y2，Yp),假设要设计一个汽车修理成本估算保险程序，它的输入信息是有关待修理汽车的描述，包括制造厂家、出厂日期、车型、汽车损坏的部位以及它的损坏程度，输出则是该汽车的修理成本。为了进行估算，系统必须在

14、其知识库中查找同一厂家、同一出厂日期、同一车型、同样损坏情况的汽车，然后把知识库中对应的数据作为修理成本的估算数据输出给用户。若在系统的知识库中没有找到这样的汽车，则系统使用保险公司公布的赔偿规则估算出一个修理费用，并得到确认，然后把该车的描述与估算出的费用存储到知识库中，以便将来查找使用。 机械式学习实质上是用存储空间来换取处理时间，所以在机械学习中要全面权衡时间与空间的关系，这样才能取得较好的效果。,8.2.2 机械学习的主要问题, 存储结构 只有检索一个项目的时间比重新计算一个项目的时间短时，机械学习才有意义，检索得越快，其意义也就越大，因此，采用适当的存储结构，使检索速度尽可能快，是机

15、械学习中的重要问题。在数据结构与数据库领域，为提高检索速度，人们研究了许多卓有成效的数据存储方式，如索引，排序，杂凑等，在机械学习中可充分利用这些成果。, 环境的稳定性和存储信息的适用性 使用机械学习时，总是认为保存的知识或信息以后仍然有效，若环境急剧变化，保存的知识和信息就会失效而不能再使用。例如，知识库存储的是二十世纪九十年代计算机的配置及价格，就不能用它来估计二十一世纪当前的计算机的配置及价格，因为计算机发展得太快了，它的配置和价格目前都已发生了很大的变化。解决这一问题的办法就是随时监视环境的变化，不断更新知识库中保存的信息或知识。, 存储与计算间的权衡 因为机械学习的根本目的是改进系统

16、的执行能力，因此对机械学习来说很重要的一点是它不能降低系统的效率。这种存储与计算之间的权衡问题有两种解决方法：一种方法是估算一下存储信息所要花费的存储空间以及检索信息时所花费的时间，然后将其代价与重新计算所花的代价进行比较，再决定是否存储信息；另一种方法是把信息先存储起来，但为了保证有足够的检索速度，限制了存储信息的量，系统只保留那些最常使用的信息，“忘记”那些不常使用的信息，这种方法也叫“选择忘却”技术。,8.3 指导学习,指导学习又称嘱咐学习或教授学习，在这种学习方式下，有外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识并送入知识库中。在学习过程中要反复对形成的知识进行评价，使其不断完善。一般说来，指导学习的过程大体由下列步骤组成：, 征询指导者的指示或建议 其征询方式可以是简单的，也可以是复杂的；既可以是主动的，又可以是被动的。所谓简单征询是指由指导者给出一般性的意见，系统将其具体化；所谓复杂征询是指系统不仅要求指导者给出一般性的