《人工智能(第五章)》由会员分享，可在线阅读，更多相关《人工智能(第五章)（42页珍藏版）》请在金锄头文库上搜索。
1、人工智能人工智能( (第五章第五章) )11第五章第五章机器学习机器学习11第五章第五章机器学习机器学大学地面机械仿生技术教育部重点实验5.1 概述 5.1.1 机器学习的基本概念 1.学习的概念对“学习”这一概念的几种观点：学习是系统改善其性能的过程；学习就是知识获取；学习是对客观经验表示的构造或修改；学习是事物规律的发现过程。学习是一个有特定目的的知识获取过程，其内在行为是获取知识、积累经验、发现规律，其外在表现是使系统性能得到改进、系统实现自我完善、自适应环境。2吉林大学地面机械仿生技术教育部重点实验2.机器学习机器学习是研究如何使用计算机来模拟人类学习活动的一门学科。更严格地说，就是研
2、究计算机获取新知识和新机能、识别现有知识、不断改善性能、实现自我完善的方法。 3.机器学习研究的目标机器学习研究有三个目标：（1）人类学习过程的认知模型这一方向是对人类学习机理的研究。（2）通用学习算法这一方向是对人类学习过程的研究，探索各种可能的学习方法，建立起独立于具体应用领域的通用学习算法。（3）构造面向任务的专用学习系统这一方向是要解决专门的实际问题，并开发完成这些专门任务的学习系统。3吉林大学地面机械仿生技术教育部重点实验5.1.2 研究机器学习的意义机器学习是研究怎样使用计算机模拟人类学习活动的科学。它是人工智能中最智能特征、最前沿的研究领域之一。人类的知识不具有继承性，而机器的知
3、识可以具有继承性。利用机器学习有利于知识的传播。综合来说，机器学习速度快、便于知识积累、学习结果易于传播5.1.3 机器学习的主要策略学习过程与推理过程是紧密相连的，学习中使用的推理方法称为学习策略几种基本的学习策略：（1）机械学习机械学习又称记忆学习。外面输入知识的表示方式与系统内部表示方式完全一致，不需要任何处理和变换。4吉林大学地面机械仿生技术教育部重点实验（2）传授学习传授学习又称指导式学习或指点学习。外界输入知识的表示方式与系统内部表示方式不完全一致，系统在接受外部知识时，需要一点推理、翻译和转化工作。（3）演绎学习在演绎学习中，学习系统由给定的知识进行演绎的保真推理，并存储有用的结
4、论。演绎学习包括知识改造、知识编译、产生宏操作、保持等价的操作和其他保真变换。（4）归纳学习归纳学习是应用归纳推理进行学习的一类学习方法。按其有无教师指导，可以分为实例学习及观察和发现学习。实例学习实例学习又称为概念获取。它是通过向学习者提供某一概念的一组正例和反例，使学习者从这些正反例中归推理出概念的一般描述。5吉林大学地面机械仿生技术教育部重点实验观察与发现学习观察与发现学习又称为描述的一般化。这类学习没有教师的指导，它要产生对所有或大多数观察到的规律和规则的解释（5）类比学习类比学习就是在遇到新的问题时，可以学习以前解决过的类似问题的解决方法，来解决当前的问题。 5.2 机器学习系统的基
5、本模型机器学习过程与外界提供的信息环境以及机器内部所存储的知识库有关。机器学习系统的基本模型如图所示。环境学习环节知识库执行环节外界信息来源系统所具有的知识信息集合过程6吉林大学地面机械仿生技术教育部重点实验5.3 机械学习机械学习直接记忆或存储环境提供的新知识，并在以后通过对知识库的检索来直使用这些知识，而不再需要进行任何的计算和推导。机械学习是任何学习系统的一部分，任何学习系统都要将它所获取的知识存储在识库中，以便利用这些知识。5.3.1 机械学习的过程基本思想：执行机构每解决一个问题，系统就记住这个问题和它的解。执行过程： 有关待修汽车的描述该汽车的修理成本查找用户输出（厂家、出厂日期、
6、车型、汽车损坏的部位和程度）(x1,x2,xn)执行机构 F(y1,y2,ym)存储(x1,x2,xn)(y1,y2,ym)输入输出知识联想对例如：设计一个汽车修理成本估算系统。7吉林大学地面机械仿生技术教育部重点实验5.3.2 机械学习系统要考虑的问题机械学习系统可以把某些计算任务简化为存取任务，而记忆则是这种简化数据的计算处理，以空间换取时间的手段。机械学习系统的设计要考虑三个问题：在解决一个新的问题时，是利用知识库中已存储的信息还是进行重新计算，则要权衡比较二者的代价。有两种方法：代价效益分析法和最近未用代替法。（1）存储结构（2）环境的稳定性和存储信息的适用性（3）存储与计算的权衡为了
7、快速存取知识库的内容，需要合理组织存储结构。使用机械学习时，总是认为保存的知识或信息以后仍然有效。如果环境变化块，保存的知识或信息就会失效而不能再使用。解决这一问题的方法就是随着监视环境的变化，不断更新知识库中保存的信息和知识。首次得到一个信息时，确定是否有必要保存它。对保存的内容在读取时加上时间标志，当保存一项新内容时，要删除一项未使用的时间最长的旧内容。吉林大学地面机械仿生技术教育部重点实验5.4 传授式学习在这种学习方式中，由外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识，并加入知识库中。在学习过程中要反复对形成的知识进行评价，使其不断完善。 一般来说，传授式学习的
8、学习过程包括下列 5 个步骤：（1）要求这是请求专家提出建议。有些系统是被动的，它会消极等待专家提出建议；而有些系统则是主动的，它会把专家注意力引向特定的问题。（2）解释解释就是把专家建议转成内部表示形式，属知识表示问题。所得到的内部表示应该能反映专家建议的全部信息。（3）实用化这是传授式学习的信息变换过程，它把抽象的建议转成具体的知识。实用化过程有时所做的是试探性的假设和近似，只能要求其合理性，所得到的规则或知识还要经过检验和修改才能完善。9吉林大学地面机械仿生技术教育部重点实验（4）加入知识库这是把得到的新知识加入知识库。在加入过程中，要对知识进行一致性检查，以防出现矛盾、冗余、环路等问题
9、。（5）评价实用化得到的新知识往往是假设，要经过验证和修改。如果评价中出现了问题，就要进行故障分析和知识库修改。上述五步中，实用化是过程的核心。正是在这一步实现信息水平的变换。5.5 类比学习 通过类比学习，人们既可以学习新的概念或新的技巧，又可以学习到求解问题的方法。 5.5.1 学习新概念利用类比学习方法学习新概念或新技巧时，它要把类似这些新概念或新技巧的已知知识转换为适于新情况的形式。10吉林大学地面机械仿生技术教育部重点实验学习新概念的步骤如下：首先从记忆中（知识库中）找到类似的概念或技巧，然后把它们转换为新形式以便用于新情况。学习新概念的步骤如下：首先从记忆中（知识库中）找到类似的概
10、念或技巧，然后把它们转换为新形式以便用于新情况。例如：有人说张三是个活雷锋，你立刻就可以知道张三是个乐于助人的人。这就是把张三的行为与雷锋的行为进行了类比，张三是一个什么样的人，已在你的头脑中形成。三点注意问题：（1）学习者必须要知道用来与新事物作类比的事物，即必须要有一定的知识，否则就达不到学习的效果。（2）用来类比的事物之间必然具有相似的属性。但属性的选择不能是任意的，必须选择最重要的、最能反应事物本质的属性。（3）属性及其值之间的直接比较往往不能说明问题，只有经过抽象以后的属性才能反映类比的本质。11吉林大学地面机械仿生技术教育部重点实验5.5.2 学习问题的求解方法另一种重要的类比学习
11、是通过类比来学习解决问题的方法。Carbonell 曾经提出了两种用类比来学习解决问题的方法，一种称为变换类比法，另一种称为推导类比法。变换类比法是在一种称做“中间结局分析”法的基础上发展起来的一种学习方法。“中间结局分析”法是纽厄尔等人在其完成的通用问题求解程序G PS（ General Problem Solver）中提出的一种问题求解模型，它求解问题的基本过程是：（1）把问题的当前状态与目标状态进行比较，找出它们之间的差异。（2）根据差异找出一个可减少差异的算符（操作） 。（3）如果该算符可作用于当前状态，则用该算符将当前状态改变为另一个更接近于目标状态的状态；如果该算符不能作用于当前状
12、态，则保留当前状态，并生成一个子问题，然后对此子问题再应用“中间结局分析”法。（4）当子问题被求解后，恢复保留的状态，继续处理原问题。变换类比法由外部环境获得与类比有关的信息，学习系统找出与新问题相似的旧问题的有关知识，把这些知识进行转换，使之适应于新问题，从而获得新的知识。吉林大学地面机械仿生技术教育部重点实验转换类比学习主要由两个过程组成：回忆过程与转换过程。回忆过程用于找出新旧问题间的差别，包括：（1）新、旧问题初始状态的差别；（2）新、旧问题目标状态的差别；（3）新、旧问题路径约束的差别；（4）新、旧求解方法可应用度的差别。由这些差别就可以求出新旧问题的差别度，其差别越小，表示两者越相
13、似。转换过程是把旧问题的求解方法经适当变换后，使之成为求解新问题的求解方法。变换时，其初始状态是与新问题类似的旧问题的解，即一个算符序列，目标状态是新问题的解。转换类比学习主要由两个过程组成：回忆过程与转换过程。回忆过程用于找出新旧问题间的差别，包括：（1）新、旧问题初始状态的差别；（2）新、旧问题目标状态的差别；（3）新、旧问题路径约束的差别；（4）新、旧求解方法可应用度的差别。由这些差别就可以求出新旧问题的差别度，其差别越小，表示两者越相似。转换过程是把旧问题的求解方法经适当变换后，使之成为求解新问题的求解方法。变换时，其初始状态是与新问题类似的旧问题的解，即一个算符序列，目标状态是新问题
14、的解。5.6 归纳学习 5.6.1 实例学习实例学习又称为示例学习或通过事例学习。它是通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种方法13吉林大学地面机械仿生技术教育部重点实验实例学习的基本思想：在这种学习方法中，外部环境（教师）提供给系统一些特殊的实例，这些实例事先由教师划分为正例和反例。实例学习系统由此进行归纳推理，得到一般的规则或一般性的知识，这些一般性知识应能解释所有给定的正例，并排除所有给定的反例。例如：教给一个程序下棋的方法。可以提供给程序一些具体棋局及相应的正确走法和错误走法，程序总结这些具体方法，发现一般的下棋策略。一般情况下，正例和反例是由信息源提供的。
15、信息源有 3 种：已经知道概念的教师；学习者本身；学习者以外的外部环境。实例学习是在机器学习领域中研究最充分、成果最丰富的一个分支1.实例学习的两个空间模型实例学习系统中有两个重要的概念：例子空间和规则空间。例子空间就是向系统提供的训练例子集合。如教系统识别狗时提供的狗、其他动物和物品。吉林大学地面机械仿生技术教育部重点实验规则空间是事物所具有的某种规律。学习系统应能从大量的训练实例中自行总结出这些规律。如“狗有四条腿” 、 “狗有两只眼睛”等。实例学习的两个空间模型如图所示。例子空间规则空间选择例子解释例子初始示教例子教师提供首先将实例变换成规则空间中的特定概念或形式再利用解释后的示教例子去
16、搜索规则空间在教师向系统提供了几个训练实例以后，系统总结出“狗有四条腿”这一规则。系统在例子空间中搜索有四条腿的其他动物。这时系统发现“牛”也有四条腿，系统进一步分析狗和牛的差别。系统总结出“狗有四条腿且吃肉”这一规则。系统再利用其他训练实例指导搜索并重复上述过程，直到获得的规则能够准确地反映“狗”的概念为止。例如：规则空间是事物所具有的某种规律。学习系统应能从大量的训练实例中自行总结出这些规律。如“狗有四条腿” 、 “狗有两只眼睛”等。实例学习的两个空间模型如图所示。例子空间规则空间选择例子解释例子初始示教例子教师提供首先将实例变换成规则空间中的特定概念或形式再利用解释后的示教例子去搜索规则空间在教师向系统提供了几个训练实例以后，系统总结出“狗有四条腿”这一规则。系统在例子空间中搜索有四条腿的其他动物。这时系统发现“牛”也有四条腿，系统进一步分析狗和牛的差别。系统总结出“狗有四条腿且吃肉”这一规则。系统再利用其他训练实例指导搜索并重复上述过程，直到获得的规则能够准确地反映“狗”的概念为止。例如：吉林大学地面机械仿生技术教育部重点实验2
