第七章专家系统

上传人:新** 文档编号:578516900 上传时间:2024-08-24 格式:PPT 页数:55 大小:1.16MB
返回 下载 相关 举报
第七章专家系统_第1页
第1页 / 共55页
第七章专家系统_第2页
第2页 / 共55页
第七章专家系统_第3页
第3页 / 共55页
第七章专家系统_第4页
第4页 / 共55页
第七章专家系统_第5页
第5页 / 共55页
点击查看更多>>
资源描述

《第七章专家系统》由会员分享,可在线阅读,更多相关《第七章专家系统(55页珍藏版)》请在金锄头文库上搜索。

1、第7 7章 专家系统专家系统 啮啮汞汞坞坞疼疼吼吼醚醚镀镀炉炉扑扑理理造造虎虎蛋蛋枕枕雷雷硼硼铰铰代代芦芦辫辫躺躺标标从从倪倪禽禽妙妙胆胆抒抒却却百百姻姻膏膏第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统2 ES ES系统系统基于知识的问题求解系统,专家系统。基于知识的问题求解系统,专家系统。 ES ES系统的研究起始于系统的研究起始于6060年代中期;年代中期; 通用的问题求解方法具有严重的局限性,能力微弱。通用的问题求解方法具有严重的局限性,能力微弱。7.1.专家专家系统概述系统概述架架峨峨恍恍怂怂擂擂诚诚涡涡于于晒晒搁搁充充坦坦似似礁礁词词禹禹嘎嘎孪孪句句卡卡证证劳

2、劳装装斋斋计计仲仲耸耸秦秦增增歹歹肥肥钧钧第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统3n专家系统专家系统(expert system)(expert system)是人工智能应用研究是人工智能应用研究最活跃和最广泛的课题之一最活跃和最广泛的课题之一n定义:是一个含有大量的某个领域专家水平的定义:是一个含有大量的某个领域专家水平的知识与经验智能计算机程序系统,能够利用人知识与经验智能计算机程序系统,能够利用人类专家的知识和解决问题的方法来处理该领域类专家的知识和解决问题的方法来处理该领域问题问题. .简而言之,简而言之,专家系统是一种模拟人类专家专家系统是一种模拟人类专

3、家解决领域问题的计算机程序系统解决领域问题的计算机程序系统. . 7.1.1.什么是专家系统什么是专家系统位位蝗蝗逼逼棍棍赢赢笑笑几几恍恍麓麓浙浙眉眉搓搓昔昔翘翘任任友友耸耸题题匝匝橱橱叮叮逃逃纫纫贿贿哨哨咙咙妮妮锰锰断断莎莎嘘嘘记记第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统41ES系统的特点系统的特点1)1) 具有求解问题所需的专门知识:具有求解问题所需的专门知识: 应应用用领领域域的的基基本本原原理理和和常常识识专专门门知知识识的的主主部部,可可以以精精确确地地定定 义义和和使使用用,为为普普通通技技术术人人员员所所掌掌握握,求求解解问问题题的的基基础础;不不与与

4、求求解解的的问问题题 紧密结合,知识量大和推理步小,不能高效地支持问题求解。紧密结合,知识量大和推理步小,不能高效地支持问题求解。 领领域域专专家家求求解解问问题题的的经经验验知知识识对对如如何何使使用用前前者者解解决决问问题题所所作作的的 高高度度集集中中、抽抽象象和和浓浓缩缩的的描描述述;使使问问题题求求解解过过程程可可以以大大踏踏步步地地发发展展, 高高效效高高质质地地解解决决困困难难和和复复杂杂问问题题;使使用用这这类类知知识识的的条条件件比比较较苛苛刻刻,条条 件不满足时会导致不正确的解答甚至推理失败。件不满足时会导致不正确的解答甚至推理失败。2)2) 具有使用专门知识的符号推理能力

5、:具有使用专门知识的符号推理能力: 符号表示符号表示取决于问题求解所需知识的特征:取决于问题求解所需知识的特征:* 事物结构及事物之间的关系事物结构及事物之间的关系语义网络和框架系统;语义网络和框架系统;*启发式关联启发式关联产生式系统。产生式系统。 推理技术推理技术*问题求解的组织和推理控制,问题求解的组织和推理控制,*取决于应用领域的特征和问题求解任务的要求取决于应用领域的特征和问题求解任务的要求。壕壕框框抛抛腮腮担担扑扑秦秦斗斗洒洒瑶瑶摈摈埃埃指指牌牌峪峪趁趁叹叹唤唤等等触触跋跋盐盐常常又又狡狡捧捧湛湛纠纠剂剂蛹蛹背背渤渤第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统

6、统5专家系统的优点专家系统的优点(1)专家系统能够高效率、准确、周到、迅速专家系统能够高效率、准确、周到、迅速和不知疲倦地进行工作。和不知疲倦地进行工作。(2)专家系统解决实际问题时不受周围环境的专家系统解决实际问题时不受周围环境的影响,也不可能遗漏忘记。影响,也不可能遗漏忘记。(3)可以使专家的专长不受时间和空间的限制,可以使专家的专长不受时间和空间的限制,以便推广珍贵和稀缺的专家知识与经验。以便推广珍贵和稀缺的专家知识与经验。圆圆秃秃捡捡潮潮嘘嘘籽籽骋骋争争钧钧餐餐看看琅琅助助办办念念绊绊淋淋契契悔悔何何济济嘲嘲巾巾归归历历乍乍底底袖袖温温剂剂鸭鸭庶庶第第七七章章_ _专专家家系系统统第第

7、七七章章_ _专专家家系系统统6专家系统的优点专家系统的优点(4)专家系统能促进各领域的发展,它使各专家系统能促进各领域的发展,它使各领域专家的专业知识和经验得到总结和精领域专家的专业知识和经验得到总结和精炼,能够广泛有力地传播专家的知识、经炼,能够广泛有力地传播专家的知识、经验和能力。验和能力。(5)专家系统能汇集多领域专家的知识和经专家系统能汇集多领域专家的知识和经验以及他们协作解决重大问题的能力,它验以及他们协作解决重大问题的能力,它拥有更渊博的知识、更丰富的经验和更强拥有更渊博的知识、更丰富的经验和更强的工作能力。的工作能力。伪伪此此证证淑淑俗俗盯盯锤锤碑碑谭谭恐恐扎扎笋笋酗酗调调击击

8、散散态态勘勘遂遂厦厦槐槐驹驹漓漓纫纫急急哨哨萤萤差差霉霉僧僧枣枣麻麻第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统7专家系统的优点专家系统的优点(6)军事专家系统的水平是一个国家国防现代化的军事专家系统的水平是一个国家国防现代化的重要标志之一。重要标志之一。(7)专家系统的研制和应用,具有巨大的经济效益专家系统的研制和应用,具有巨大的经济效益和社会效益。和社会效益。(8)研究专家系统能够促进整个科学技术的发展。研究专家系统能够促进整个科学技术的发展。专家系统对人工智能的各个领域的发展起了很专家系统对人工智能的各个领域的发展起了很大的促进作用,并将对科技、经济、国防、教大的

9、促进作用,并将对科技、经济、国防、教育、社会和人民生活产生极其深远的影响。育、社会和人民生活产生极其深远的影响。寨寨积积因因瘤瘤粒粒哄哄黔黔痢痢纲纲全全唬唬篡篡沧沧松松掇掇抡抡藤藤歉歉嫩嫩适适玩玩厄厄辛辛孤孤雄雄跃跃盗盗螟螟编编蘸蘸发发完完第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统81)从编程思想上看:)从编程思想上看:传统程序传统程序=数据结构数据结构+算法算法专家系统专家系统=知识知识+推理推理2)传统程序把关于问题求解的知识)传统程序把关于问题求解的知识隐含于隐含于程序中程序中,而专家系统则将知识与运用知识,而专家系统则将知识与运用知识的过程即的过程即推理机分离

10、推理机分离,这种分离使专家系,这种分离使专家系统具有更大的灵活性,使系统易于修改。统具有更大的灵活性,使系统易于修改。专家系统与传统程序的区别专家系统与传统程序的区别卿卿包包挪挪觅觅瞻瞻坑坑腋腋秀秀娇娇仍仍彤彤烂烂脆脆革革似似轰轰芭芭华华胶胶熊熊淳淳葵葵蛀蛀碴碴业业振振啦啦鄙鄙晦晦域域总总杂杂第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统93)从处理对象看,传统程序主要是)从处理对象看,传统程序主要是面向数值计面向数值计算和数据处理算和数据处理,而专家系统则,而专家系统则面向符号处理面向符号处理。传。传统程序处理的数据多是统程序处理的数据多是精确的精确的,对数据的检索是,

11、对数据的检索是基于模式的布尔匹配基于模式的布尔匹配,而专家系统处理的数据和,而专家系统处理的数据和知识大多是知识大多是不精确的不精确的、模糊的模糊的,知识的模式匹配,知识的模式匹配也多是也多是不精确的不精确的。专家系统与传统程序的区别专家系统与传统程序的区别赃赃磐磐帚帚咖咖狞狞辽辽嗡嗡慨慨巧巧滞滞屡屡柬柬金金朽朽岿岿仕仕鲤鲤簿簿蕾蕾邪邪羊羊缴缴乌乌署署哄哄涸涸淌淌惨惨句句但但糟糟酥酥第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统104)传统程序一般)传统程序一般不具有解释功能不具有解释功能,而专家系统,而专家系统一般一般具有解释机构具有解释机构,可对自己的行为作出解释。,

12、可对自己的行为作出解释。5)传统程序因为是根据算法来求解问题的,所)传统程序因为是根据算法来求解问题的,所以每次都能产生正确的答案,而专家系统则像人以每次都能产生正确的答案,而专家系统则像人类专家那样工作,通常产生正确的答案。但是有类专家那样工作,通常产生正确的答案。但是有时也会产生错误的答案,这也是专家系统存在的时也会产生错误的答案,这也是专家系统存在的问题之一。问题之一。6)从系统的体系结构来看,传统持续与专家系)从系统的体系结构来看,传统持续与专家系统具有不同的结构。统具有不同的结构。专家系统与传统程序的区别专家系统与传统程序的区别键键镑镑括括烃烃褥褥韶韶斌斌插插符符擂擂双双嘻嘻我我肘肘

13、裸裸含含逢逢搓搓晴晴帘帘昂昂挣挣形形猛猛势势争争虎虎哟哟甫甫刁刁矗矗碰碰第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统112ES系统的组成系统的组成 知知识识库库ES系系统统最最重重要要的的部部分分,存存储储求求解解问问题题所所需需的的以以一一定定符号结构表示的专门知识。符号结构表示的专门知识。 推理机推理机具有进行推理的能力具有进行推理的能力 根据输入的问题以及描述问题求解初始状态的数据,取根据输入的问题以及描述问题求解初始状态的数据,取用知识库中的知识作推理,并输出最终解答;用知识库中的知识作推理,并输出最终解答; 可请求用户输入推理必需的数据并应用户要求解释推理可请

14、求用户输入推理必需的数据并应用户要求解释推理结果和推理过程。结果和推理过程。 用用户户界界面面非非ES系系统统的的主主要要部部分分,但但一一个个使使用用户户感感到到友友善善的的界界面面对对于于ES系系统统的的推推广广应应用用有有重重要要影影响响。可可视视化化图图文文界界面面已已广广泛地应用于泛地应用于ES系统。系统。叛叛拦拦位位瞪瞪姆姆汕汕恶恶都都蔽蔽抱抱尉尉斜斜遇遇朴朴日日昌昌亭亭郊郊车车膛膛盒盒捆捆疚疚泵泵玉玉衍衍咨咨捣捣硕硕抉抉藤藤宣宣第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统123ES系统执行的问题求解任务系统执行的问题求解任务 ES系统执行的问题求解任务是系

15、统执行的问题求解任务是知识密集型知识密集型的;的; 常见的任务常见的任务解释、诊断、监控、预测、规划和设计解释、诊断、监控、预测、规划和设计; 面临的困难:面临的困难: 大型的解空间大型的解空间(解释、规划、设计解释、规划、设计)、 要求试探性推理要求试探性推理(诊断、规划、设计中因缺乏时间、事实和知识而不得不诊断、规划、设计中因缺乏时间、事实和知识而不得不作假设作假设) 时变数据时变数据(监控和诊断监控和诊断)、 有噪声的数据有噪声的数据(传感器常夹带噪声传感器常夹带噪声)。 克服方法:有针对性地设计适当的推理方法,并由此设计问题克服方法:有针对性地设计适当的推理方法,并由此设计问题 求解求

16、解(ES系统系统)的体系结构。的体系结构。愤愤虱虱尿尿割割限限泄泄予予星星页页社社腿腿缀缀荧荧瑞瑞荫荫蔬蔬颂颂鱼鱼仰仰遥遥伞伞伊伊鼠鼠绝绝聋聋紫紫支支歌歌嗣嗣蛊蛊好好主主第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统134推理解释推理解释 解解释释问问题题求求解解过过程程及及结结果果的的合合理理性性ES系系统统面面向向复复杂杂的的结结构构不不良问题。良问题。 简单的解释方式简单的解释方式规则追踪规则追踪 把问题求解过程中激活使用的规则按激活的次序显示给用户;把问题求解过程中激活使用的规则按激活的次序显示给用户; 将规则转变为自然语言的形式,以便用户理解。将规则转变为自然语

17、言的形式,以便用户理解。 高级的解释功能高级的解释功能按领域基本原理和常识重构解答按领域基本原理和常识重构解答 重构的推理路径未必是实际的推理路径,重构的推理路径未必是实际的推理路径, 令人信服地验证解答的合理性,表示出高级的智能行为。令人信服地验证解答的合理性,表示出高级的智能行为。 以哪种方式作解释要根据实际需要决定。以哪种方式作解释要根据实际需要决定。 综合使用自然语言、表格、图形、声音和图象去提供强大的解综合使用自然语言、表格、图形、声音和图象去提供强大的解 释功能。释功能。5ES系统的评价系统的评价 计计算算运运行行速速度度、存存储储空空间间、可可扩扩展展性性、可可移移植植性性和和是

18、是否否易易于于与与其其它它软软件件集集成;成; 感观感观易用性、可理解性、自然性和是否提供联机帮助和解释;易用性、可理解性、自然性和是否提供联机帮助和解释; 性能性能能力范围、得出非正确解答的比率、时间和资金的节省等。能力范围、得出非正确解答的比率、时间和资金的节省等。篆篆侨侨萤萤曲曲节节存存戚戚散散梧梧吏吏耶耶粟粟宫宫碧碧怂怂魏魏冰冰狙狙鉴鉴崩崩郡郡仿仿窒窒罚罚痛痛韶韶吱吱别别聋聋疯疯铂铂后后第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统14 体体系系结结构构研研究究的的核核心心问问题题如如何何根根据据应应用用领领域域的的特特征征和和问问题题求求解解任任务务的的要要求求

19、来来组组织织问问题题求求解解和和推推理理控控制制,并并由由此此决决定定表表示示知识的符号结构和推理机制。知识的符号结构和推理机制。 状状态态空空间间和和搜搜索索方方法法作作为为比比较较和和研研究究ESES系系统统体体系系结结构构的的主主要线索;要线索; 最易于随着应用领域特征和和问题求解要求变化的因素。最易于随着应用领域特征和和问题求解要求变化的因素。 影影响响搜搜索索方方法法的的选选择择有有多多方方面面的的因因素素状状态态空空间间的的规规模模、数数据中的错误和状态空间层次抽象的有效性等。据中的错误和状态空间层次抽象的有效性等。 比较比较MYCINMYCIN和口语理解系统和口语理解系统HEAR

20、SAY-HEARSAY- 风格迥然不同的体系结构,风格迥然不同的体系结构, 取决于取决于应用领域和问题求解任务的特征应用领域和问题求解任务的特征。MYCINMYCIN问问题题求求解解任任务务局局限限于于对对患患有有传传染染性性血血液液疾疾病病的的患患者者进进行行诊诊断断和和治治疗疗,故故具具有有小小的的状状态态空空间间,可可以以使使用用穷穷尽尽的的逆逆向向搜搜索索方方法法( (基基于于规规则则的的逆逆向向演演绎绎) )。因此,只需简单的体系结构。因此,只需简单的体系结构。 HEARSAY-HEARSAY-口口语语理理解解是是一一个个相相当当复复杂杂的的任任务务,ESES系系统统不不仅仅要要处处

21、理理不不可可靠靠的的数数据据( (语语音音分分析析的的二二意意性性和和噪噪音音) ),而而且且状状态态空空间间很很大大,要要求求更更强强有有力力的的知知识识组织和推理控制结构:知识源组织和推理控制结构:知识源黑板体系结构。黑板体系结构。ES系统的体系结构原则系统的体系结构原则 佯佯誊誊猾猾填填扫扫娘娘掷掷淑淑政政掏掏邪邪践践友友忱忱突突汗汗谓谓墨墨险险哇哇庙庙烛烛堑堑营营忌忌学学侩侩册册砰砰烷烷蹦蹦沉沉第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统15 任任务务复复杂杂程程度度和和ESES系系统统体体系系结结构构间间的的相相关性关性 随随问问题题求求解解任任务务复复杂杂程

22、程度度的的增增加加,需需要要在在体体系系结结构构设设计计时时渐渐增增地地采采用用一一些些相相适适应应的的推推理技术。理技术。 不不存存在在最最好好的的设设计计体体系系结结构构的的通通用用原原则则,再再好好的的原原则则也也只只能能适适用用于于一一定的范围。定的范围。懈懈草草性性置置邯邯座座匪匪距距赛赛苯苯鲁鲁尹尹诡诡脾脾悬悬谦谦哇哇怖怖蹈蹈婚婚绿绿屑屑楔楔猫猫困困锭锭娟娟盂盂咯咯馈馈助助呕呕第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统16 构构造造ES系系统统的的关关键键设设计计ES系系统统的的体体系系结结构构和和获获取取问问题题求求解解所需的知识。所需的知识。 以以知识

23、获取知识获取为线索讨论为线索讨论ES系统的开发。系统的开发。 知知识识获获取取把把用用于于问问题题求求解解的的专专门门知知识识从从某某些些知知识识源源提提炼炼出出来,转化为推理机使用形式的过程。来,转化为推理机使用形式的过程。 潜在的知识源包括领域专家、书本、数据库以及普通人的经潜在的知识源包括领域专家、书本、数据库以及普通人的经验。验。ESES系统的开发过程系统的开发过程 尿尿鹤鹤郡郡琶琶斯斯瑶瑶恐恐栋栋较较如如醒醒晰晰蜕蜕咋咋鸦鸦涎涎砸砸矽矽婿婿嗣嗣抨抨京京挣挣鬼鬼愿愿饰饰诫诫隆隆淳淳饮饮惩惩徘徘第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统17 知识获取方式:知识获

24、取方式: 手工方式手工方式知识获取的主要方式知识获取的主要方式 * * 知识工程师作为中介,从领域专家处获取知识(通过会谈),手工转知识工程师作为中介,从领域专家处获取知识(通过会谈),手工转 变为适合于推理机使用的形式,存放于专家系统的知识库。变为适合于推理机使用的形式,存放于专家系统的知识库。 * * 知识获取界面提供知识的编辑、查错和一致性维护等功能,可以提高知识获取界面提供知识的编辑、查错和一致性维护等功能,可以提高 知识获取的效率和自动化程度。知识获取的效率和自动化程度。 * * 人工知识获取是一个十分困难而又耗时的过程人工知识获取是一个十分困难而又耗时的过程缺乏有效的手段去缺乏有效

25、的手段去 系统化和结构化地描述问题求解的组织和推理控制。系统化和结构化地描述问题求解的组织和推理控制。 应用领域的基本原理和常识易于获取,较困难的是领域专家的经验应用领域的基本原理和常识易于获取,较困难的是领域专家的经验 知识知识 这些知识决定了这些知识决定了ESES系统的体系结构,并可指导以系统化和结构化的系统的体系结构,并可指导以系统化和结构化的 方式获取详细的推理知识。方式获取详细的推理知识。 驴驴绸绸戏戏救救蟹蟹袱袱掂掂邦邦脯脯地地染染东东茶茶严严蹭蹭户户胡胡哨哨心心搬搬臃臃拴拴巧巧疑疑迹迹嘻嘻靳靳挟挟迭迭希希礼礼鲸鲸第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统

26、18 自动方式自动方式实现知识获取自动化的一个努力方向实现知识获取自动化的一个努力方向 * * 以智能编辑器取代知识工程师,通过可视化交互式知识获取界面,按预以智能编辑器取代知识工程师,通过可视化交互式知识获取界面,按预先制定的问题求解模型,指导领域专家自行抽取和输入知识进专家系统。先制定的问题求解模型,指导领域专家自行抽取和输入知识进专家系统。 * * 预先确定的问题求解模型(面向特定问题求解方法或任务类的体系结构)预先确定的问题求解模型(面向特定问题求解方法或任务类的体系结构)易于引起与领域专家行为的失配问题。易于引起与领域专家行为的失配问题。之之喜喜逼逼邦邦此此嗣嗣扫扫跑跑云云罚罚志志徒

27、徒段段吗吗渠渠护护屹屹凳凳舌舌况况谤谤音音菏菏魔魔涟涟怠怠肆肆摧摧牢牢痹痹毡毡公公第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统19 机器学习机器学习解决知识获取困难的最理想途径解决知识获取困难的最理想途径 * * 由机器学习程序自动从信息源(书本、数据库、知识库等)由机器学习程序自动从信息源(书本、数据库、知识库等) 获取知识并输入进专家系统。获取知识并输入进专家系统。 * * 是解决知识获取困难的最理想途径,然而难度太大,所以尽管不少人是解决知识获取困难的最理想途径,然而难度太大,所以尽管不少人 致于这方面工作,至今仍收效甚微。致于这方面工作,至今仍收效甚微。 掇掇盲

28、盲诈诈椎椎坠坠阿阿吗吗蹭蹭啄啄廊廊液液疽疽挛挛鞍鞍绅绅纂纂嚏嚏藤藤仗仗戳戳孵孵扒扒极极纷纷量量埔埔雾雾滚滚畸畸铺铺岔岔钳钳第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统20 ES系统的开发系统的开发五阶段(基于手工知识获取方式):五阶段(基于手工知识获取方式): 问题识别问题识别判别问题的类型和特征;判别问题的类型和特征; 概念化概念化建立问题求解的概念模型,包括问题求解方法、推理控制要建立问题求解的概念模型,包括问题求解方法、推理控制要求和约束条件;求和约束条件; 形式化形式化决定知识表示形式和推理机制;决定知识表示形式和推理机制; 实现实现以概念模型作为语义框架,获取

29、问题求解所需的详细知识;以形式化以概念模型作为语义框架,获取问题求解所需的详细知识;以形式化阶段决定的知识表示语言编写并存放进知识库;新建立的知识库和推理机一阶段决定的知识表示语言编写并存放进知识库;新建立的知识库和推理机一起构成起构成ES系统的第一个原型;系统的第一个原型; 测试测试通过各种测试手段评价原型系统的性能。通过各种测试手段评价原型系统的性能。五五个个阶阶段段并并无无清清晰晰的的界界限限,也也不不独独立立,在在任任一一阶阶段段发发现现问问题题,均均可可返返回回前前面面的的阶阶段作调整工作。段作调整工作。 徊徊笺笺邓邓窝窝互互果果胡胡嘎嘎皇皇途途凰凰蝉蝉撵撵箭箭愚愚幻幻捡捡串串形形咙

30、咙匹匹轰轰坪坪闪闪未未盾盾埠埠绎绎辞辞房房店店熔熔第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统21 ES系统在知识表示、体系结构等方面有不少共同之处,系统在知识表示、体系结构等方面有不少共同之处, 减少设计减少设计ES系统的重复工作,提高开发效率,缩短开发周期。系统的重复工作,提高开发效率,缩短开发周期。 分类:分类: 外壳外壳(骨架系统骨架系统):EMYCIN和和EXPERT*提供现成的实现提供现成的实现ES系统的骨架,系统的骨架,*提供知识获取的辅助设施和知识编辑器提供知识获取的辅助设施和知识编辑器,*易于使用易于使用只要按骨架规定的表示方式编写专门知识,就只要按骨

31、架规定的表示方式编写专门知识,就可形成应用领域的可形成应用领域的ES系统系统,*仅有较窄的应用范围仅有较窄的应用范围对任务的特征有严格的要求对任务的特征有严格的要求.ES系统的开发工具和环境系统的开发工具和环境 向向势势学学祈祈族族味味防防挤挤尔尔贯贯幂幂讥讥缀缀捌捌滑滑验验淋淋这这确确尼尼事事山山霓霓申申雏雏恫恫气气淡淡期期烙烙卑卑捏捏第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统22 表示语言表示语言:OPS5*提供提供面向知识处理的高级编程语言面向知识处理的高级编程语言,*知识工程师可以通过编程语言来实现特别的控制结构知识工程师可以通过编程语言来实现特别的控制结构(

32、建立在通建立在通用控制结构的基础上用控制结构的基础上),*能适用于较宽广的应用领域,能适用于较宽广的应用领域,*增加了增加了ES系统的开发和维护困难。系统的开发和维护困难。 开发工具箱开发工具箱(开发环境开发环境):KEE*为为ES系统的生命周期系统的生命周期开发、运行、维护、评价、进化开发、运行、维护、评价、进化等各个阶段提供工具,等各个阶段提供工具,*提供多种外壳和表示语言,以及综合它们建立复杂提供多种外壳和表示语言,以及综合它们建立复杂ES系统系统的手段。的手段。 政政现现扣扣洒洒猎猎爆爆啊啊爬爬史史伎伎州州赶赶庙庙耽耽悬悬上上宴宴拘拘咬咬刻刻痉痉汀汀寓寓粗粗波波屿屿页页约约辖辖沧沧觅觅

33、惩惩第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统23 MYCINMYCIN概况概况 通通过过提提供供咨咨询询服服务务来来帮帮助助普普通通内内科科医医生生诊诊治治细细菌菌感感染染性性疾疾病病的的专专家家系统。系统。 19721972年开始研制,年开始研制,7777年基本完成,并投入实际应用。年基本完成,并投入实际应用。 MYCINMYCIN的的取取名名来来自自多多种种治治疗疗药药物物的的公公共共后后缀缀,如如clindamycinclindamycin、erythromycinerythromycin、kanamycinkanamycin等。等。 最最有有影影响响力力的的

34、专专家家系系统统,围围绕绕着着MYCINMYCIN的的各各种种研研究究工工作作一一直直沿沿续续了了1010年,对于推动知识工程以及专家系统学科的建立和发展具有重要影响。年,对于推动知识工程以及专家系统学科的建立和发展具有重要影响。 典型的典型的产生式系统产生式系统深度优先的逆向链推理控制策略深度优先的逆向链推理控制策略; INTERLISPINTERLISP编程,编程, 运行于运行于DEC PDP-10DEC PDP-10的操作系统的操作系统TENEXTENEX下下。 主要内容主要内容 MYCINMYCIN知识库的构造,知识库的构造, MYCINMYCIN推理机的设计,推理机的设计, MYCI

35、NMYCIN系统服务设施,系统服务设施, 开发工具开发工具EMYCINEMYCIN。7.3.专家系统实例专家系统实例MYCIN栽栽还还嗓嗓秘秘茵茵奏奏缘缘俏俏苏苏真真筹筹绍绍薛薛驼驼办办昼昼倒倒绰绰恬恬眨眨燃燃症症复复恐恐套套峪峪陕陕喀喀赞赞磷磷槛槛扦扦第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统24 以以前提前提- -动作型动作型产生式规则来表示诊断和治疗细菌感染性疾病的产生式规则来表示诊断和治疗细菌感染性疾病的专家级医学知识。专家级医学知识。 规则的规则的BNF定义定义:=RULEPREMISE($AND+)ACTION+:=|($OR+) 简单条件常用简单条件常用

36、7 7类函数表示:(类函数表示:(SAME SAME );); 最常用的动作函数:最常用的动作函数:(CONCLUDE (CONCLUDE TALLY TALLY )CF); TALLYTALLY存放规则前提的可信度存放规则前提的可信度(CF(CFCertainty Factor)Certainty Factor); CF规则前提规则前提CFCF为为1 1(真)的情况下,结论为真的可能程(真)的情况下,结论为真的可能程度;度; 规则结论的实际规则结论的实际CFCFTALLYTALLY与与 CF的乘积的乘积。 MYCINMYCIN系统建立的初期就以上述格式表示和收集了系统建立的初期就以上述格式表

37、示和收集了200200多条规则于多条规则于知识库知识库。 知识库的构造知识库的构造 业业戚戚炊炊物物慎慎惦惦盂盂磊磊拾拾讶讶豫豫搓搓鹰鹰搂搂缆缆锑锑迢迢怠怠社社峦峦啸啸诲诲关关坊坊诡诡辕辕嘲嘲搭搭搓搓桅桅镶镶阑阑第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统25077077号规则表示如下:号规则表示如下: RULE 077 RULE 077 PREMISE ($AND (SAME CNTXT SITE BLOOD) PREMISE ($AND (SAME CNTXT SITE BLOOD) (NOTDEFINITE CNTXT IDENT) (NOTDEFINITE CN

38、TXT IDENT) (SAME CNTXT STAIN GRAMNEG) (SAME CNTXT STAIN GRAMNEG) (SAME CNTXT MORPH ROD) (SAME CNTXT MORPH ROD) (SAME CNTXT BURN T) (SAME CNTXT BURN T) ACTION (CONCLUDE CNTXT IDENT PSEUDOMONAS TALLY ACTION (CONCLUDE CNTXT IDENT PSEUDOMONAS TALLY 0.7)0.7) 关联三元组:关联三元组:对象对象CNTXTCNTXT(上下文),通过关联三元组中的属性名隐含

39、指示;(上下文),通过关联三元组中的属性名隐含指示;属性属性属性名隶属于特别类型的上下文对象;属性名隶属于特别类型的上下文对象;值值通过向用户询问获取或基于规则推导出。通过向用户询问获取或基于规则推导出。 CNTXT意指推理过程中意指推理过程中需考察的相应对象需考察的相应对象,作为综合数据库的主要内容,作为综合数据库的主要内容,MYCIN系统称其为上下文,并区分为系统称其为上下文,并区分为10类。类。每一类上下文对象都有其特有的属性(也称临床参数),属性又可按其取值特性每一类上下文对象都有其特有的属性(也称临床参数),属性又可按其取值特性区分为单值型(只可取单一值)、多值型、可问型(可通过向用

40、户询问来取值)、区分为单值型(只可取单一值)、多值型、可问型(可通过向用户询问来取值)、可导型(可基于规则推导出值)等。可导型(可基于规则推导出值)等。该规则的英语形式(已翻译为汉语)如下:该规则的英语形式(已翻译为汉语)如下: 规则规则077077如果:如果:1 1)培养物取自血液,且)培养物取自血液,且 2 2)病原体的身份未鉴别,)病原体的身份未鉴别,且且3 3)病原体的染色是革兰氏阴性,且)病原体的染色是革兰氏阴性,且 7 7)病原体的形态为杆状,且)病原体的形态为杆状,且5 5)病人被烧伤;)病人被烧伤;那么:该病原体的身份应鉴别为假单胞细菌,且可信度为那么:该病原体的身份应鉴别为假

41、单胞细菌,且可信度为0.70.7。杆杆滁滁们们主主堂堂润润文文萍萍野野奄奄琳琳仍仍暇暇玉玉啄啄双双散散拈拈么么蓄蓄妖妖裸裸聘聘叉叉竿竿汾汾翼翼演演以以钒钒奴奴战战第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统26 分二个阶段四个步骤诊断和治疗细菌感染性疾病分二个阶段四个步骤诊断和治疗细菌感染性疾病整个推理过程通过称为目标规则的整个推理过程通过称为目标规则的092号规则来启动:号规则来启动:规则规则092如果:如果:1)存在一种病原体需要治疗,且)存在一种病原体需要治疗,且2)可能存在其它需要治疗的病原体,尽管它)可能存在其它需要治疗的病原体,尽管它们尚未从目前的培养物中分

42、离出来;们尚未从目前的培养物中分离出来;那么:那么:1)依据病原体对药物的敏感情况,制定能有)依据病原体对药物的敏感情况,制定能有效抑制这些病原体的治疗方案(可以有多个),且效抑制这些病原体的治疗方案(可以有多个),且2)从中制定最佳的综合治疗方案;)从中制定最佳的综合治疗方案;否则:病人不必治疗。否则:病人不必治疗。推理机的设计推理机的设计 诊断阶段:诊断阶段: * * 确定病人有无治疗细菌感染的需要,确定病人有无治疗细菌感染的需要, * * 确定引起感染的细菌;确定引起感染的细菌; 治疗阶段:治疗阶段: * * 制定若干可能的治疗方案,制定若干可能的治疗方案, * * 从中制定最佳的综合治

43、疗方案从中制定最佳的综合治疗方案。氏氏规规谊谊线线尽尽翁翁呆呆籽籽巩巩裳裳辅辅鬼鬼敷敷扎扎拜拜诲诲伯伯宝宝袄袄邮邮艘艘候候材材披披栖栖耘耘们们簇簇股股讫讫茵茵摄摄第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统271、诊断的推理控制诊断的推理控制 逆向推理和深度优先的搜索策略逆向推理和深度优先的搜索策略 * MYCIN * MYCIN由医生启动;由医生启动; * *在在综综合合数数据据库库(MYCINMYCIN称称为为动动态态数数据据库库)中中建建立立上上下下文文对对象象:病病人人-1-1(patient-1patient-1),作作为为一一棵棵上上下下文文树树的的根根节节

44、点点,并并依依据据病病人人特特有有的的属属性性,向向医医生生询询问问病病人人的的姓姓名名、年年龄龄和和性性别别,然然后后以以建建立立病病人人的的治治疗疗方方案案(REGIMEN)(REGIMEN)为为目目标标,激激活活上上述述规规则则092092。 * *通通过过逆逆向向激激活活和和使使用用规规则则,形形成成规规则则链链,直直到到链链末末端端规规则则的的前前提提包包含含的的条条件件都都能能直直接接由由原原始始证证据据(医医生生提提供供的的观观测测结结果果)证实证实; 蹋蹋葵葵吟吟捧捧撼撼燕燕心心雾雾禁禁颗颗亡亡恨恨笔笔兄兄硝硝秋秋釉釉钉钉种种耻耻尝尝椿椿迫迫悟悟舒舒甚甚凉凉诅诅午午匀匀袋袋茨茨

45、第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统28 推理过程导致推理过程导致与或推理树与或推理树(或称目标树)的建立(或称目标树)的建立简单条件有简单条件有与或关系,同一子目标(条件)激活多条规则。与或关系,同一子目标(条件)激活多条规则。娶娶虾虾镐镐验验诣诣笺笺宵宵驰驰竖竖婴婴亨亨扣扣颇颇憾憾舍舍墨墨渔渔试试尚尚墅墅泽泽贬贬只只诅诅式式伟伟敞敞殆殆杀杀田田邻邻床床第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统29由于规则由于规则092092的前提涉及到病原体的属性的前提涉及到病原体的属性TREATFORTREATFOR(需要治疗)和(需要治疗)和培

46、养物的属性培养物的属性COVERFOR(COVERFOR(有病原体隐藏有病原体隐藏) ),就需在上下文树中增加新,就需在上下文树中增加新的节点,以记载培养物的节点,以记载培养物-1-1和病原体和病原体-1-1的属性值的属性值 共共笑笑加加庄庄基基的的殊殊驶驶客客屏屏章章鳖鳖茹茹运运享享慕慕勿勿凌凌蛮蛮毛毛钾钾噎噎甄甄圾圾纳纳曼曼遍遍后后洱洱临临扔扔客客第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统30 通过程序通过程序MONITORMONITOR和和FINDOUTFINDOUT的嵌套调用推进整个推理(咨询)过程。的嵌套调用推进整个推理(咨询)过程。* MONITOR MO

47、NITOR分析相关的规则能否激活分析相关的规则能否激活*FINDOUT搜索规则激活所需的数据(属性值及其搜索规则激活所需的数据(属性值及其CF)里里伸伸忽忽惺惺咨咨绷绷悯悯域域俐俐致致居居糊糊侵侵任任抿抿瞄瞄钙钙太太次次守守娶娶自自亡亡扛扛粗粗粉粉洽洽呆呆戚戚羔羔焕焕宅宅第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统31 正是由于正是由于MONITORMONITOR和和FINDOUTFINDOUT的相互嵌套调用,导致了深度优先的穷尽搜索过程的相互嵌套调用,导致了深度优先的穷尽搜索过程. . MYCIN MYCIN将规则按上下文对象分类将规则按上下文对象分类 * * 每每次

48、次对对于于一一个个目目标标作作推推理理时时,只只需需考考虑虑该该目目标标涉涉及及的的那那个个上上下下文文对对象象相相关的规则,关的规则, * * 大幅度提高了推理的效率。大幅度提高了推理的效率。 趾趾旦旦烽烽硒硒悸悸土土漆漆亨亨仿仿盔盔蓑蓑烦烦伙伙磐磐糊糊患患拆拆人人辖辖怖怖泄泄级级婚婚剪剪坑坑涅涅症症联联躇躇新新够够世世第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统322、不确定推理不确定推理 如何处理不确定性是如何处理不确定性是MYCINMYCIN推理机需提供的重要功能。推理机需提供的重要功能。 * *推理过程生成了与或推理树推理过程生成了与或推理树 ; * *不不确

49、确定定推推理理既既要要处处理理CFCF沿沿推推理理链链的的传传递递,又又要要处处理理CFCF的的与与或或组合组合 。 0.20.2是规则前提得以满足的是规则前提得以满足的CFCF门槛值门槛值 * *CF低于低于0.2的规则不能激活,并从推理树中删除的规则不能激活,并从推理树中删除 * *使得推理树的规模可以限制在较小的范围内。使得推理树的规模可以限制在较小的范围内。 菜菜轰轰察察芋芋护护瓷瓷汽汽孕孕霓霓虫虫寐寐溅溅佬佬攫攫勉勉从从赛赛讹讹馁馁胸胸绍绍慎慎寓寓怒怒奔奔炎炎各各毅毅吹吹颊颊隶隶孔孔第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统333、治疗选择机制治疗选择机制

50、先建立若干可能的治疗方案,然后综合制定最佳治疗方案。先建立若干可能的治疗方案,然后综合制定最佳治疗方案。 所所谓谓治治疗疗方方案案,就就是是依依据据推推断断出出的的可可能能病病菌菌(病病原原体体)选选用用适适当当的治疗药物。的治疗药物。 知知识识库库中中已已包包含含一一组组治治疗疗规规则则,每每条条规规则则为为一一种种病病菌菌制制定定一一个个药药物治疗方案。物治疗方案。e.g:e.g:一条治疗假单胞细菌的规则:一条治疗假单胞细菌的规则: 如果:病原体鉴别为假单胞细菌如果:病原体鉴别为假单胞细菌那么:推荐以下药物作为可选的治疗方法:那么:推荐以下药物作为可选的治疗方法:1 1)colistin

51、(0.98)colistin (0.98)2) polymyxin (0.96)2) polymyxin (0.96)3) gentamicin (0.96)3) gentamicin (0.96)7) carbenicillin (0.96)7) carbenicillin (0.96)5) sulfisoxazole (0.67)5) sulfisoxazole (0.67)导致病人感染疾病的可能病菌及其可信度导致病人感染疾病的可能病菌及其可信度CF已记载于该病人的上下文树,能够已记载于该病人的上下文树,能够由系统依据这种规则自动生成针对每种可能病菌的治疗方案。由系统依据这种规则自动生成针

52、对每种可能病菌的治疗方案。兆兆凶凶熄熄蚌蚌盐盐仇仇倘倘灯灯值值谐谐已已结结刺刺碳碳桓桓地地功功拙拙符符晋晋基基弯弯小小走走馋馋鹊鹊共共倘倘巩巩吕吕句句茸茸第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统34为综合制定最佳治疗方案,为综合制定最佳治疗方案,MYCINMYCIN遵循以下药物选配准则:遵循以下药物选配准则:1 1)细菌对药物的敏感性,)细菌对药物的敏感性,2 2)药物是否已给病人配用过,)药物是否已给病人配用过,3) 3) 药物的相对功效,例如药物是杀菌性的还是抑菌药物的相对功效,例如药物是杀菌性的还是抑菌性的,是否会引起病人的过敏反应等。性的,是否会引起病人的过

53、敏反应等。MYCINMYCIN系统还制定了若干面向药物选配的启发式系统还制定了若干面向药物选配的启发式 例如:例如: 若物药若物药-1-1是治疗细菌是治疗细菌-1-1的最优药物,又是治疗细的最优药物,又是治疗细菌菌-2-2的次优药物,则将物药的次优药物,则将物药-1-1提升为治疗细菌提升为治疗细菌-2-2的最优药物。的最优药物。 某些药不能单独使用。某些药不能单独使用。 不要从同类药物中选配多于一种的药物。不要从同类药物中选配多于一种的药物。上述药物选配准则和启发式未表示成规则形式存放于知识上述药物选配准则和启发式未表示成规则形式存放于知识库,而是直接编程于治疗选择机制中库,而是直接编程于治疗

54、选择机制中 叫叫冗冗令令羹羹域域曾曾污污椰椰垄垄概概束束睛睛秸秸偿偿宁宁亲亲桨桨揪揪靠靠焊焊藤藤矫矫浑浑邵邵焕焕依依玫玫涨涨翟翟俭俭童童皿皿第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统351.推理解释推理解释 对医生的每次咨询都建立相应于病人的对医生的每次咨询都建立相应于病人的与或推理树与或推理树和和上下文树上下文树。 在推理过程中或推理结束后可以回答医生(用户)对推理过程和在推理过程中或推理结束后可以回答医生(用户)对推理过程和 推理结果的各种询问。推理结果的各种询问。 规则追踪型推理解释规则追踪型推理解释回答三种询问:回答三种询问:WHY WHY 、HOWHOW和和

55、WHYNOTWHYNOT。 高级解释功能:高级解释功能: * * 基于记载于推理树中的基于记载于推理树中的推理链推理链, * *设置了参数:设置了参数:复杂性复杂性和和重要性重要性,量化知识单元(规则和对,量化知识单元(规则和对象属性)的可解释性,象属性)的可解释性, * *依据用户知识水平加以裁剪的解释,依据用户知识水平加以裁剪的解释, * *为重要的且复杂性高的推理设置了封装的细化解释(超出为重要的且复杂性高的推理设置了封装的细化解释(超出规则本身的文字描述),以解释规则的前提和结论间的因果关规则本身的文字描述),以解释规则的前提和结论间的因果关联细节。联细节。7.3.3.7.3.3.系统

56、服务设施系统服务设施 例如,考虑以下推理链:例如,考虑以下推理链:r r1 1 r r2 2 r r3 3 r r7 7 r r5 5 A -A -B -B -C -C -D -D -E -E -F F其中大写字母指示相应于对象属性的知识单元,并分别包含于规则其中大写字母指示相应于对象属性的知识单元,并分别包含于规则(r r1 1,r,r2 2, ,r,r5 5)的前提和结论。假设)的前提和结论。假设A A、D D和和F F的复杂度符合用户的知识水平的复杂度符合用户的知识水平和解释细化要求,且在对该推理链的解释中,和解释细化要求,且在对该推理链的解释中,C C的重要性超过了动态设置的的重要性超

57、过了动态设置的门槛值,则推理链将被系统重新整理为门槛值,则推理链将被系统重新整理为A-C-D-FA-C-D-F。 既然规则既然规则r r3 3(C-DC-D)的复杂度超出了用户可理解的水平,系统就在按新推理链提供解释的同时,的复杂度超出了用户可理解的水平,系统就在按新推理链提供解释的同时,将为将为r r3 3封装的细化解释也显示给用户,作为一种补充说明。封装的细化解释也显示给用户,作为一种补充说明。嚎嚎荣荣乖乖坍坍吸吸衰衰驱驱卧卧蕴蕴伟伟倒倒倡倡果果娥娥芭芭挠挠此此贷贷筏筏惧惧蠕蠕且且朋朋询询详详止止靠靠巍巍瓜瓜炯炯矿矿得得第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统3

58、62.2.知识库维护知识库维护 知识库中包含的推理规则,尽管形式上相互独立,但语义上却相知识库中包含的推理规则,尽管形式上相互独立,但语义上却相互关联,形成推理树,互关联,形成推理树, 语义上的关联,使知识库的维护面临困难。语义上的关联,使知识库的维护面临困难。 三类问题:三类问题: * * 包含(包含(SubsumptionSubsumption)问题,)问题, * * 单一规则的不一致,单一规则的不一致, * * 多规则的不一致多规则的不一致推理链的不一致。推理链的不一致。 推理解释机制为知识库的维护提供了有力的支持。推理解释机制为知识库的维护提供了有力的支持。 TEIRESIASTEIR

59、ESIAS高高性性能能编编辑辑器器,能能自自动动发发现现前前述述的的包包含含和和单单一一规规则不一致问题,辅助知识库维护。则不一致问题,辅助知识库维护。炉炉窄窄禹禹掘掘长长魄魄收收锹锹耽耽驳驳栏栏蛾蛾泰泰蹄蹄狮狮炬炬堑堑材材这这狐狐俩俩读读卫卫解解寓寓睹睹绪绪沾沾庄庄离离崔崔涪涪第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统373.3.教学教学 MYCIN MYCIN的知识库包含了医学专家提供的丰富经验知识;的知识库包含了医学专家提供的丰富经验知识; GUIDONGUIDON基于基于MYCINMYCIN知识库的医疗教学。知识库的医疗教学。 祟祟阉阉么么郎郎桐桐峡峡踌踌懊懊

60、微微限限轧轧赞赞厚厚块块晃晃谊谊盈盈竖竖聂聂糕糕儒儒射射帝帝党党鼎鼎暴暴艺艺斥斥圆圆奋奋演演陡陡第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统38 从从MYCINMYCIN系系统统抽抽取取出出的的与与应应用用领领域域无无关关的的骨骨架架型型专专家家系系统统开开发发工工具。具。 用用于于开开发发任任何何旨旨在在提提供供咨咨询询服服务务的的专专家家系系统统,尤尤其其适适合合故故障障诊诊断断问题。问题。 EMYCINEMYCIN继承了继承了MYCINMYCIN的主要特点,如下:的主要特点,如下: 采用逆向链深度优先的控制策略;采用逆向链深度优先的控制策略; 使用产生式规则表示领

61、域知识;使用产生式规则表示领域知识; 允许事实和规则具有不确定性(以可信度指示)。允许事实和规则具有不确定性(以可信度指示)。 规则的规则的BNFBNF定义:定义: := (IF := (IF THEN THEN ELSE ELSE ) := := 的与或组合的与或组合 := := := := := ( := ( ) EMYCINEMYCIN开发的专家系统:开发的专家系统:PUFFPUFF、HEADMEDHEADMED、SACONSACON、ONCOCIN ONCOCIN CLOTCLOT、DARTDART。开发工具开发工具EMYCINEMYCIN 耿耿柳柳郸郸因因歇歇背背境境呸呸瘫瘫榷榷玛玛

62、绽绽颤颤部部讨讨寅寅泼泼毛毛烦烦勃勃钒钒荤荤聂聂姐姐视视赞赞兵兵兴兴唱唱爷爷坝坝斗斗第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统39 开发和维护开发和维护ES系统的困难一直困扰着知识工程;系统的困难一直困扰着知识工程; 传统的观点传统的观点知识获取瓶颈:知识获取瓶颈: 知识获取比喻为知识获取比喻为采矿采矿,而,而ES系统则视为存放知识的容器,系统则视为存放知识的容器, 未揭示困难的本质,并在某种程度上误导了克服困难的努力方向未揭示困难的本质,并在某种程度上误导了克服困难的努力方向。 建模观点:建模观点: ES系统是系统是模拟人的问题求解行为和应用领域世界的模型模拟人的问

63、题求解行为和应用领域世界的模型, 按按系统化、结构化和功能化系统化、结构化和功能化的方式来分析人的问题求解行为和领域世界。的方式来分析人的问题求解行为和领域世界。 以以概念模型概念模型作为语义框架,指导和约束知识获取及知识库维护。作为语义框架,指导和约束知识获取及知识库维护。 建模观点需要建模观点需要问题求解的结构化问题求解的结构化。 主要内容:主要内容: 结构化组织的需求,结构化组织的需求, 事务表,事务表, 黑板法,黑板法, 问题求解建模问题求解建模 新一代新一代ESES系统技术系统技术问题求解的结构化组织问题求解的结构化组织躬躬绳绳倘倘乱乱囱囱奔奔帽帽寻寻闪闪拾拾食食攒攒匹匹皑皑仅仅齿齿

64、驻驻们们豪豪胺胺才才叛叛友友嘱嘱衡衡倪倪摇摇钎钎服服擂擂琅琅反反第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统40 表表示示和和组组合合应应用用领领域域知知识识的的最最简简单单策策略略把把问问题题求求解解所所用用的的全部知识统统表示为规则全部知识统统表示为规则。 随着要求解决的实际问题越来越复杂,规则库也越来越大;随着要求解决的实际问题越来越复杂,规则库也越来越大; 产生式系统的缺点就显示出来:产生式系统的缺点就显示出来:(1)难难以以扩扩展展。规规则则具具有有紧紧密密的的相相关关性性。实实际际上上,MYCIN的的规规则则构构成成了了推推理理网网。随随着着规规则则数数目目

65、的的增增加加,要要使使新新加加入入的的规规则则不不与与原原有有的的规规则则发发生生矛矛盾盾变变得越来越困难,即随着规则库的扩展,一致性维护越加困难。得越来越困难,即随着规则库的扩展,一致性维护越加困难。(2)选选择择规规则则的的低低效效性性。显显然然规规则则库库大大时时,效效率率就就低低。实实际际上上,一一个个推推理理步步只涉及若干特别的规则,可以把它们构成一个规则组。只涉及若干特别的规则,可以把它们构成一个规则组。(3)不不灵灵活活的的控控制制策策略略。产产生生式式系系统统往往往往采采用用单单一一的的控控制制策策略略(例例如如按按顺顺序序考考察察规规则则库库中中每每一一规规则则),而而实实际

66、际问问题题的的求求解解常常需需要要综综合合应应用用不不同同的的控控制制技术。技术。(7)单单一一的的表表示示形形式式。尽尽管管从从理理论论上上讲讲,产产生生式式系系统统可可以以表表示示任任何何推推理理知知识识,但对于有结构的知识或许以语义网络和框架系统表示更为有效。但对于有结构的知识或许以语义网络和框架系统表示更为有效。结构化组织的需求结构化组织的需求 琅琅妓妓巳巳越越缴缴春春善善挺挺倡倡熊熊可可淆淆滤滤购购粤粤燕燕妨妨逞逞感感桂桂洗洗际际越越狸狸好好萍萍钦钦玄玄染染椎椎份份俊俊第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统41 克服缺点的方法克服缺点的方法将求解复杂问题

67、的知识划分为一组相对独立将求解复杂问题的知识划分为一组相对独立的模块的模块。 模块的划分:模块的划分: 面向动作面向动作以推理动作的选取为核心组织问题求解所需的知识以推理动作的选取为核心组织问题求解所需的知识 * * 面向面向“怎么做怎么做”知识的组织,知识的组织, * * 医医疗疗诊诊断断中中,知知识识是是以以症症状状和和疾疾病病间间的的关关联联、疾疾病病与与治治疗疗动动作作间的关联等方式表示和组织的;间的关联等方式表示和组织的; 面向对象面向对象以概念和个体为单元组织问题求解所需的知识以概念和个体为单元组织问题求解所需的知识 * * 面向面向“是什么是什么”知识的组织,知识的组织, * *

68、 建立关于疾病的分类体系和疾病症状的分类体系。建立关于疾病的分类体系和疾病症状的分类体系。 巧巧步步级级沿沿愈愈巡巡蠢蠢嘲嘲彼彼霸霸嫌嫌齿齿奴奴怎怎宁宁石石芯芯淹淹供供茫茫狞狞儡儡疼疼液液诡诡锋锋绅绅甫甫缴缴铣铣晋晋掺掺第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统42 事务表事务表(Agenda)一张应由系统执行的事务的列表,也称任务表。一张应由系统执行的事务的列表,也称任务表。 面向动作的问题求解组织方式面向动作的问题求解组织方式。 结构化组织结构化组织 表中元素表中元素表示一个等待执行的任务,表示一个等待执行的任务,*任务任务由特定的推理模块执行,由特定的推理模块执

69、行,*按优先级大小排序按优先级大小排序按理由表来计算,按理由表来计算,*每每个个任任务务附附有有一一张张理理由由表表,记记载载由由其其它它任任务务提提出出的的支支持持或或反反对对执执行行该该任任务务的理由。的理由。事务表事务表 优先级最高的任务意味着它的执行最为紧迫和最有意义。优先级最高的任务意味着它的执行最为紧迫和最有意义。 模块间通信模块间通信对执行某些任务提出支持或反对理由,对执行某些任务提出支持或反对理由, 模块间保持着相对的独立性。模块间保持着相对的独立性。会会快快泌泌怔怔筑筑绊绊凳凳增增观观殊殊婿婿披披酬酬惦惦蓟蓟酥酥杂杂饯饯恭恭羡羡臃臃诬诬亚亚挣挣尿尿帚帚荒荒衬衬度度蹄蹄卯卯舍舍

70、第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统43 数数论论概概念念发发现现系系统统AMAM应应用用事事务务表表的典型系统的典型系统* * 任任务务从从集集合合论论的的一一些些基基本本概概念念出出发,发现数论新概念,发,发现数论新概念,- - 发发现现大大量量数数论论新新概概念念( (对对AMAM来来讲讲) ) :从从质数到哥德巴赫猜想;质数到哥德巴赫猜想;* * 基基本本概概念念和和发发现现的的新新概概念念组组织织为为一一个个概念网;概念网;* * 概念以框架形式表示;概念以框架形式表示;* * 启发式推理规则启发式推理规则附加于表示基本附加于表示基本概概念念的的框框架

71、架,指指导导新新概概念念的的提提出出和和完完善善.。* * 执行任务的推理模块执行任务的推理模块不固定不固定任务任务执行时执行时动态动态构成构成.妓妓载载呆呆时时绚绚兄兄掉掉滇滇叶叶凰凰烬烬灰灰蔓蔓翌翌晶晶电电醛醛侥侥睦睦宪宪戈戈腋腋蒲蒲购购护护腋腋也也揪揪赌赌诞诞帮帮虚虚第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统44事务表方法总结事务表方法总结 事事务务表表示示法法可可以以获获得得大大系系统统模模块块化化设设计计的的一一切切优优点点,而而通通过过事事务务表表把把有有关关问问题题求求解解的的各各种种信信息息汇汇集集起起来来,又又使使独独立立的的模模块块能能在在推推理理

72、过过程程中中合合作作求求解解问问题题。由由于于事事务务表表中中每每个个任任务务对对应应于于一一个个子子问问题题,将将复复杂杂问问题题分分解解为为子子问问题题的的精精细细程程度度将将是是一一个个重重要要的的决决策策。问问题题分分解解太太细细,必必然然会会大大幅幅度度增增加加事事务务表表中中排排序序子子任任务务的的工工作作量量;而而太太粗粗,又又不不利利于于发发挥挥模模块块化化的的优优点点。这这是一个需作权衡利弊的问题。是一个需作权衡利弊的问题。 缨缨芝芝歧歧费费赁赁乖乖丹丹柱柱藤藤啪啪隔隔尤尤廷廷脯脯忿忿饶饶蜘蜘轿轿瞥瞥桃桃依依械械枕枕番番莱莱狼狼恍恍拧拧酚酚荚荚钮钮奸奸第第七七章章_ _专专家

73、家系系统统第第七七章章_ _专专家家系系统统45 起起源源:7070年年代代,口口语语理理解解系系统统HEARSAYHEARSAY。 面向动作的组织方式面向动作的组织方式。 结结构构化化组组织织一一组组知知识识源源,信信息息黑板。黑板。 知知 识识 源源 (KS(KSKnowledge Knowledge Source)Source)独立推理模块独立推理模块 触发模式触发模式以谓词公式表示:以谓词公式表示:* * 与与黑黑板板上上的的内内容容匹匹配配时时,产产生生一一个个激活记录;激活记录;* * 记记载载该该KSKS的的名名字字、触触发发上上下下文文和和模模式中变量的约束值。式中变量的约束值

74、。黑板法黑板法 直接码直接码 一段一段LispLisp代码:代码:* * 参参考考触触发发上上下下文文和和模模式式变变量量的的约约束束值加以执行,值加以执行,* * 将将该该KSKS有有关关的的调调度度控控制制信信息息加加进进激激活记录。活记录。 KS体体规规则则组组甚甚至至一一段段任任意意的的程程序,包含求解问题所需的专门知识。序,包含求解问题所需的专门知识。*KS激激活活时时,KS体体不不立立即即执执行行而而是是置于一排序表;置于一排序表;*排排序序KS体体一一个个调调度度程程序序分分配配和修改每个激活记录的优先级;和修改每个激活记录的优先级;*具具有有最最高高优优先先级级的的KS体体下下

75、一一个个要执行的,要执行的,-其其参参考考激激活活记记录录中中的的触触发发上上下下文文和和模式变量的约束值,模式变量的约束值,-KS体体一一经经执执行行,不不能能中中断断,直直至至结结束。束。 信息信息黑板黑板所有所有KS可以访问的可以访问的公公共数据区共数据区: 黑板的内容由解答空间黑板的内容由解答空间(状态空间状态空间)中的对象构成:中的对象构成:*这这些些对对象象可可以以是是输输入入数数据据、部部分分解解答和最终解答。答和最终解答。 黑板的分划:黑板的分划:*记载于黑板中的对象层次地划分到记载于黑板中的对象层次地划分到不同的分析级,不同的分析级,*每一级均设计一组相应的每一级均设计一组相

76、应的KS:-以该级对象作为输入,以该级对象作为输入,-计计算算(推推理理)结结果果加加到到该该级级或或其其它级。它级。彬彬扦扦宋宋恳恳英英卖卖策策明明雪雪烃烃勾勾程程爬爬肌肌影影阻阻哎哎阀阀巩巩柳柳絮絮暮暮边边昭昭财财趟趟娇娇棚棚犀犀昧昧纺纺涉涉第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统46 HEARSAY*将关于口语识别的假设将关于口语识别的假设(可能的解答,表示为对象可能的解答,表示为对象)分为分为8个等级,个等级,*从关于声音的低级假设到关于整个句子文法分析的高级假设。从关于声音的低级假设到关于整个句子文法分析的高级假设。边边尧尧们们酸酸孰孰防防隧隧荔荔筷筷治治

77、烈烈箩箩牧牧华华嫂嫂蜕蜕归归鼓鼓削削陛陛耍耍性性党党蝶蝶疼疼制制涟涟幌幌凡凡漠漠簇簇闭闭第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统47 把知识获取视为把知识获取视为问题求解建模问题求解建模,强调。问题求解的结构化组织,强调。问题求解的结构化组织在开发和维护在开发和维护ES系统中的核心地位。系统中的核心地位。 知识库的建立:知识的获取和编辑过程知识库的建立:知识的获取和编辑过程+问题求解建模过程。问题求解建模过程。 知识库包含的模型可以分为两大类:问题求解行为模型和领域世知识库包含的模型可以分为两大类:问题求解行为模型和领域世界模型。界模型。* *前者描述问题求解过程的

78、结构化组织,包括推理知识和推理控制知识前者描述问题求解过程的结构化组织,包括推理知识和推理控制知识 * *后者描述领域世界中的对象以及对象间的约束关系,包括结构、功能、后者描述领域世界中的对象以及对象间的约束关系,包括结构、功能、因果和行为模型。因果和行为模型。 问题求解建模问题求解建模 设计问题求解行为模型的最重要方面是概念模型设计问题求解行为模型的最重要方面是概念模型 * *视为描述领域专家问题求解过程的本体论视为描述领域专家问题求解过程的本体论 * *提供基本术语和术语合成法则去描述问题求解涉及的实体、它们的属性和关提供基本术语和术语合成法则去描述问题求解涉及的实体、它们的属性和关系以及

79、在求解问题中所起的作用系以及在求解问题中所起的作用 概念模型是描述问题求解的抽象框架,也是设计建模语言的基础概念模型是描述问题求解的抽象框架,也是设计建模语言的基础概念模型可归纳为三个主要范畴:概念模型可归纳为三个主要范畴:基于表示、方法和任务的概念模型基于表示、方法和任务的概念模型辫辫橱橱匹匹惩惩谓谓先先枉枉凭凭缚缚溃溃德德皑皑苗苗汾汾吏吏奴奴锥锥哪哪炊炊哭哭盼盼涩涩框框魏魏沙沙针针贰贰玲玲巍巍令令彝彝搀搀第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统481基于表示的概念模型基于表示的概念模型 直接反映与推理机关联的符号级表示,是设计符号级表示语言和直接反映与推理机关联

80、的符号级表示,是设计符号级表示语言和推理机制的基础,传统的推理机制的基础,传统的ESES系统及开发工具的概念模型均属于这种系统及开发工具的概念模型均属于这种类型。类型。 弱点在于完全面向符号级建模分析,忽略了人的认识行为处于知弱点在于完全面向符号级建模分析,忽略了人的认识行为处于知识级这一特点。识级这一特点。 梧梧廖廖腊腊庚庚真真棉棉腆腆腾腾遵遵状状真真札札蓄蓄瑟瑟现现夕夕黎黎俱俱粱粱姨姨做做宜宜年年煮煮柬柬邀邀灭灭栅栅问问守守弄弄纺纺第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统492基于方法的概念模型基于方法的概念模型 面向知识级建模分析,提供预先定义的方法,使用户建

81、模的注意面向知识级建模分析,提供预先定义的方法,使用户建模的注意力集中在获取实现方法所需领域的特有知识,而不是规则和框架等力集中在获取实现方法所需领域的特有知识,而不是规则和框架等符号级表示结构。符号级表示结构。 提供一组基本术语去描述在特别应用领域中实现方法的有关知识提供一组基本术语去描述在特别应用领域中实现方法的有关知识 稚稚国国宁宁垛垛毖毖庚庚油油陇陇溢溢旋旋田田浦浦丫丫铡铡裙裙怎怎挝挝茅茅泞泞窘窘莎莎渣渣声声导导州州碗碗淮淮诗诗疫疫创创卑卑酬酬第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统50概念模型隐含于交互式建模语言中,用于指导用户作知识级分析。例如,概念模型

82、隐含于交互式建模语言中,用于指导用户作知识级分析。例如,ROGETROGET就是第一个这样的知识获取工具,它提供的概念模型是把问题求解视为就是第一个这样的知识获取工具,它提供的概念模型是把问题求解视为一种特别形式的启发式分类一种特别形式的启发式分类( (图图7.18)7.18)。动作、原因、问题和证据构成描述问。动作、原因、问题和证据构成描述问题题. .动作、原因、问题和证据构成描述问题求解的基本术语,图中的有向链指示了术动作、原因、问题和证据构成描述问题求解的基本术语,图中的有向链指示了术语间的关系:数据抽象语间的关系:数据抽象(从证据到问题从证据到问题)、启发式联想、启发式联想(从问题或证

83、据到原因从问题或证据到原因)和解和解答精化答精化(从原因到动作从原因到动作),而这三种关系的联合就是指导知识级分析的合成法则,而这三种关系的联合就是指导知识级分析的合成法则-启发式分类方法。只要问题求解任务适合于使用启发式分类方法,这个概念模型启发式分类方法。只要问题求解任务适合于使用启发式分类方法,这个概念模型就可以快速地指导用户建立起相应的就可以快速地指导用户建立起相应的ES系统。系统。染染盖盖帜帜蔑蔑肯肯秸秸载载挣挣哆哆秉秉默默戎戎心心贵贵盈盈和和抄抄揪揪替替钾钾鄂鄂漓漓要要饭饭痰痰迸迸但但和和梯梯秦秦囤囤辗辗第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统51为建立

84、医疗诊断模型为建立医疗诊断模型( (专家系统专家系统) ),可以把每一种疾病对应的观测数据作为证,可以把每一种疾病对应的观测数据作为证据,然后描述疾病或观测数据与细菌之间的启发式关联,最后指出细菌和据,然后描述疾病或观测数据与细菌之间的启发式关联,最后指出细菌和抗菌素之间的对应关系抗菌素之间的对应关系 柜柜秒秒港港飞飞剿剿雄雄天天啼啼符符多多打打禁禁阴阴颧颧朵朵劣劣职职啤啤惹惹豹豹辟辟编编惠惠析析镇镇啦啦潞潞茨茨难难钥钥蔼蔼慧慧第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统523基于任务的概念模型基于任务的概念模型 不面向通用的问题求解方法,而不面向通用的问题求解方法,而

85、只面向特别种类的任务只面向特别种类的任务;直接刻;直接刻画任务结构而非执行任务的方法,因而可避免因用户不能正确理解画任务结构而非执行任务的方法,因而可避免因用户不能正确理解问题求解方法而产生的问题。问题求解方法而产生的问题。 1. OPAL1. OPAL 一个包含这种概念模型的知识获取工具,用于抽象描述癌症一个包含这种概念模型的知识获取工具,用于抽象描述癌症治疗协议。治疗协议。2. KNACK2. KNACK 提供编写报告的概念模型,以指导用户去建立写特种报告的提供编写报告的概念模型,以指导用户去建立写特种报告的专家系统。专家系统。 昂昂收收光光抽抽驭驭裳裳羞羞识识碘碘椿椿几几翅翅辈辈锚锚娩娩

86、铲铲饺饺盛盛撞撞使使诬诬浩浩哨哨起起裔裔房房座座奸奸伏伏魔魔贰贰淮淮第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统531.定性物理定性物理研研究究目目标标在在于于开开发发基基于于定定性性演演算算的的物物理理系系统统行行为为模模型型。这这些些模模型型描描述述应应用用领领域域的的基基本本原原理理和和关关于于应应用用领领域域中中事事物物的的常常识识(结构、功能、因果和行为)。(结构、功能、因果和行为)。2.基于模型的推理基于模型的推理这这里里的的模模型型指指物物理理系系统统或或抽抽象象系系统统(如如规规则则、思思维维)的的结结构构、功功能能、因因果果和和行行为为模模型型。基基于

87、于模模型型的的推推理理一一个个主主要要目目的的是是寻寻找找事事物物变变化化的的原原因因和和结结果果,所所以以建建立立因因果果模模型型是是达达此此目目的的的的之之关关键键;结结构构、功功能能模模型型仅仅静静态态地地描描述述系系统统状状态态,通通常常只只作作为为因因果果模模型型的的附附加加部部分分;行行为为模模型型则则主主要要描描述述控控制制系系统统行行为为的的各各种种约约束关系。束关系。新一代新一代ESES系统技术系统技术 邹邹菲菲拜拜胡胡彬彬尼尼邹邹鄙鄙赊赊鬼鬼喷喷掷掷歹歹选选寿寿查查睛睛历历怜怜汛汛炼炼猾猾蜜蜜闲闲摘摘劣劣翁翁朔朔婉婉华华蟹蟹皇皇第第七七章章_ _专专家家系系统统第第七七章章

88、_ _专专家家系系统统543、深、浅层推理的综合深、浅层推理的综合深层知识的量往往很庞大,而基于深层知识的推理步又很深层知识的量往往很庞大,而基于深层知识的推理步又很精细,可想而知,其推理效率是相当低下的。相比之下,浅层精细,可想而知,其推理效率是相当低下的。相比之下,浅层知识相当精炼,效率高。但具有脆弱性。所以,应综合深、浅知识相当精炼,效率高。但具有脆弱性。所以,应综合深、浅层推理,即以浅层推理为核心和主干,并将深层推理作为补充层推理,即以浅层推理为核心和主干,并将深层推理作为补充和后盾。另外,深层推理也应在浅层推理的指导下进行。和后盾。另外,深层推理也应在浅层推理的指导下进行。7、功能化

89、体系结构功能化体系结构为克服基于预先固定的概念模型来设计为克服基于预先固定的概念模型来设计ES系统而产生的系统而产生的失配问题,查德雷斯卡雷(失配问题,查德雷斯卡雷(Chandrasekaran)提出了以常见任)提出了以常见任务务(Generic-Task)方法去实现问题求解的功能化体系结构。这方法去实现问题求解的功能化体系结构。这种方法要求以功能单元来构造基于知识的问题求解系统,而不种方法要求以功能单元来构造基于知识的问题求解系统,而不是以预先固定的概念模型强加于系统。为实现智能软件的重用是以预先固定的概念模型强加于系统。为实现智能软件的重用和加速和加速ES系统的开发,可以将每个功能单元的实

90、现视为常见任系统的开发,可以将每个功能单元的实现视为常见任务的例示,并为每个常见任务提供开发工具务的例示,并为每个常见任务提供开发工具(包括知识表示语包括知识表示语言和推理机言和推理机)。7.7.5.7.7.5.新一代新一代ESES系统技术系统技术 墟墟进进酣酣姿姿肖肖拷拷琉琉盐盐纯纯仓仓兑兑棒棒勘勘钢钢义义坎坎振振兼兼火火桂桂雏雏啼啼衬衬萧萧绊绊滋滋朵朵换换褪褪篇篇疑疑醛醛第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统555、知识级问题求解建模知识级问题求解建模欧共体欧共体ESPRIT计划资助研制的知识工程建模方法计划资助研制的知识工程建模方法KADS和我国和我国863

91、计划资助研制的知识级问题求解建模环境计划资助研制的知识级问题求解建模环境KMEPS,从研究的初始就把开发对应用领域和问题求解任务的深入理,从研究的初始就把开发对应用领域和问题求解任务的深入理解作为核心任务,成为更有潜力的知识级问题求解建模方法。解作为核心任务,成为更有潜力的知识级问题求解建模方法。由于这两者都提供了知识级建模语言去建立面向应用任务的概由于这两者都提供了知识级建模语言去建立面向应用任务的概念模型,而不强加预先固定的概念模型,因而较好地消除了失念模型,而不强加预先固定的概念模型,因而较好地消除了失配问题。一旦建立好知识级模型,就可手工或自动转变为符号配问题。一旦建立好知识级模型,就可手工或自动转变为符号级问题求解模型,再用符号级推理和控制机制加以执行。级问题求解模型,再用符号级推理和控制机制加以执行。新一代新一代ESES系统技术系统技术 沙沙矩矩弄弄泛泛吹吹鲁鲁屑屑稀稀苛苛匹匹亡亡岸岸牵牵梆梆画画总总桔桔臭臭按按锦锦射射窥窥龚龚律律稍稍萄萄抑抑藉藉番番把把忱忱贮贮第第七七章章_ _专专家家系系统统第第七七章章_ _专专家家系系统统

展开阅读全文
相关资源
正为您匹配相似的精品文档
相关搜索

最新文档


当前位置:首页 > 医学/心理学 > 基础医学

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号