《数据挖掘原理与算法》由会员分享，可在线阅读，更多相关《数据挖掘原理与算法（54页珍藏版）》请在金锄头文库上搜索。
1、数据挖掘原理与算法By 毛国君，段立娟，王石，石云Pub. 清华大学出版社，2004 使用说明：本书是一本全面介绍数据挖掘和知识发现技 术的专业书籍，可作为计算机专业研究生或高年 级本科生教材。共分8章，各章相对独立成篇， 以利于读者选择性学习。本课件供全书讲解之用 ，为了取得好的教学效果，教师应该根据学生层 次、教学大纲或课时安排进行必要裁减。Date1Data Mining: Concepts and Techniques第一章 绪论 内容提要n数据挖掘技术的产生与发展 n数据挖掘研究的发展趋势 n数据挖掘概念 n数据挖掘技术的分类问题n数据挖掘常用的知识表示模式与方法n不同数据存储形式下
2、的数据挖掘问题 n粗糙集方法及其在数据挖掘中的应用 n数据挖掘的应用分析 Date2Data Mining: Concepts and Techniques数据挖掘技术的商业需求分析 n随着信息技术的高速发展，数据库应用的规模、 范围和深度不断扩大，网络环境成为主流等等。 产生“数据丰富而信息贫乏（Data Rich & Information Poor）”现象。n在强大的商业需求的驱动下，商家们开始注意到 有效地解决大容量数据的利用问题具有巨大的商 机；学者们开始思考如何从大容量数据集中获取 有用信息和知识的方法。n随着信息技术的高速发展，人们希望能够提供更 高层次的数据处理功能。新的需求推
3、动新的技术 的诞生。n数据（Data）、信息（Information）和知识（ Knowledge）是广义数据表现的不同形式。Date3Data Mining: Concepts and Techniques数据、信息和知识datainformationknowledgeDate4Data Mining: Concepts and Techniques数据挖掘产生的技术背景n数据挖掘是相关学科充分发展的基础上被提出和 发展的。n主要的相关技术：n数据库等信息技术的发展n统计学深入应用n人工智能技术的研究和应用Date5Data Mining: Concepts and Techniques数据
4、挖掘是一个多学科交叉技术Data MiningDatabase TechnologyStatisticsOther DisciplinesInformation ScienceAI /Machine LearningVisualizationDate6Data Mining: Concepts and Techniques数据库系统的发展n60年代：简单文件处理系统向数据库系统变革 。n70年代：层次、网络和关系型数据库普及。 n80年代：RDBS及其相关工具、数据索引及数据 组织技术被广泛采用；中期开始，分布式数据库 广发讨论，关系数据库技术和新型技术的结合。 n90年代：数据库领域中的新内
5、容、新应用、新技 术层出不穷，形成了庞大的数据库家族；人们期 望分析预测、决策支持等高级应用， Data mining and data warehousing等出现。n本世纪开始： Data mining 得到理论/技术深化。Date7Data Mining: Concepts and Techniques统计学的深入应用n强大有效的数理统计方法和工具，已成为信息咨 询业的基础 。n统计分析技术是基于严格的数学理论和高超的应 用技巧的 。 n数据挖掘技术是数理统计分析应用的延伸和发展 。 n和数据库技术的结合性研究Date8Data Mining: Concepts and Techniqu
6、es人工智能技术的研究和应用n人工智能是计算机科学研究中争议最多而又仍始终保持强大生命的研究领域。n专家系统曾经是人工智能研究工作者的骄傲，但是诸多难题限制了专家系统的应用：n知识获取成为专家系统研究中公认的瓶颈问题。n知识表示成为一大难题：知识工程师在整理表达从领域专家那里获得的知识时勉强抽象出来的规则有很强的工艺色彩。n对常识和百科知识出奇地贫乏：人工智能学家Feigenbaum估计，一般人拥有的常识存入计算机大约有100万条事实和抽象经验法则，离开常识的专家系统有时会比傻子还傻。n数据挖掘继承了专家系统的高度实用性特点，并且以数据为基本出发点，客观地挖掘知识。n机器学习得到了充分的研究和
7、发展：理论和算法。n数据挖掘研究在继承已有的人工智能相关领域，特别是机器学习的研究成果的基础上，成为新的研究分支。Date9Data Mining: Concepts and Techniques第一章 绪论 内容提要n数据挖掘技术的产生与发展 n数据挖掘研究的发展趋势 n数据挖掘概念 n数据挖掘技术的分类问题n数据挖掘常用的知识表示模式与方法n不同数据存储形式下的数据挖掘问题 n粗糙集方法及其在数据挖掘中的应用 n数据挖掘的应用分析 Date10Data Mining: Concepts and Techniques数据挖掘处于研究和应用探索阶 段n经过十几年的研究和实践，数据挖掘技术已经吸
8、收了许多学科的最新研究成果而形成独具特色的研究分支。n大部分学者认为数据挖掘的研究仍然处于广泛研究和探索阶段：n一方面，数据挖掘的概念已经被广泛接受。n另一方面，数据挖掘的大面积应用还有待时日。n随着KDD在学术界和工业界的影响越来越大，数据挖掘的研究向着更深入和实用技术方向发展：n大学等研究机构的大多数基础性研究集中在数据挖掘理论、挖掘 算法等的探讨上。n公司的研究更注重和实际商业问题结合。n数据挖掘的经济价值已经显现出来：Gartner报告中列举重要影响的五项关键技术，其中KDD和人工智能排名第一。Date11Data Mining: Concepts and Techniques数据挖掘
9、研究聚焦点n数据挖掘在如下几个方面需要重点开展工作：n数据挖掘技术与特定商业逻辑的平滑集成问题：数据挖掘需要代表性的 应用实例来证明（像“啤酒与尿布” ）。n数据挖掘技术与特定数据存储类型的适应问题：不同的数据存储方式会 影响数据挖掘的具体实现机制、目标定位、技术有效性等。n大型数据的选择与规格化问题：n数据的噪音、信息丢失等问题的处理；n针对特定挖掘方法进行数据规格化等问题。n数据挖掘系统的构架与交互式挖掘技术：n在具体的实现机制、技术路线以及各阶段的功能定位等方面仍需细化和深入研究。n良好的交互式挖掘（Interaction Mining）也是数据挖掘系统成功的前提。n数据挖掘语言与系统的
10、可视化问题：可视化挖掘除了要和良好的交互式 技术结合外，还必须在挖掘结果或过程的可视化进行探索和实践。n数据挖掘理论与算法研究n一方面，在已有的理论框架下有许多面向实际应用目标的挖掘理论等待探索和创新。n另一方面，随着数据挖掘技术本身和相关技术的发展，新的挖掘理论和算法的诞生是必然的。Date12Data Mining: Concepts and Techniques第一章 绪论 内容提要n数据挖掘技术的产生与发展 n数据挖掘研究的发展趋势n数据挖掘概念n数据挖掘技术的分类问题n数据挖掘常用的知识表示模式与方法n不同数据存储形式下的数据挖掘问题 n粗糙集方法及其在数据挖掘中的应用 n数据挖掘的
11、应用分析 Date13Data Mining: Concepts and Techniques从商业角度看数据挖掘技术 n数据挖掘从本质上说是一种新的商业信息处理技 术：n数据挖掘技术把人们对数据的应用，从低层次的联机查询操作， 提高到决策支持、分析预测等更高级应用上。n通过对数据的统计、分析、综合和推理，发现数据间的关联性、 未来趋势以及一般性的概括知识等，这些知识性的信息可以用来 指导高级商务活动。n从决策、分析和预测等高级商业目的看，原始数 据只是未被开采的矿山，需要挖掘和提炼才能获 得对商业目的有用的规律性知识。n从商业角度看，数据挖掘就是按企业的既定业务 目标，对大量的企业数据进行深
12、层次分析以揭示 隐藏的、未知的规律性并将其模型化，从而支持 商业决策活动。Date14Data Mining: Concepts and Techniques数据挖掘的技术含义 n数据库中的知识发现（KDD： Knowledge Discovery in Databases）是比数据挖掘出现更早 的一个名词。 nKDD与Data Mining的关系，有不同的看法：nKDD看成数据挖掘的一个特例：这是早期比较流行的观点，这种描 述强调了数据挖掘在源数据形式上的多样性。n数据挖掘是KDD的一个关键步骤：这种观点得到大多数学者认同， 有它的合理性。nKDD与Data Mining含义相同：事实上，在
13、现今的许多场合，如技 术综述等，这两个术语仍然不加区分地使用着。也有其他的说法 ：nKDD在人工智能界更流行，而Data Mining在数据库界使用更 多。n在研究领域被称作KDD，在工程领域则称之为数据挖掘。 Date15Data Mining: Concepts and Techniques数据挖掘定义n数据挖掘定义有广义和狭义之分。n从广义的观点，数据挖掘是从大型数据集（可能是不完全的、有 噪声的、不确定性的、各种存储形式的）中，挖掘隐含在其中的 、人们事先不知道的、对决策有用的知识的过程。n从这种狭义的观点上，我们可以定义数据挖掘是从特定形式的数 据集中提炼知识的过程。n下列技术不是数
14、据挖掘：nOLTP nExpert systems nSmall MLnStatistical programs Date16Data Mining: Concepts and Techniques数据挖掘研究的理论基础 n数据挖掘方法可以是基于数学理论的，也可以是 非数学的；可以是演绎的，也可以是归纳的。n从研究者可能是来自于数据库、人工智能、数理 统计、计算机科学以及其他方面的学者和工程技 术人员，他们会从不同的视点进行探讨性研究。n有下面一些重要的理论视点值得关注：n模式发现（Pattern Discovery）架构n规则发现（Rule Discovery）架构 n基于概率和统计理论n微
15、观经济学观点（Microeconomic View）n基于数据压缩（Data Compression）理论n基于归纳数据库（Inductive Database）理论n可视化数据挖掘（Visual Data Mining）n等等 Date17Data Mining: Concepts and Techniques第一章 绪论 内容提要n数据挖掘技术的产生与发展 n数据挖掘研究的发展趋势 n数据挖掘概念 n数据挖掘技术的分类问题n数据挖掘常用的知识表示模式与方法n不同数据存储形式下的数据挖掘问题 n粗糙集方法及其在数据挖掘中的应用 n数据挖掘的应用分析 Date18Data Mining: Co
16、ncepts and Techniques根据挖掘任务n分类或预测模型发现n数据总结与聚类发现n关联规则发现n序列模式发现n相似模式发现n混沌模式发现n依赖关系或依赖模型发现n异常和趋势发现等Date19Data Mining: Concepts and Techniques根据挖掘对象n关系数据库挖掘n面向对象数据库挖掘n空间数据库挖掘n时态数据库挖掘n文本数据源挖掘n多媒体数据库挖掘n异质数据库挖掘n遗产数据库挖掘nweb数据挖掘等Date20Data Mining: Concepts and Techniques根据挖掘方法n机器学习方法n统计方法n聚类分析方法n神经网络（Neural Network）方法n遗传算法（Genetic Algorithm）方法n数据库方法n近似推理和不确定性推理方法n基于证据理论和元模式的方法n现代数学分析方法n粗糙集（Rough Set）或模糊集方法n集成方法等Date21Data Mining: Concepts and Techniques根据知识类型n
