《数据挖掘中的十个问题.doc》由会员分享，可在线阅读，更多相关《数据挖掘中的十个问题.doc（13页珍藏版）》请在金锄头文库上搜索。
1、数据挖掘的十个问题分类:Data Mining2006.5.31 01:19 作者：msae | 评论：0 | 阅读：433 Q1. Data Mining 和统计分析有什么不同？ 硬要去区分Data Mining和Statistics的差异其实是没有太大意义的。一般将之定义为Data Mining技术的CART、CHAID或模糊计算等等理论方法，也都是由统计学者根据统计理论所发展衍生，换另一个角度看，Data Mining有相当大的比重是由高等统计学中的多变量分析所支撑。但是为什么Data Mining的出现会引发各领域的广泛注意呢？主要原因在相较于传统统计分析而言，Data Mining有
2、下列几项特性： 1.处理大量实际资料更强势，且无须太专业的统计背景去使用Data Mining的工具； 2.资料分析趋势为从大型数据库抓取所需资料并使用专属计算机分析软件，Data Mining的工具更符合企业需求； 3. 纯就理论的基础点来看，Data Mining和统计分析有应用上的差别，毕竟Data Mining目的是方便企业末端用者使用而非给统计学家检测用的。 Q2. Data Warehousing 和 Data Mining 的关系为何？ 若将Data Warehousing（数据仓库、数据集市）比喻作矿坑，Data Mining就是深入矿坑采矿的工作。毕竟Data Mining不
3、是一种无中生有的魔术，也不是点石成金的炼金术，若没有够丰富完整的资料，是很难期待Data Mining能挖掘出什么有意义的信息的。 要将庞大的资料转换成为有用的信息，必须先有效率地收集信息。随着科技的进步，功能完善的数据库系统就成了最好的收集资料的工具。数据仓库，简单地说，就是搜集来自其它系统的有用资料，存放在一整合的储存区内。所以其实就是一个经过处理整合，且容量特别大的关系型数据库，用以储存决策支持系统（Design Support System）所需的资料，供决策支持或资料分析使用。从信息技术的角度来看，资料仓储的目标是在组织中，在正确的时间，将正确的资料交给正确的人。 许多人对于Data
4、 Warehousing和Data Mining时常混淆，不知如何分辨。其实，数据仓库是数据库技术的一个新主题，在数据科技日渐普及下，利用计算机系统帮助我们操作、计算和思考，让作业方式改变，决策方式也跟着改变。 数据仓库本身是一个非常大的数据库，它储存着由组织作业数据库中整合而来的资料，特别是指从线上交易系统OLTP（On-Line Transactional Processing）所得来的资料。将这些整合过的资料置放于资料仓储中，而公司的决策者则利用这些资料作决策；但是，这个转换及整合资料的过程，是建立一个资料仓储最大的挑战。因为将作业中的资料转换成有用的的策略性信息是整个数据仓库的重点。综
5、上所述，数据仓库应该具有这些资料：整合性资料（integrated data）、详细和汇总性的资料(detailed and summarized data)、历史资料、解释资料的资料。从资料仓储挖掘出对决策有用的信息与知识，是建立数据仓库与使用Data Mining的最大目的，两者的本质与过程是两码子事。换句话说，数据仓库应先行建立完成，Data mining才能有效率的进行，因为数据仓库本身所含资料是干净(不会有错误的资料参杂其中）、完备，且经过整合的。因此两者关系或许可解读为Data Mining是从巨大数据仓库中找出有用信息的一种过程与技术。 Q3. OLAP 能不能代替 Data M
6、ining？ 所谓OLAP（Online Analytical Process）意指由数据库所连结出来的线上查询分析程序。有些人会说：我已经有OLAP的工具了，所以我不需要Data Mining。事实上两者间是截然不同的，主要差异在于Data Mining用在产生假设，OLAP则用于查证假设。简单来说，OLAP是由使用者所主导，使用者先有一些假设，然后利用OLAP来查证假设是否成立；而Data Mining则是用来帮助使用者产生假设。所以在使用OLAP或其它Query的工具时，使用者是自己在做探索（Exploration），但Data Mining是用工具在帮助做探索。 举个例子来看，一市场分
7、析师在为超市规划货品架柜摆设时，可能会先假设婴儿尿布和婴儿奶粉会是常被一起购买的产品，接着便可利用OLAP的工具去验证此假设是否为真，又成立的证据有多明显；但Data Mining则不然，执行Data Mining的人将庞大的结帐资料整理后，并不需要假设或期待可能的结果，透过Mining技术可找出存在于资料中的潜在规则，于是我们可能得到例如尿布和啤酒常被同时购买的意料外之发现，这是OLAP所做不到的。 Data Mining常能挖掘出超越归纳范围的关系，但OLAP仅能利用人工查询及可视化的报表来确认某些关系，是以Data Mining此种自动找出甚或不会被怀疑过的资料型样与关系的特性，事实上已
8、超越了我们经验、教育、想象力的限制，OLAP可以和Data Mining互补，但这项特性是Data Mining无法被OLAP取代的。 Q4. 完整的Data Mining 包含哪些步骤？ 以下提供一个Data Mining的进行步骤以为参考： 1. 明确目标与理解资料； 2. 获取相关技术与知识； 3. 整合与查核资料； 4. 去除错误或不一致及不完整的资料； 5. 由数据选取样本先行试验； 6. 研发模式（model）与型样（pattern）； 7. 实际Data Mining的分析工作； 8. 测试与检核； 9. 找出假设并提出解释； 10. 持续应用于企业流程中。 由上述步骤可看出，D
9、ata Mining牵涉了大量的准备工作与规划过程，事实上许多专家皆认为整套Data Mining的进行有80的时间精力是花费在资料前置作业阶段，其中包含资料的净化与格式转换甚或表格的连结。由此可知Data Mining只是信息挖掘过程中的一个步骤而已，在进行此步骤前还有许多的工作要先完成。 Q5. Data Mining 运用了哪些理论与技术？ Data Mining是近年来数据库应用技术中相当热门的议题，看似神奇、听来时髦，实际上却也不是什么新东西，因其所用之诸如预测模式、资料分割，连结分析（Link Analysis）、偏差侦测（Deviation Detection）等，美国早在二次世
10、界大战前就已应用运用在人口普查及军事等方面。 随着信息科技超乎想象的进展，许多新的计算机分析工具问世，例如关系型数据库、模糊计算理论、基因算法则以及类神经网络等，使得从资料中发掘宝藏成为一种系统性且可实行的程序。 一般而言，Data Mining的理论技术可分为传统技术与改良技术两支。传统技术以统计分析为代表，举凡统计学内所含之叙述统计、机率论、回归分析、类别资料分析等皆属之，尤其 Data Mining 对象多为变量繁多且笔数庞大的数据，是以高等统计学里所含括之多变量分析中用来精简变量的因素分析（Factor Analysis）、用来分类的判别分析（Discriminant Analysis
11、），以及用来区隔群体的分群分析（Cluster Analysis）等，在Data Mining过程中特别常用。 在改良技术方面，应用较普遍的有决策树理论（Decision Trees）、类神经网络（Neural Network）以及规则归纳法（Rules Induction）等。决策树是一种用树枝状展现资料受各变量的影响情形之预测模型，根据对目标变量产生之效应的不同而建构分类的规则，一般多运用在对顾客资料的区隔分析上，例如针对有回函与未回含的邮寄对象找出影响其分类结果的变量组合，常用分类方法为CART（Classification and Regression Trees）及CHAID（Chi
12、-Square Automatic Interaction Detector）两种。 类神经网络是一种仿真人脑思考结构的资料分析模式，由输入之变量与数值中自我学习并根据学习经验所得之知识不断调整参数以期建构资料的型样(patterns)。类神经网络为非线性的设计，与传统回归分析相比，好处是在进行分析时无须限定模式，特别当资料变量间存有交互效应时可自动侦测出；缺点则在于其分析过程为一黑盒子，故常无法以可读之模型格式展现，每阶段的加权与转换亦不明确，是故类神经网络多利用于资料属于高度非线性且带有相当程度的变量交感效应时。 规则归纳法是知识发掘的领域中最常用的格式，这是一种由一连串的如果/则（If
13、/ Then）之逻辑规则对资料进行细分的技术，在实际运用时如何界定规则为有效是最大的问题，通常需先将资料中发生数太少的项目先剔除，以避免产生无意义的逻辑规则。 Q6. Data Mining包含哪些主要功能？ Data Mining实际应用功能可分为三大类六分项来说明：Classification和Clustering属于分类区隔类；Regression和Time-series属于推算预测类；Association和Sequence则属于序列规则类。 Classification是根据一些变量的数值做计算，再依照结果作分类。（计算的结果最后会被分类为几个少数的离散数值，例如将一组资料分为 可能
14、会响应 或是 可能不会响应 两类）。Classification常被用来处理如前所述之邮寄对象筛选的问题。我们会用一些根据历史经验已经分类好的资料来研究它们的特征，然后再根据这些特征对其他未经分类或是新的数据做预测。这些我们用来寻找特征的已分类资料可能是来自我们的现有的客户资料，或是将一个完整数据库做部份取样，再经由实际的运作来测试；譬如利用一个大型邮寄对象数据库的部份取样来建立一个Classification Model，再利用这个Model来对数据库的其它资料或是新的资料作分类预测。 Clustering用在将数据分群，其目的在于将群间的差异找出来，同时也将群内成员的相似性找出来。Clus
15、tering与Classification不同的是，在分析前并不知道会以何种方式或根据来分类。所以必须要配合专业领域知识来解读这些分群的意义。Regression是使用一系列的现有数值来预测一个连续数值的可能值。若将范围扩大亦可利用Logistic Regression来预测类别变量，特别在广泛运用现代分析技术如类神经网络或决策树理论等分析工具，推估预测的模式已不在止于传统线性的局限，在预测的功能上大大增加了选择工具的弹性与应用范围的广度。 Time-Series Forecasting与Regression功能类似，只是它是用现有的数值来预测未来的数值。两者最大差异在于Time-Series
16、所分析的数值都与时间有关。Time-Series Forecasting的工具可以处理有关时间的一些特性，譬如时间的周期性、阶层性、季节性以及其它的一些特别因素（如过去与未来的关连性）。 Association是要找出在某一事件或是资料中会同时出现的东西。举例而言，如果A是某一事件的一种选择，则B也出现在该事件中的机率有多少。（例如：如果顾客买了火腿和柳橙汁，那么这个顾客同时也会买牛奶的机率是85%。） Sequence Discovery与Association关系很密切，所不同的是Sequence Discovery中事件的相关是以时间因素来作区隔（例如：如果A股票在某一天上涨12%，而且当天股市加权指数下降，则B股票在两天之内上涨的机率是 68%
