《数据挖掘技术实验指导书》由会员分享，可在线阅读，更多相关《数据挖掘技术实验指导书（29页珍藏版）》请在金锄头文库上搜索。
1、实验指导书数据挖掘技术适用专业：信息与计算科学及相关专业计算机与信息学院编2011年5月实验一 一、实验名称WEKA的使用与数据准备二、实验目的熟悉数据挖掘的常用软件WEKA的安装和环境，理解weka的数据格式，掌握数据格式的转换，理解数据预处理的必要性和基本方法。三、实验平台计算机、软件WEKA、UtraEdit四、实验数据bank-data.csv （在教材配套光盘的CompanionCDDatafilesChapter_7_AR 目录下）weather.arff （WEKA安装目录的“data”子目录）五、实验方法和步骤1、实验准备(1)访问WEKA网站http:/www.cs.waik
2、ato.ac.nz/ml/weka，下载带JAVA虚拟机版本的WEKA,保存在U盘中。(2)阅读课本第8章5.11-8.14小结的内容。(3)将实验所需数据bank-data.csv 从光盘拷贝只U盘中。2、了解weka的环境 (1)安装weka，了解weka的环境 (2)打WEKA自带的“weather.arff”文件，了解arff文件的格式3、数据准备（1）将原来的“bank-data.csv”文件转化为arff文件“bank-data.arff”。（2）把“ID”属性去掉。（3）把“Children”属性转换成数值型的值0,1,2,3。（4）使用“Discretize”的Filter把“
3、age”和“income”的离散化，另存文件为bank_data_final.arff六、实验指导1. 简介 WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过http:/www.cs.waikato.ac.nz/ml/weka得到。同时weka也是新西兰的一种鸟名，而WEKA的主要开发者来自新西兰。WEKA作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。图一 WEKA主界面如果想自己实现数据挖掘算
4、法，可以看weka的接口文档，在weka中集成自己的算法。 2005年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的Weka小组荣获了数据挖掘和知识探索领域的最高服务奖，Weka系统得到了广泛的认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一。2. 数据格式跟很多电子表格或数据分析软件一样，WEKA所处理的数据集是图2那样的一个二维的表格。 图2 新窗口打开表格里的一个行称作一个实例(Instance)，相当于统计学中的一个样本，或者数据库中的一条记录。列称作一个属性（Attrbute），相当于统计学中的一个变量，或数据库中的一个字段。这样一个表格(数
5、据集)，在WEKA看来，呈现了属性之间的一种关系(Relation)。图1中一共有14个实例，5个属性，关系名称为“weather”。 WEKA存储数据的格式是ARFF(Attribute-Relation File Format)文件，这是一种ASCII文本文件。图1所示的二维表格存储在如下的ARFF文件中。这也就是WEKA自带的“weather.arff”文件，在WEKA安装目录的“data”子目录下可以找到。代码:% ARFF file for the weather data with some numric features % relation weather attribute
6、outlook sunny, overcast, rainy attribute temperature real attribute humidity real attribute windy TRUE, FALSE attribute play yes, no data % % 14 instances % sunny,85,85,FALSE,no sunny,80,90,TRUE,no overcast,83,86,FALSE,yes rainy,70,96,FALSE,yes rainy,68,80,FALSE,yes rainy,65,70,TRUE,no overcast,64,6
7、5,TRUE,yes sunny,72,95,FALSE,no sunny,69,70,FALSE,yes rainy,75,80,FALSE,yes sunny,75,70,TRUE,yes overcast,72,90,TRUE,yes overcast,81,75,FALSE,yes rainy,71,91,TRUE,no需要注意的是，在Windows记事本打开这个文件时，可能会因为回车符定义不一致而导致分行不正常。推荐使用UltraEdit这样的字符编辑软件察看ARFF文件的内容。识别ARFF文件的重要依据是分行，因此不能在这种文件里随意的断行。空行（或全是空格的行）将被忽略。以“%”
8、开始的行是注释，WEKA将忽略这些行。如果你看到的“weather.arff”文件多了或少了些“%”开始的行，是没有影响的。除去注释后，整个ARFF文件可以分为两个部分。第一部分：头信息(Head information),包括了对关系的声明和对属性的声明。第二部分：数据信息(Data information),即数据集中给出的数据。从“data”标记开始，后面的是数据信息。 (1)关系声明关系名称在ARFF文件的第一个有效行来定义，格式为 relation 是一个字符串。如果这个字符串包含空格，它必须加上引号（指英文标点的单引号或双引号）。(2)属性声明 属性声明用一列以“attribute
9、”开头的语句表示。数据集中的每一个属性都有它对应的“attribute”语句，来定义它的属性名称和数据类型。这些声明语句的顺序很重要。首先它表明了该项属性在数据部分的位置。例如，“humidity”是第三个被声明的属性，这说明数据部分那些被逗号分开的列中，第三列数据 85 90 86 96 . 是相应的“humidity”值。其次，最后一个声明的属性被称作class属性，在分类或回归任务中，它是默认的目标变量。属性声明的格式为 attribute 其中是必须以字母开头的字符串。和关系名称一样，如果这个字符串包含空格，它必须加上引号。WEKA支持的有四种，分别是 numeric-数值型 -分类（
10、nominal）型 string-字符串型 date -日期和时间型其中 和 将在下面说明。还可以使用两个类型“integer”和“real”,但是WEKA把它们都当作“numeric”看待。注意“integer”,“real”,“numeric”,“date”,“string”这些关键字是区分大小写的，而“relation”“attribute ”和“date”则不区分。数值属性数值型属性可以是整数或者实数，但WEKA把它们都当作实数看待。分类属性分类属性由列出一系列可能的类别名称并放在花括号中：, , , .。数据集中该属性的值只能是其中一种类别。例如如下的属性声明说明“outlook”属
11、性有三种类别：“sunny”，“ overcast”和“rainy”。而数据集中每个实例对应的“outlook”值必是这三者之一。 attribute outlook sunny, overcast, rainy如果类别名称带有空格，仍需要将之放入引号中。字符串属性字符串属性中可以包含任意的文本。这种类型的属性在文本挖掘中非常有用示例： ATTRIBUTE LCC string日期和时间属性日期和时间属性统一用“date”类型表示，它的格式是 attribute date 其中是这个属性的名称，是一个字符串，来规定该怎样解析和显示日期或时间的格式，默认的字符串是ISO-8601所给的日期时间组
12、合格式“yyyy-MM-ddTHH:mm:ss”。数据信息部分表达日期的字符串必须符合声明中规定的格式要求（下文有例子）。(3)数据信息数据信息中“data”标记独占一行，剩下的是各个实例的数据。每个实例占一行。实例的各属性值用逗号“,”隔开。如果某个属性的值是缺失值(missing value)，用问号“?”表示，且这个问号不能省略。例如： datasunny,85,85,FALSE,no?,78,90,?,yes字符串属性和分类属性的值是区分大小写的。若值中含有空格，必须被引号括起来。例如： relation LCCvsLCSH attribute LCC string attribute
13、 LCSH string data AG5, Encyclopedias and dictionaries.;Twentieth century. AS262, Science - Soviet Union - History.日期属性的值必须与属性声明中给定的相一致。例如： RELATION Timestamps ATTRIBUTE timestamp DATE yyyy-MM-dd HH:mm:ss DATA 2001-04-03 12:12:12 2001-05-03 12:59:55 (4)稀疏数据 有的时候数据集中含有大量的0值（比如购物篮分析），这个时候用稀疏格式的数据存贮更加省空
14、间。稀疏格式是针对数据信息中某个实例的表示而言，不需要修改ARFF文件的其它部分。看如下的数据： data 0, X, 0, Y, class A 0, 0, W, 0, class B 用稀疏格式表达的话就是 data 1 X, 3 Y, 4 class A 2 W, 4 class B 每个实例用花括号括起来。实例中每一个非0的属性值用 表示。是属性的序号，从0开始计；是属性值。属性值之间仍用逗号隔开。 注意在稀疏格式中没有注明的属性值不是缺失值，而是0值。若要表示缺失值必须显式的用问号表示出来。 3、xls,cvs,arff数据格式转化 实际工程中数据常以各种各样的格式存储和加工，如Excel的xls文件,记
