《人工智能实验三朴素贝叶斯分类实验》由会员分享，可在线阅读，更多相关《人工智能实验三朴素贝叶斯分类实验（14页珍藏版）》请在金锄头文库上搜索。
1、实验三：分类算法实验智能 1402 201408070221 李帅玲目录实验三：分类算法实验 1一实验目的 2二实验的硬件、软件平台 2三实验内容及步骤 2四、思考题： 2五实验报告 3（一）算法的基本原理 3（二）实验框架与结果 41. 汽车评估数据集 42. 程序框架 63. 实验结果 6（三）实验分析和思考题 7（四）实验源代码 8实验目的1. 了解朴素贝叶斯算法和决策树算法的基本原理；2. 能够使用朴素贝叶斯算法 或者 决策树算法对数据进行分类3. 学会对于分类器的性能评估方法二实验的硬件、软件平台硬件：计算机软件：操作系统： WINDOWS8.1应用软件： Java三实验内容及步骤（
2、一）实验内容：利用贝叶斯算法或者决策树算法进行数据分类操作 数据集：汽车评估数据集 （ 见附录）（二）实验步骤：1仔细阅读并了解实验数据集；2使用任何一种熟悉的计算机语言 （ 比如 C,Java 或者 matlab） 实现朴素贝叶斯算法或者决策树 算法；3利用朴素贝叶斯算法或者决策树算法在训练数据上学习分类器, 训练数据的大小分别设置为：前 100个数据，前 200个数据，前 500个数据，前 700个数据，前 1000个数据，前 1350个数据； 4利用测试数据对学习的分类器进行性能评估；5统计分析实验结果并上交实验报告；四、思考题：1. 两种算法在训练数据集和测试数据集上的性能一致吗？哪个
3、比较好？2. 提出一种提高分类器性能的方法并通过实验验证。五实验报告J算法的基本原理贝叶斯定理：表示事件X已经发生的前提下，事件Y发生的概率，叫做事件X发生下事件Y的条件概率，其基本求解公式为:朴素贝叶斯分类器:=argmax P(ava2)an| v) P(vj朴素贝叶斯的思想基础是这样的： 对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，哪个最大,就认为此待分类项属于哪个类别。朴素贝叶斯分类的正式定义如下：1、设加1 G阴.严扯応础讣为一个待分类项，而每个 a为x的一个特征属性。2、 有类别集合【二八沐:3、 计算F（如迓（呦r F（如玖4、 如果F如叨=啊处叭“F（血阴,则
4、 $隸。那么现在的关键就是如何计算第 3步中的各个条件概率。我们可以这么做：1、找到一个已知分类的待分类项集合，这个集合叫做训练样本集。2、统计得到在各类别下各个特征属性的条件概率估计。即戸仏I如）仙血佃iMh卩仙阪. P（2血z珂砧画）；圳）3、如果各个特征属性是条件独立的，则根据贝叶斯定理有如下推导：因为分母对于所有类别为常数，因为我们只要将分子最大化皆可。又因为各特征属性是条件独立的，所以有: 整个朴素贝叶斯分类分为三个阶段:第一阶段：准备工作阶段，这个阶段的任务是为朴素贝叶斯分类做必要的准备，主要工作是根据具体情况确定特征属性，并对每个特征属性进行适当划分，然后由人工对一部分待分类项进
5、行分类，形成训练样本集合。这一阶段的输 入是所有待分类数据，输出是特征属性和训练样本。这一阶段是整个朴素贝叶斯分类中唯一需要人工完成的阶段， 其质量对整个过程将有重要影响，分类器的质量很大程度上由特征属性、特征属性划分及训练样本质量决定。第二阶段：分类器训练阶段，这个阶段的任务就是生成分类器，主要工作是计算每个类别在训练样本中的出现频率及每个特征属性划分对每个类别的条件概率估计，并将结果记录。其输入是特征属性和训练样本，输出是分类器。这一阶段是机械性阶段，根据前面讨论的公式可以由程序自动计算完成。第三阶段：应用阶段。这个阶段的任务是使用分类器对待分类项进行分类，其输入是分类器和待分类项，输出是
6、待分类项与类别的映射关系。这一阶段也是机械性阶段，由程序完成。决策树:决策树是一个类似于流程图的树结构，其中每个内部结点表示在一个属性上的测试，每个分支代表一个测试输入，而每个树叶结点代表类或类分布。数的最顶层结点是根结点。一棵典型的决策树如图所示。它表示概念buys_computer，它预测顾客是否可能购买计算机。内部结点用矩形表示，而树叶结点用椭圆表示。为了对未知的 样本分类，样本的属性值在决策树上测试。决策树从根到叶结点的一条路径就对应着一条合取规则，因此决策树容 易转化成分类规则。（二）实验框架与结果1. 汽车评估数据集汽车评估数据集包含1728个数据，其中训练数据1350,测试数据
7、个。每个数据包含6个属性，所有的数据分为4类:Class Values:un acc, acc, good, vgoodAttributes:buying: vhigh, high, med, low.maint: vhigh, high, med, low.doors: 2, 3, 4, 5more.pers ons: 2, 4, more.lug_boot: small, med, big.safety: low, med, high.部分训练集截图：learn.twt 車-vhlghj Thl2r 2 small, low, imacc vhi 氐h* Thigh, A, 2sual 1
8、 f mpd” unacc vtiigh, vhi呂h 2. 2】small, hih, unacc vhigh, Thigh, 2, 2】ned, 1 ov, unacc vhigh, vhl呂h, 2, 2 nsd” iubiL, unacc vhigh, vhigh. 2r 2, hi unacc vhieh 2, 2, bi g, low, unaccvhigH, yhigli, 2, 2, big, neil, unacc vhish* vhi2, 2, bigj hi名h，unace vhigh, vhieh, 2, 4, srnll, low, unacc vlllsll, Th
9、! 11, 2, 4； SBLdll, IJLtill, llILdCC Thigh, vhigli, 2, 4: small! hlgji, unaec vhigh, vhi 2, 43 ned, 1 oir una de vhishR vhiph 2, 4, ned, me山 unacc vhj.ghp 常hi医h, 2, 4: med, high, unaCC vhiahF vhi2h 4j big1 ow1 unacc vhi ghP vhieti, 2, 4, bi g, ned, irnaec viiigii, vliigh, 2, 4： bls, high, uuacc vhig
10、h, vhigh, 2, morc3 snail, low, uagcc vhi&h, vhi2, moro, silaIIujciacc vhish. vhiBh, 2, more, small, high* unacc viiigli, vlii gli, 2, Muiti, mud, luv, uuacc vhi&hp vhigh, 2, moro, MUid, nod, unacc vhi ghF vhi gti, 2, mnrp, hi eh, unacc vhigh. 2, mure, bit, luvT uniicc;vhigh, irhigh, 2f more, big, ne
11、d, unacc部分测试集截图:test, txt -记寻文蹴町褊辑巳宿式Q直看(V)務助巴low, vhigh, 4, 2, small, low, unacc low vhigh, 4, 2, small, jwd, unacc low, vhigh, 4, 2, smll? high, unacc low, vhigh, 4, 2r mad, low, unacc 1 aw, vhi gh, 4, 2, ulbd, nodT unacc low, vhigh, |4f 2, med, highj unacc low, vhigh, 4, 2, big, low, unacc 1 oWj
12、vhi gh, 4, 2, bimed. una.ce 1 awr vhi ghj 4T 2, hi gh, unacc low, vhigh, 4, 4, small, lew, iinacc low, vhi gh, 4, 4, small, med, unacc 1 cbw, vhighj 44, smallj highj acc 1 civf, vhi gh, 4* 4, m.ed, Lovtr unacc low, vhigh, 4, 4)med, med, acc law, vhi gh, 4, 4, uiEd, high3 acc low, vhighj 4, 4. bi压，lo
13、w, una.ee low, vhi gh 1, 4)bi&, med. ace low, vhigh, 4, 4, bi g, high, acc low, vhigh, 4, more, small, low, unacc 1 ow, vhi gh, 4, iuqte, smal 1, ined, unacc 1 ow, vhighj 4, rooTe, small, high, acc2. 程序框架i获取训练样本2. 对每个类别进行统计(Class Values: unacc, acc, good, vgood3. 对每个属性进行统计(buying: vhigh, high, med,
14、low.ma int: vhigh, high, med, low.doors: 2, 3, 4, 5more.pers ons: 2, 4, more.lug_boot: small, med, big.safety: low, med, high.)4. 计算并存储每个属性在类别中的条件概率，例如P(buing:vhigh | class value:unacc)= ( buing中vhigh的数量)除以(classValue 中 unacc 的数量)5. 获取测试集样本，将测试数据放入训练集6. 根据每一条测试数据的前六项，每一项在训练集的每个类别中都分别有一个概率值，将每一类别中六个概
15、率值相乘，可得四个评估概率。例如，对于测试数据(low,vhigh,4,2,small,low,u nacc)评价结果 V1=p(low|unacc)*p(vhigh |unacc)*p(4 |unacc)*p(2 |unacc)*p(small |unacc)*p(low,|unacc)V2=p(low|acc)*p(vhigh |acc)*p(4 |acc)*p(2 |acc)*p(small |acc)*p(low,|acc)V3=p(low|good)*p(vhigh |good)*p(4 |good)*p(2 |good)*p(small |good)*p(low,|good)V4=p(low|vgood)*p(vhigh |vgood)*p(4 |vgood)*p(2 |vgood)*p(small |vgood)*p(low,|vgood)比较VI、V2、V3、V4中概率最大的评价，可得评价结果7. 对评估概率进行比价，可得最大概率，最大概率指向的类别即为测试结果8. 测试结果与测试数据最后一项进行比对，若相同表示测试正确，返回true，反之，若不相同，则返回false。9. 统计tru
