《决策树(详细易懂很多例子)ppt培训课件》由会员分享,可在线阅读,更多相关《决策树(详细易懂很多例子)ppt培训课件(49页珍藏版)》请在金锄头文库上搜索。
1、日、决策树史“灯DecisionTree皋团“庆“心dxd简丫决策树算法是一纳分类算法渲通过对训练集的学习挖掘出有用的规则】新集进行预测。有监督的学习。非参数学习算法对每个输入使用由该区域的训练数据计算得到的对应的局部模型决策树归呐的基本算法足贪心算法,自顺向下递归方式构造决贪心算法:在每一步选择中都采取在当前状态下最好/优的选择。在其生成过程中,分割方法即属性选择度量是关键。通过属性选择度量,选择出最好的将样本分类的属性。决策树的结构决策树算法以树状结构表示数据分栗的绪果“舞个况筑庞实要仁a咕、具有离散输出的测试函数,记为分口口支。F祥节点知282非叶子节点决策点)万。版陶决策树的结构AA1
2、)1)f根部节点(rootnode)非叶子节点(non-leafnode)(代表测试的条件,对数据届性的测试)分支(branches)(余表测试的结果)叶节点(16afnode(代表分类后所获得的分类标话bsa单变量树每个内部节点中的测试只使用一个输入维。如果使用的输入维j是离散的,取n个可能的值之一,则该节点检测xj的值,并取相应的分支,实现一个n路划分。决策点具有离散分支,而数值输入应当离散化。如果x是数值的(有序的),则测试函数是比较:扬(9:xj么Wno其中wuo是适当选择阀值。该决策节点将输入空间一份盏奏:Zn=txlrzwmo和Rs=txlxywmoj,称为一个二元决策树根据所选取
3、的属性是数值型证是离散型,每次将数据划分成两个或n个子集。然后使用对应的子集递归地琶堑划分,直到不需要划分,此时,创建一个树叶节点标它。决策树分类1.训练阶段从给定的训练数据集DB,构造出一棵决策树class=Decision7yee(DB)2分类阶段从根开始,按照决策树的分类属性逐层往下划分,直到叶节点,获得概念(决策、分类)结果。=DecisionTree(x)ExampleofaDecisionTreeSngeCierzedMered80KTrainingDataModel:DecisionTreeAnotherExampleofDecisionTreeTherecouldbemorethanonetreethatftsthesamedatalApplyModeltoTestDataTestDataStartfromtherootoftree.rApplyModeltoTestDataTestDataRefund0莲0keIneaaok|、Marfiea80K