《数据挖掘缺失值处理说课材料》由会员分享，可在线阅读，更多相关《数据挖掘缺失值处理说课材料（21页珍藏版）》请在金锄头文库上搜索。
1、缺失数据的插补方法中国科学院系统科学研究所 杨 军联系方式：报告提纲缺失数据为什么进行插补单一插补多重插补几何插补问题与挑战缺失数据 在许多实际问题的研究中，有一些数据无法获得或缺失。当缺失比例很小时，可直接对完全记录进行数据处理，舍弃缺失记录。 但在实际数据中，往往缺失数据占有相当的比重，尤其是多元数据。这时前述的处理将是低效率的，因为这样做丢失了大量信息，并且会产生偏倚，使不完全观测数据与完全观测数据间产生系统差异。 为什么进行插补允许应用标准的完全数据分析方法能融合数据收集者的知识数据缺失使数据结构复杂化，需要使用更复杂的统计工具进行分析，而插补可以缓解这一困难能够防止删除不完全记录造成
2、的信息丢失在一些情形下，插补能够减少无回答偏倚特别注意：插补的目的并不是预测单个缺失值，而是预测缺失数据所服从的分布单一插补单一插补指对每个缺失值，从其预测分布中取一个值填充缺失值后，使用标准的完全数据分析进行处理。单一插补的方法很多，总的说来可以归为两类：随机插补和确定性插补。常用的确定性插补方法有以下几种：推理插补均值插补热平台插补 冷平台插补最近邻插补 在插补类中按匹配变量找到和受者记录最接近的供者记录替代缺失记录比率/回归插补 根据辅助信息与样本中的有效回答记录建立一个比率或回归模型EM算法 每一种确定性的插补方法都对应着一种随机插补方法。插补定量数据时，用确定性的方法得到一个插补值，
3、加上从某个适宜的分布中产生的一个残差作为最后的插补值，就成为随机插补。随机插补能更好地保持数据的频数结构，保持比确定性插补更真实的变异性。下面绍两种贝叶斯观点的随机插补：贝叶斯Bootstap(ABB)近似贝叶斯Bootstap(ABB)单一插补的优点 1、标准的完全数据分析方法 2、对公众应用数据库，程序运行一次 缺点低估估计量的方差 改进校正估计量的方差，主要利用Jackknife、Bootstrap 等工具，给出方差的相合估计。多重插补单一插补往往会低估估计量的方差，为改善这一弊病，80年代前后，Rubin提出了多重插补。后经Rubin、Meng X.L. 和 J.L. Schafer等
4、人完善和发展，已经在著名的统计软件SAS中采用。多重插补是一种以模拟为基础的方法，对每个缺失值产生m个合理的插补值，这样插补后，得到m组完全数据，使用标准的完全数据方法分析每组数据并融合分析结果。多重插补保持了单一插补的两个基本优点，即应用完全数据分析方法和融合数据收集者知识的能力。相对于单一插补，多重插补有三个极其重要的优点：第一，为表现数据分布，随机抽取进行插补，增加了估计的有效性。第二，当多重插补是在某个模型下的随机抽样时，按一种直接方式简单融合完全数据推断得出有效推断，即它反映了在该模型下由缺失值导致的附加变异。第三，在多个模型下通过随机抽取进行插补，简单地应用完全数据方法，可以对无回答的不同模型下推断的敏感性进行直接研究。多重插补缺点：一、生成多重插补比单一插补需要更多工作二、贮存多重插补数据集需要更多存储空间三、分析多重插补数据集比单一插补需要花费更多精力。多重插补所面临的主要问题是如何得到缺失数据的多个插补版本。为正确地进行插补，需要首先要明确缺失机制，然后讨论插补机制。问题与挑战单击此处编辑母版标题样式单击此处编辑母版副标题样式*21 The end ! Thanks you very much !
