《特征选择与提取》由会员分享，可在线阅读，更多相关《特征选择与提取（3页珍藏版）》请在金锄头文库上搜索。
1、模式识别技术的发展应用模式识别 (Pattern Recognition) 是人类的一项基本智能， 在 日常生活中，人们经常在进行“模式识别”。模式识别 (Pattern Recognition) 是指对表征事物或现象的各种形式的 (数值的、文字 的和逻辑关系的 )信息进行处理和分析 ,以对事物或现象进行描 述、辨认、分类和解释的过程，是信息科学和人工智能的重要组成 部分。模式识别又常称作模式分类，从处理问题的性质和解决问 题的方法等角度，模式识别分为有监督的分类( Supervised Classification )和无监督的分类 (Unsupervised Classification)
2、 两种。二者的主要差别在于，各实验样本所属的 类别是否预先已知。一般说来，有监督的分类往往需要提供大量 已知类别的样本，但在实际问题中，这是存在一定困难的，因此 研究无监督的分类就变得十分有必要了。其中，特征选择和特征 提取技术更是尤为关键。在许多现实问题中， 如人脸识别、文本分类、图像检索等， 维数约 简是一个不可缺少的步骤。而特征选择和特征提取是两种最常用的维 数约简方法。特征选择是指从原始空间中挑选特征， 得到由原始特征 组成的特征子集， 而特征提取是对特征空间进行变换，将原始特征空 间映射到低维空间中。目前大部分研究都是将特征选择与特征提取独 立开来，本文以特征提取的典型方法主成分分析
3、(Principal Componen t Analysis,PCA)和线性判别分析(Linear Discriminant Analysis,LDA)为主，将特征提取与特征选择结合起来进行研究利用 二者各自的长处去进行维数约简,设计与提出基于主成分分析的特征 选择算法和基于线性判别分析的高维特征选择算法。基于主成分分析 的特征选择算法的思想是建立在这样的基础上:主成分分析方法将原 始特征通过线性变换映射到新的低维特征空间时,获得的主成分失去 了物理意义,难以理解,并且主成分是所有原始特征的线性组合;此外 由于特征选择是直接寻找有实际意义的特征,并且能减少计算开支。 因此本文将主成分分析与特征
4、选择相结合使用一种基于K近邻规则 的新方法,同时设计多种相似性度量准则,通过找到与主成分相关的 关键特征或者删除冗余、不相关以及没有意义的特征将主成分又重新 映射到原始空间,来理解主成分的实际意义,并在标准数据集分类以 及人脸识别上进行了对比实验。基于线性判别分析的高维特征选择将 单个特征的Fisher准则与其他特征选择算法相结合分层消除不相 关特征与冗余特征。不相关特征过滤器按照每个特征的Fisher评价 值进行特征排序,来去除噪音和不相关特征;通过对高维数据特征关 联性的分析,冗余特征过滤器选用冗余度量方法和基于相关性的快速 过滤器(Fas t Correla tion Based Fil
5、 ter)算法。作者分别在四种公 共数据集和包含不同姿势、表情和背景的人脸库上进行了数据分类与 性别分类实验,验证分层过滤模型处理高维数据的性能。模式识别从 20世纪 20年代发展至今，人们的一种普遍看法 是不存在对所有模式识别问题都适用的单一模型和解决识别问题 的单一技术，我们现在拥有的只是一个工具袋，所要做的是结合 具体问题把统计的和句法的识别结合起来，把统计模式识别或句 法模式识别与人工智能中的启发式搜索结合起来，把统计模式识 别或句法模式识别与支持向量机的机器学习结合起来，把人工神_ 经元网络与各种已有技术以及人工智能中的专家系统、不确定推 理方法结合起来，深入掌握各种工具的效能和应有的可能性，互 相取长补短，开创模式识别应用的新局面。对于识别二维模式的能力， 存在各种理论解释。模板说认为 我们所知的每一个模式，在长时记忆中都有一个相应的模板或微 缩副本。模式识别就是与视觉刺激最合适的模板进行匹配。特征 说认为，视觉刺激由各种特征组成，模式识别是比较呈现刺激的 特征和储存在长时记忆中的模式特征。特征说解释了模式识别中 的一些自下而上过程，但它不强调基于环境的信息和期待的自上 而下加工。基于结构描述的理论可能比模板说或特征说更为合适。
