《流形学习与半监督学习在特征抽取中的应用研究》由会员分享，可在线阅读，更多相关《流形学习与半监督学习在特征抽取中的应用研究（94页珍藏版）》请在金锄头文库上搜索。
1、流形学习与半监督学习在特征抽取中的应用研究 ( 申请扬州I 大学理学硕士学位论文) 更骏 培养单位：扬州大学 专业名称：计算机软件与理论 研究方向：信息安全 指导教师：陈才扣副教授 2 0 11 4 M a n i f o l dL e a r n i n ga n d S e m i - s u p e r v i s e d L e a r n i n g w i t hA p p l i c a t i o n st oF e a t u r eE x t r a c t i o n M a s t e ro fS c i e n c e ) S h iJ u n U n d e rt
2、h eg u i d a n c ea n ds u p e r v i s i o no f A s s o c i a t eP r o f e s s o rC h e nC a i k o u 砀卵sS u b m i t t e dt o Y a n g z h o uU n i v e r s i t y Y a n g z h o uU n i v e r s i t y , Y a n g z h o u ，P R C h i n a , A p r i l ，2 0 1 1 本文研究工作得到了以下基金资助 1 国家自然科学基金( 6 0 8 7 5 0 0 4 ) “半监督鉴
3、别特征抽取及人脸识别应用研究 2 江苏省自然科学基金( B K 2 0 0 9 1 8 4 ) “模式数据结构分析及半监督流形学习研究 3 江苏省高校自然科学基金项目( 0 7 K J B 5 2 0 13 3 ) “基于数据结构分析的分类器集成及应用研究” 目录 中文摘要I 英文摘要 第一章绪论1 1 1 人脸识别背景知识概述1 1 1 1 人脸识别技术发展历程1 1 1 2 人脸识别技术的主要内容2 1 1 3 人脸识别技术的难点3 1 2 线性特征抽取方法3 1 2 1 主成分分析3 1 2 2F i s h e r 线 生鉴别分析4 1 3 非线性特征抽取方法4 1 3 1 核方法5
4、1 3 2 流形学习5 1 4 半监督学习6 1 5 本文主要工作一8 1 6 本文主要内容l o 第二章核监督鉴别投影分析1 2 2 1 引言1 2 2 2F i s h e r 线性鉴别分析。13 2 3 无监督鉴别投影1 3 2 4 核监督鉴别投影分析1 4 2 4 1 算法思想1 4 2 4 2 算法流程1 7 2 5 实验结果与分析1 7 2 6 本章小结2 0 第三章基于局部均值的无监督鉴别分析2 1 3 1 引。言。2 1 3 2 基于局部和非局部均值的无监督鉴别分析2 l 3 2 1 算法思想2 1 3 2 2 算法流程2 3 3 2 3 实验结果与分析2 3 3 3 基于局部
5、均值的广义散度差无监督鉴别分析2 6 3 3 1 算法思想2 6 3 3 2 算法流程2 8 3 3 3 实验结果与分析k 2 8 3 4 本章小结3 1 第四章基于马氏距离的半监督鉴别分析3 3 4 1 引言。3 3 4 2 边界F i s h e r 分析3 4 4 3 基于马氏距离的半监督鉴别分析3 5 4 3 1 算法思想3 5 4 3 2 算法流程。3 7 4 4 实验结果与分析3 7 4 4 1 买验一3 7 4 4 2 实验二3 8 4 4 3 实验三3 9 4 5 本章小结4 0 第五章局部相关性的半监督鉴别分析4 1 5 1 引言4 l 5 2 相关嵌入分析4 l 5 3 局
6、部相关性的半监督鉴别分析4 2 5 3 1 算法思想：4 2 5 3 2 算法流程4 5 5 4 实验结果与分析4 6 5 4 1 买验一4 6 5 4 2 实验二4 7 5 4 3 买验三4 8 5 5 本章小结4 9 第六章人脸识别原型系统5 0 6 1 项目背景5 0 6 2 需求分析5 0 6 3 详细设计与系统功能5 l 6 3 1 视频处理5 2 6 3 2 图像处理5 4 6 3 3 人脸识别6 l 6 3 4 实验分析6 4 6 4 本章小结6 5 第七章总结与展望6 7 7 1 本文总结6 7 7 2 展望_ 。6 8 参考文献7 0 致j 射7 5 攻读硕士学位期间发表学术
7、论文情况7 6 摘要( A b s t r a c t ) 摘要 人脸识别已成为机器学习、模式识别和机器视觉等研究领域的热点问题，在商 业、公安系统等领域中更有着广泛的应用。特征抽取一直是人脸识别研究的一个基 本问题，如何从高维数据中找到一个有意义的更低维表示是特征抽取的关键所在。 近年来的研究表明，旨在保留原始数据中的内在局部邻域信息的流形学习方法适于 处理人脸这类非线性结构数据，同时一些利用大量无类别标签样本和少量有类别标 签样本来提升学习性能的半监督学习引起了广泛关注。但是这些算法在实际应用中 仍然存在诸多不足。本文在深入研究流形学习和半监督学习的基础上提出了一些改 进算法，并在一些通用
8、人脸图像数据库中验证了算法的有效性，同时设计并实现了 人脸识别原型系统，将现有的图像处理算法即经典的人脸识别算法应用于实际中。 本文主要工作包括以下五个方面： 1 、核监督鉴别投影分析( K e r n e lS u p e r v i s e dD i s c r i m i n a n tP r o j e c t i o nA n a l y s i s ) 核方法( K e r n e lM e t h o d ) 通过非线性映射使得原始空间中非线性可分的数据在 特征空间中尽可能地线性可分，然而它没有完全考虑数据集的局部性质同时其所带 来的计算复杂性仍然是一个问题。无监督鉴别投影( U
9、 n s u p e r v i s e dD i s c r i m i n a n t P r o j e c t i o n ，U D P ) 这一流形学习算法有效地利用了数据集的局部和非局部性质，但 是本质上没有利用样本数据的类别信息。为了解决核方法和无监督鉴别投影( U D P ) 存在的问题，提出了一种核监督鉴别投影分析方法。该方法首先将训练样本通过一 个核函数非线性映射到高维特征空间，在该特征空间中考虑了数据的局部和非局部 性质以及类别信息。因此，该方法不仅保留了数据的局部邻域信息，而且能够抽取 更有利于分类的非线性鉴别特征。在Y a l e 人脸数据库上的实验验证了该算法的有效
10、 性。 2 、基于局部和非局部均值的无监督鉴别分析( U n s u p e r v i s e dD i s c f i r n i n a n t A n a l y s i sB a s e do nt h eL o c a la n dN o n - l o c a lM e a n ) 考虑到无监督鉴别投影( U D P ) 很容易受到离群点的影响，同时无监督鉴别投 影( 切) P ) 的计算时间较长。提出了一种基于局部和非局部均值的无监督鉴别分析 特征抽取方法，该方法利用局部和非局部均值来构造局部和非局部散度，从而在某 I I 摘要( A b s t r a c t ) 种程度上克
11、服了离群点所带来的鉴别困难。此外，与无监督鉴别投影相比，该方法 的计算时间也有提高。在Y a l e 、O R L 和A R 人脸数据库上的实验验证了算法的有效 性。 3 、基于局部均值的广义散度差无监督鉴别分析( L o c a lM e a nB a s e dG e n e r a l i z e d S c a t t e rD i f f e r e n c eU n s u p e r v i s e dD i s c r i m i n a n tA n a l y s i s ) 无监督鉴别投影( U D P ) 考虑了数据集的局部和非局部特征，但是在人脸识别 应用中不可避免地会出现“高维小样本问题”。由于最大散度差鉴别准则是对F i s h e r 鉴别准则的改进，从理论上消除了“高维小样本问题”。因此提出了一种基于局部均 值的广义
