《基于稀疏图的半监督学习方法研究（学位论文-工学）》由会员分享，可在线阅读，更多相关《基于稀疏图的半监督学习方法研究（学位论文-工学）（75页珍藏版）》请在金锄头文库上搜索。
1、TP751 公开代 号 10701 学 号 1011420755分类号 密 级题 ( 中、英文 ) 目 基于稀疏图的半监督学习方法研究Sparse Graph Based Semi-supervisedLearning Methods作 者 姓 名 王秀秀 指导教师姓名、 职 务 杨淑媛 教授学 科 门 类 工 学 学 科 、 专 业 电路与系统提 交 论 文 日 期 二一三年三月创 新 性 声 明本 人 声 明 所 呈 交 的 论 文 是 我 个 人 在 导 师 指 导 下 进 行 的 研 究 工 作 及 取 得 的 研 究成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中
2、不包含其它人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的 任 何 贡 献 均 已 在 论 文 中 做 了 明 确 的 说 明 并 表 示 了 谢 意 。申 请 学 位 论 文 与 资 料 若 有 不 实 之 处 ， 本 人 承 担 一 切 相 关 责 任 。本人签名： 日期关于论文使用授权的说明本 人 完 全 了 解 西 安 电 子 科 技 大 学 有 关 保 留 和 使 用 学 位 论 文 的 规 定 ， 即 ： 研 究生 在 校 攻 读 学 位 期 间 论 文 工 作 的 知 识 产 权 单 位 属 西
3、 安 电 子 科 技 大 学 。 本 人 保 证 毕业 离 校 后 ， 发 表 论 文 或 使 用 论 文 (与 学 位 论 文 相 关 )工 作 成 果 时 署 名 单 位 仍 然 为 西安 电 子 科 技 大 学 。 学 校 有 权 保 留 送 交 论 文 的 复 印 件 ， 允 许 查 阅 和 借 阅 论 文 ； 学 校可 以 公 布 论 文 的 全 部 或 部 分 内 容 ， 可 以 允 许 采 用 影 印 、 缩 印 或 其 它 复 制 手 段 保 存论 文 。(保 密 的 论 文 在 解 密 后 遵 守 此 规 定 )本人授权西安电子科技大学图书馆保存学位论文，本学位论文属于公开(
4、保密级别)，并同意将论文在互联网上发布。本人签名： 日期导师签名： 日期摘 要 I摘 要随 着 计 算 机 存 储 、 运 算 技 术 的 飞 速 发 展 以 及 人 类 收 集 和 存 储 数 据 能 力 的 不 断增 强 ， 机 器 学 习 已 经 成 为 计 算 机 科 学 技 术 中 最 受 关 注 的 领 域 之 一 。 有 监 督 学 习 (例如 分 类 、 回 归 )、 无 监 督 学 习 (例 如 聚 类 )等 是 机 器 学 习 领 域 常 用 的 两 种 方 法 。 然 而训练样本数目很少时有监督学习难以准确学习出样本的真实分布，不需要训练样本的无监督学习对于空间分布较复杂
5、的数据难以得到好的学习效果。因此，结合两种传统学习方法 的半监督学习利用大量未标记样本辅助有限的有标记样本提高了 学 习 的 准 确 性 。基 于 图 的 半 监 督 学 习 是 半 监 督 学 习 中 的 一 个 研 究 热 点 。 近 年 来 ， 稀 疏 表 示 开始应用于半监督图的构造中，它将连接关系的确立和连接权值的计算一步确立，得到了很多学者的关注。低秩表示是最新提出的能够挖掘数据结构特性的联合稀疏表示模型。 本文将低秩表示引入到图矩阵的构造中，提出了几种基于图的半监督学习算法，具体研究内容如下：(1) 提出了一种基于核低秩表示图( KLRG)的半监督学习算法。在该算法中，先通过核函
6、数将样本集合映射至特征空间，再对映射后的样 本集进行低秩表示得到低秩编码系数矩阵，从而构造图进行半监督分类。由于核映射加强了数据的可分性，低秩表示给解进行了全局的约束，核低秩表示能够自然的反映出数据的全局结构性，从缺损数据中实现更加鲁棒的子空间分割。在 UCI 数据集、人脸数据库 等 和 其 他 一 些 Benchmark 数据集上进行仿真实验，实验结果表明：该算法与同类 算 法 相 比 ， 分 类 正 确 率 有 所 提 高 。(2) 提出一种基于 KLRG 和成对约束的半监督学习算法。在谱聚类中已证明加入成对约束有较好的性能，本文根据少量标记信息和距离信息构造成对约束矩阵，将其和核低秩表示
7、矩阵进行点 积，构 造新的图进行划分。在常用的标准人脸数据库和手写体数字数据库上进行的仿真实验验证了该算法的有效性，并用于纹理 图 像 的 分 割 。(3) 提 出 了 一 种 基 于 KLRG 和 空 间 约 束 的 高 光 谱 地 物 分 类 算 法 。 在 KLRG 方法的基础上， 对高光谱图像的类标进行光滑性假设，通过空间约束的思想，构造空 间 约 束 图 ， 将 空 间 位 置 的 信 息 加 入 到 KLRG 图 中 。 由 于 获 得 的 图 矩 阵 增 强 了 标记 的 平 滑 性 ， 减 少 了 奇 异 点 的 出 现 ， 因 此 在 后 续 分 类 中 可 获 得 更 高
8、的 分 类 正 确 率 。在高光谱数据上进行实验仿真，结果显示：与同类算法相比，分类正确率有所提高 。本 文 的 工 作 得 到 了 973 国 家 重 点 基 础 研 究 发 展 计 划 (2013CB329402,NCET-10-0668)， 国 家 自 然 科 学 基 金 (61072108， 60971112， 61173090)， 教 育 部 博II 摘要士点基金( 20120203110005)，武器装备预研基金项目 (9140A24070412DZ0101)， 高等 学 校 学 科 创 新 引 智 计 划 (111 计 划 )： No. B0704 的 资 助 。关键词： 核低秩
9、表示 半监督学习 成对约束 空间约束Abstract IIIAbstractWith the rapid development of computer storage, operation technology and theincreasing ability of collecting and store data, machine learning has been developed asone of the hottest fields in computer science. Supervised learning (such asclassification, regressi
10、on) and unsupervised learning (such as clustering) are twocommonly used methods in machine learning. However, supervised learning can notlearn the accurate distribution when there are a limited number of training samples.Although unsupervised learning does not need training samples, it can not achie
11、vegood result when the distribution of data is complex. Therefore, by combining the twotraditional learning methods, semi-supervised learning can improve the performance oflearning machines with the help of a large number of unlabeled samples.Graph based semi-supervised learning is one of the hottes
12、t research fields. Inrecent years, sparse representation has been applied for constructing sparse graphs in thegraph based clustering. Sparse graphs can reveal the connections of samples by takingthe sparse coefficients as the adjacent weights. This paper introduces the low-rankrepresentation (LRR)
13、into graph matrix, and constructs several LRR based graphs forpattern recognition. Their performance is tested in some benchmark datasets and realdata. The contents mainly include the following aspects:(1) A new kernel low-rank representation graph (KLRG) based semi-supervisedlearning is proposed. T
14、his method firstly projects all the samples into the feature spaceby the kernel function, and then calculates the low-rank coefficient matrix of theprojected samples. Finally, a graph is calculated from the low-rank coefficient matrixfor classification. Because of the mapping by the kernel function,
15、 our algorithm canenhance the separability of data, so improving the classification accuracy. Someexperiments are taken on some facial image datasets and handwritten digit datasets totest the performance of the method.(2) A semi-supervised classification methodKLRG and pairwise constraints basedsemi
16、-supervised classification is proposed. Spectral clustering via join PairwiseConstraints (PC) has proved to present better performance than the original algorithm.In this paper we construct a PC matrix from a few labeled samples to refine the kernellow-rank matrix. Some experiments on several facial image datasets and handwrittendigit datasets show that the proposed method c
