《基于MATLAB的SVR回归模型的设计与实现.doc》由会员分享，可在线阅读，更多相关《基于MATLAB的SVR回归模型的设计与实现.doc（44页珍藏版）》请在金锄头文库上搜索。
1、基于MATLAB的SVR回归模型的设计与实现The Design and Implementation of SVR Regression Model Based on MATLAB学生姓名：王新蕾学生学号：10780232专业名称：电子信息科学与技术指导教师：张艳（讲师）计算机与信息工程学院2023年6月10日独创性声明本人声明所呈交的毕业论文是本人在指导教师指导下进行的研究工作和取得的研究成果，除了文中特别加以引用标注之处外，论文中不包含其别人已经发表或撰写过的研究成果，没有伪造数据的行为。毕业论文作者署名： 签字日期： 毕业论文版权使用授权书本毕业论文作者完全了解学校有关保存、使用论文的
2、规定。批准学校保存并向有关管理部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权天津城建大学可以将本论文的所有或部分内容编入有关数据进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本论文。（保密的毕业论文在解密后合用本授权说明）毕业论文作者署名： 指导教师署名：签字日期： 签字日期： 摘 要 支持向量机是根据记录学习理论提出的一种新的学习方法，近年来受到了国内外学术界的广泛重视，并已在模式辨认和函数估计中得到广泛应用。支持向量机理论的最大特点是由有限的训练集样本得到的小的误差保证对独立的测试集仍保持小的误差。从而通过支持向量机(SVM)理论,可以建立支持向量回归(SVR)
3、预测模型，以解决各种实际问题。SVR算法是模式辨认中应用比较广泛的算法模型之一，它是支持向量机在函数逼近和回归估计中的应用。在SVR回归分析中，使用支持向量机可以使回归函数尽量平滑，其泛化能力强。本文论述了支持向量回归的基本原理和思想，介绍了支持向量回归算法以及所用到的几种常见的核函数（即线性内核、多项式内核、径向基函数内核、高斯内核）。本设计重要实现的功能有：数据集的创建、内核函数的选取、参数的设立、训练集的回归、数据集的保存与打开。通过不同核函数的选取以及相应参数的设立对输入数据集进行回归。此模型重要解决非线性回归模型的预测。通过实验改变各个参数的不同取值对训练集进行回归，并分别记录出支持
4、向量的个数，回归性能，程序运营时间。最后对回归的结果进行分析，得出各参数对回归性能的影响。关键词：支持向量回归; 训练算法; 核函数; 线性判别ABSTRACTSupport vector machine (SVM) is a new method of study based on statistical learning theory which has attracted extensive attentions by academic circles both at home and abroad in recent years. It has been widely used in
5、pattern recognition and function estimation. The biggest characteristic of support vector machine (SVM) theory is that a small error limited by the training set of sample can ensure the independent test sets small error. Thus a support vector regression (SVR) forecasting model can be built by suppor
6、t vector machine (SVM) theory and it can solve various practical problems.SVR algorithm model is one of pattern recognition algorithm, which is more widely used in approximation of function and the application of the regression estimate. In the SVR regression analysis, using support vector machine (
7、SVM) can smooth regression function as far as possible. Its generalization ability is strong.This paper discusses the basic principle of support vector regression and introduces support vector regression algorithm and several common kernel functions (the linear kernel, polynomial kernel and radial b
8、asis function (RBF) kernel, the Gaussian kernel etc.). This essay successfully makes these functions work: the creation of data sets, the selection of kernel function, parameter settings, return of the training set, the preservation and open of the data set. We accomplish the return of input of data
9、 set through the selection of different kernel functions and the setting of corresponding parameter. This model is mainly to solve the nonlinear regression model prediction. Then, the same issue is done through the experiment to change the values of different parameters, and the statistics, the numb
10、er of support vector regression， performance of program running time are accounted. Finally, we have analysis the results of regression and gained the influence of various parameters on the return performance.Key words: Support Vector Regression; Training Algorithms; Kernel Function; Linear Discrimi
11、nation Analysis目 录第1章 绪论11.1 课题研究背景11.2 国内外研究现状11.3 课题研究目的21.4 课题研究使用的开发工具31.5论文组织结构3第2章 支持向量机回归原理52.1 支持向量机52.2 支持向量回归52.2.1 回归初步形式52.2.2 线性支持向量回归62.2.3 非线性支持向量回归62.3支持向量回归核函数72.4 支持向量回归算法82.4.1 支持向量回归的算法的基础82.4.2 回归算法102.4.3 关于算法的几点说明11第3章 基于Matlab实现SVR的总体设计133.1 总体设计思想133.2 功能模块的划分及相关流程图133.2.1 重
12、要功能模块的划分133.2.2 实现程序的重要框架图133.2.3 支持向量回归模型的流程图14第4章 基于支持向量回归模型的实现164.1模型的功能描述164.2 运营结果174.2.1 主界面174.2.2 功能描述界面174.2.3运营过程及结果184.2.4 命令窗口的显示结果244. 3系统的性能分析及结论24第5章 总结27致 谢28参考文献29第1章 绪论支持向量机(SVM)是在记录学习理论基础上提出的一种新的学习方法。支持向量机（ SVM ）是一种比较好的实现了结构风险最小化思想的方法。它的优点是理论完备、训练时间短、全局优化强、适应性好、泛化性能好等。SVM已经成为目前国内外
13、研究的热点。本课题研究的SVR是支持向量机在函数回归中的应用。1.1 课题研究背景基于支持向量的学习是现代智能技术中的重要方面，研究从观测数据（样本）出发寻找规律，运用这些规律对未来数据或无法观测的数据进行预测.涉及模式辨认、神经网络等在内，现有支持向量机器学习方法共同的重要理论基础之一是记录学.传统记录学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基于此假设.但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学习方法实际中表现却也许不尽人意。与传统记录学相比，记录学习理论（Statistical Learning Theory或SLT）是一种专门研究小样本情况下机器学习
14、规律的理论.V. Vapnik等人从六、七十年代开始致力于此方面研究，到九十年代中期，随着其理论的不断发展和成熟，也由于神经网络等学习方法在理论上缺少实质性进展，记录学习理论开始受到越来越广泛的重视。记录学习理论是建立在一套较坚实的理论基础之上的，为解决有限样本学习问题提供了一个统一的框架.它能将很多现有方法纳入其中，有望帮助解决许多本来难以解决的问题（比如神经网络结构选择问题、局部极小点问题等）；同时，在这一理论基础上发展了一种新的通用学习方法支持向量机（Support Vector Machine或SVM），它已初步表现出很多优于已有方法的性能。通过结果风险最小化准则和核函数方法，较好地解
15、决了模式分类器复杂性核推广性之间的矛盾，引起了模式辨认领域学者的极大关注。从此迅速的发展起来，现在已经在许多领域（生物信息学，文本分类、手写体辨认、人脸检测等） 都取得了成功的应用，并且在研究过程中，取得了与传统方法可比或更好的结果，还丰富了自身的内容（如快速训练算法等），从而更加推动了它在其他模式辨认领域的应用。由于其杰出的学习性能，该技术已成为当前国际机器学习界的研究热点，在模式辨认、回归估计、函数逼近等领域有了广泛的应用。本课题就是研究它在回归估计中的应用。1.2 国内外研究现状支持向量机一经提出，就得到国内外学者的高度关注。虽然支持向量机发展时间很短，但是由于它的产生是基于记录学习理论的，因此具有坚实的理论基础。近几年涌现出的大量令人瞩目的理论研究成果，更为其应用研究奠定了坚实基础。如Anthony et al.(1999）等人给出了关于硬邻域支持向量机学习误差的严格理论界线，Shawe-Taylor（2023）和Cristianini （2023）也给出了类似的关于软邻域支持向量机和回归情况下的误
