《最小二乘法的原理及在建模中的应用分析.doc》由会员分享，可在线阅读，更多相关《最小二乘法的原理及在建模中的应用分析.doc（38页珍藏版）》请在金锄头文库上搜索。
1、学校代码： 10128学 号： 本科毕业论文(题 目：最小二乘法的原理及在建模中的应用分析学生姓名： 学 院： 系 别： 专 业： 班 级：指导教师： 副教授 二 一 年 六 月比较文学是一种以寻求人类文学共通规律和民族特色为宗旨的文学研究。它是以世界文学的眼光，运用比较的方法，对各种文学关系进行的跨文化的研究。一个国家或民族的文学思潮、文学运动队另一个国家或民族文学发展的影响,不同国家具体作家的相互影响内蒙古工业大学本科毕业论文摘 要最小二乘法是一种最基本、最重要的计算技巧与方法.它在建模中有着广泛的应用,用这一理论解决讨论问题具有简明、清晰的特点,特别在大量数据分析的研究中具有十分重要的作
2、用和地位.随着最小二乘法理论不断的完善,其基本理论与应用已经成为一个不容忽视的研究课题.本文共分三部分.绪论主要介绍最小二乘法的起源、基本概念以及本文的主要工作;第一章阐述了最佳平方逼近和曲线拟合的算法,并做出二者的流程图,接着对曲线拟合的线性和非线性模型给出求解方法,最后总结出常用的模型函数以及线性化方法;第二章首先通过解决实际算例,阐述如何克服病态方程,然后通过预测研究生招生人数,阐明它在建模中的作用,并作简单的分析,最后做出了总结.关键词:最小二乘法;最佳平方逼近;曲线拟合;病态方程; MatlabAbstractLeast-square method is one of the mos
3、t fundamental and most important calculation methods and skills in modeling. It is widely used in solving this theory, discuss the problem with concise, clear characteristics, especially in the research of data analysis plays a very important role and status. With the least square theory constantly,
4、 perfect the basic theory and application has become a serious research topic.The paper has three parts are mainly introduced. Introduction to the origin of least squares, basic concepts and the main job, The first chapter describes best square approximation and the curve fitting, the algorithm and
5、the flowchart, then both of the curve fitting is linear and nonlinear model of solving method, and finally summarizes common model function and linearization method, The second chapter first through solving practical examples, this paper discusses how to overcome the pathological equation, and then
6、through the prediction of graduate student recruit students number, expounds its role in modeling and simple analysis, finally made a summary.Keywords: Least-square method; The best square approximation;The curve fitting; Psychopathic equation; Matlab目 录绪 论1第一章 最小二乘法概述31.1 预备知识31.2 最佳平方逼近问题41.3 曲线拟合
7、问题61.4 曲线拟合的模型分类81.4.1 线性模型81.4.2 非线性模型111.5 总结13第二章 最小二乘法在建模中的应用162.1 应用举例162.2 病态方程182.3 建模分析202.4 总结24参考文献25附录A 最佳平方逼近流程图26附录B 曲线拟合流程图27附录C 部分Matlab程序28谢 辞33绪 论在科学研究中,为了揭示某些相关量之间的关系,找出其规律,往往需要做数据拟合,其常用方法一般有传统的插值法、最佳一致逼近多项式、最佳平方逼近、最小二乘拟合、三角函数逼近、帕德（Pade）逼近等,以及现代的神经网络逼近、模糊逼近、支持向量机函数逼近、小波理论等.其中,最小二乘法
8、是一种最基本、最重要的计算技巧与方法. 它在建模中有着广泛的应用,用这一理论解决讨论问题简明、清晰,特别在大量数据分析的研究中具有十分重要的作用和地位.随着最小二乘理论不断的完善,其基本理论与应用已经成为一个不容忽视的研究课题.1.最小二乘法的起源与基本概念1805年勒让德(Legendre)发表的论著计算彗星轨道的新方法附录中,最早提到最小二乘法,Legendre之所以能做出这个发现,是因为他没有因袭前人的方法要设法构造出个方程去求解,他认识到关键不在于使某一方程严格符合,而在于要使误差以一种平衡的方式分配到各个方程,具体地说,他寻求这样的值,使得达到最小.1809年,高斯(Gauss)发表
9、论著天体运动理论,对其误差进行了研究,再该书末尾,他写了一节有关“数据结合”的问题,以及其简单的手法导出误差分布-正态分布,并用最小二乘法加以验证.关于最小二乘法,Gauss宣称自1795年以来他一直使用这个原理.这立刻引起了Legendre的强烈反击,他提醒说科学发现的优先权只能以出版物确定,并严斥Gauss剽窃了他人的发明.他们间的争执延续了多年.因而,这俩位数学家之间关于优先权的争论仅次于牛顿(Newton)和莱布尼兹(Leibniz)之间关于微积分发明的争论.现在一般认为,二人各自独立的发明了最小二乘法.尽管早在10年前,Gauss就使用这个原理,但第一个用文字形式发表的是Legend
10、re.最小二乘法在19世纪初发明后,很快得到欧洲一些国家的天文学家和测地学家的广泛关注.同时,误差的分布是“正态”的,也立刻得到天文学家的关注.正态分布作为一种统计模型,在19世纪极为流行,一些学者甚至把19世纪的数理统计学称为正态分布的统治时代.综上可知,Legendre和Gauss发现最小二乘法是从不同的角度人手的:一个是为解线性方程组,一个是寻找误差函数;一个用的是整体思维,考虑方程组的均衡性,一个用的是逆向思维,首先接受经验事实,一个是纯代数方法,一个致力于应用.相比而言,高斯不愧为数学王子,他把最小二乘法推进得更远、更深刻,这极大地推进了数理统计学的发展.发展至今,其已在各个方面有了
11、应用.其基本原理如下.基本原理:在自然科学和工程实践中,经常会遇到寻求经验公式问题.由实验或观测得到一组数据,而各是不同的,且设,通过这些数据,我们求一曲线,在函数空间中寻找一个逼近函数由于观测有误差,因此并不为零.但要求这就是曲线拟合的最小二乘问题.2.选题背景与本文的主要工作在科学研究中,为了揭示某些相关量之间的关系,找出其规律,往往需要求解其函数解析式.一种方法是采用插值逼近法,即所构造的近似函数在已知节点上必须满足要求逼近函数与被逼近函数在各已知点处的误差为零,即要求的曲线必须通过所有的点,常用的插值法有拉格朗日(Lagrange)插值,牛顿(Newton)插值,埃尔米特(Hermit
12、e)插值等.另一方面,由于观测数据较多,一般不用插值法,而是用拟合的方法.即只要找到一条曲线,即能反映给定数据的一般趋势,又不出现局部较大的波动即可,只要与的偏差满足某种要求就行了.这种数据间的非确定关系需要统计方法来描述,最常用的方法就是数据拟合.数据拟合就是找一种函数的解析表达式或近似表达式来描述这组数据间的函数关系,通常用到最小二乘法.数据拟合的最小二乘法通过最小化误差的平方和,寻找数据的最佳函数.利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小.本文就是在这样的背景下,第一章主要介绍了最小二乘法的原理,对最佳平方逼近和曲线拟合给出求解方法,总
13、结了非线性模型下最小二乘法的求法.第二章主要讲述其在实际中的应用,以及如何克服法方程病态的方法.最后通过实例阐述其在建模中的作用.第一章 最小二乘法概述最小二乘法通过最小化误差的平方和来寻找数据的最佳函数匹配.利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小.在下面的章节中我们主要分析最小二乘法的原理,分别对最佳平方逼近和曲线拟合做了简单概述,重点对曲线拟合的非线性模型给出总结.1.1 预备知识定义1.1 设在区间上非负函数,满足条件:1)存在;2)对非负的连续函数,若则在上就称为区间上的权函数.定义1.2 设上的权函数,积分称为函数与在 上的内积.
14、定义1.3 内积若满足下列四条公理:1)2),为常数3)4),当且仅当时则连续函数空间上就形成一个内积空间.若,则其内积定义为定义1.4 设为非奇异矩阵,称为矩阵的条件数,其中为中的某种矩阵范数.则对方程组(1)如果条件数很大,则称为病态方程组(或为病态).(2)当相对较小时,称为良态方程组(或是良态的).定义1.5 设在给定函数系,若满足条件则称函数系是上带权为的正交函数系.定义1.6 对于给定的函数,若次多项式满足关系 (1-1)其中为所有不超过次的多项式,则称为在区间上的次最佳平方逼近多项式.定义1.7 对于给定函数,如果存在使 (1-2)则称是在空间中的最佳平方逼近函数.1.2 最佳平
15、方逼近问题最佳平方逼近问题就是对于给定的一个函数,用另一个函数去逼近它.如图1.1所示图1.1 最佳平方逼近图由公式(1-1)和公式(1-2)要求在给定的函数类中中找到一个函数 使满足函数类一般可取比较低次的多项式集合或其他较简单的函数类.其中,是上给定的权函数,它表示不同的点地位的强弱,它的地位越重要,从而权也越大.其求解步骤概括如下:Step1 做出函数图形并寻找规律Step2 设定数学模型,给出函数空间Step3 利用最佳平方逼近原理求出,满足表示为是权函数,具体的求出,相当于求解法方程Step4 求出误差Step5 分析并找出模型的优缺点,求误差,若误差大,则应重新建立函数空间,最佳平方逼近流程图见附录A.1.3 曲线拟合问题曲线拟合就是对于给定的一组数据,如图1.2所示.图1.2 曲线拟合图要求在给定的函数类中找到一
