数据拟合方法研究

数据拟合方法研究

中文摘要

在我们实际的实验和勘探中，都会产生大量的数据。为了解释这些数据或者根据这些数据做出预测、判断，给决策者提供重要的依据。需要对测量数据进行拟合，寻找一个反映数据变化规律的函数。

本文介绍了几种常用的数据拟合方法，线性拟合、二次函数拟合、数据的n次多项式拟合等。并着重对曲线拟合进行了研究，介绍了线性与非线性模型的曲线拟合方法，最小二乘法、牛顿迭代法等。在传统的曲线拟合基础上，为了提高曲线拟合精度，本文还研究了多项式的摆动问题，从实践的角度分析了产生这些摆动及偏差的因素和特点，总结了在实践中减小这些偏差的处理方法。采用最小二乘法使变量转换后所得新变量离均差平方和最小，并不一定能使原响应变量的离均差平方和最小，所以其模型的拟合精度仍有提高的空间。本文以残数法与最小二乘法相结合，采用非线性最小二乘法来得到拟合效果更好的曲线模型。随着计算机技术的发展，实验数据处理越来越方便。但也提出了新的课题，就是在选择数据处理方法时应该比以往更为慎重。因为稍有不慎，就会非常方便地根据正确的实验数据得出不确切的乃至错误的结论。所以提高拟合的准确度是非常有必要的

关键词：数据拟合、最小二乘法、曲线拟合、多项式摆动、残数法

Data Fitting Method

Abstract

In our experiments and exploration, it will produce large amounts of data. In order to explain these data to make predictions based on these data to determine, provide an important basis for policy makers .Need to fit the measured data to find a function to reflect data changes in the law.This article describes several commonly used data fitting methods, and focused on a nonlinear curve fitting of the model.

This paper introduces some commonly used data fitting method, linear fitting, secondary function fitting, data n times polynomial fitting etc. T And focuses on the curve fitting, introduced the linear and nonlinear model of curve fitting method, the least square method, Newton iterative method, etc. In the traditional curve fitting basis, in order to improve the curve fitting precision, this paper also studies the polynomial swing, from the perspective of the practice the oscillation and deviation of factors and characteristics, and summarizes the decrease in practice the treatment method of these deviations. The least square method to variable after converting from new variables are the sum of squared residuals minimum, not necessarily make the original response from all the variables of the sum of squared residuals minimum, so the model fitting precision still has room to improve.Based on the number of residual method and least square method, and the combination of nonlinear least square method to get better fitting effect of curve model.With the development of computer technology, the experiment

data processing more and more convenient. But also put forward the new subject, which is in the data processing method of choice should be more careful than ever before.Because carelessly a bit, it can be very easily according to the correct experimental data that not the exact and even the wrong conclusion. Therefore, to raise the fitting accuracy is very necessary

Key words：Data Fitting ; Least square method; Curve fitting; Polynomial swing; Residual method

目录

中文摘要..........................I Abstract .........................II 第一章绪论 (1)

1．1数据简介 (1)

1.1.1名词解释 (1)

1.1.2数据属性 (1)

1.2 曲线拟合简介 (2)

第二章数据拟合方法分类 (3)

2.1 线性拟合 (4)

2.2 二次函数拟合 (6)

2.3 数据的n次多项式拟合 (8)

2.4 点集{x

1，x

2

，……，x

m

}上的正交多项式系 (9)

2.5 用正交多项式系组成拟合函数的多项式拟合 (10)

2.6 指数函数的数据拟合 (11)

2.7 多元线性函数的数据拟合 (12)

第三章曲线拟合特性 (14)

3.1 线性模型的曲线拟合 (14)

3.1.1 最小二乘法及其计算 (14)

3.1.2 用正交多项式作最小二乘拟合 (20)

3.2 非线性模型的曲线拟合 (23)

3.2.1 牛顿迭代 (23)

3.2.2 常见非线性模型 (24)

第四章多项式的摆动 (29)

4.1 多项式摆动介绍 (29)

4.2 影响多项式拟合偏差的因素 (32)

4.2.1 实验数据的不均匀性 (32)

4.2.2 数据的密度 (33)

4.2.3 拟合曲线的适用区间 (33)

4.3 使用多项式拟合的注意事项 (33)

4.3.1尽量避免高阶多项式的拟合 (33)

4.3.2保持密度 (34)

4.3.3在实验数据走向比较明确的前提下，可以考虑其他的非线性拟

合方法 (34)

第五章残数法与最小二乘法结合 (36)

5.1 二项指数曲线原理与方法 (36)

5.2 资料与分析 (39)

5.3 残数法与最小二乘法结合总结 (42)

第六章总结 (44)

结束语 (44)

参考文献 (47)

附录1 英文原文 (51)

附录2 中文翻译 (65)

附录3 程序 (78)

第一章绪论

在我们实际的实验和勘探中，都会产生大量的数据。为了解释这些数据或者根据这些数据做出预测、判断，给决策者提供重要的依据。需要对测量数据进行拟合，寻找一个反映数据变化规律的函数。

1．1数据简介

科学实验、检验、统计等所获得的和用于科学研究、技术设计、查证、决策等的数值。

1.1.1名词解释

研究数据就是对数据进行采集、分类、录入、储存、统计分析，统计检验等一系列活动的统称。

1.1.2数据属性

柯岩《奇异的书简·船长》：“贝汉廷分析着各个不同的数据，寻找着规律，终于抓住了矛盾的牛鼻子。”数据是载荷或记录信息的按一定规则排列组合的物理符号。可以是数字、文字、图像，也可以是计算机代码。对信息的接收始于对数据的接收，对信息的获取只能通过对数据背景的解读。数据背景是接收者针对特定数据的信息准备，即当接收者了解物理符号序列的规律，并知道每个符号和符号组合的指向性目标或含义时，便可以获得一组数据所载荷的信息。亦即数据转化为信息，可以用公式“数据+背景=信息”表示。

数据拟合在很多地方都有应用,主要用来处理实验或观测的原始离散数据。通过拟合可以更好的分析和解释数据。

1.2 曲线拟合简介

曲线拟合，俗称拉曲线，是一种把现有数据透过数学方法来代入一条数式的表示方式。科学和工程问题可以通过诸如采样、实验等方法获得若干离散的数据，根据这些数据，我们往往希望得到一个连续的函数（也就是曲线）或者更加密集的离散方程与已知数据相吻合，这过程就叫做拟合。

在科学实验或社会活动中,人们常常需要观测很多数据的规律, 通过实验或者观测得到量x与y的一组数据对（）(i=1,2, …，N),其中是彼此不同的。人们希望用一类与数据本质规律相适应的解析表达

式，来反映量x与y之间的依赖关系，即在一定意义下“最佳”地逼近或拟合已知数据。常称作拟合模型，当c在中线性出现时，称为线性模型，否者称为非线性模型。线性模型是回归模型中最常见的一种，但在实际中，许多现象之间的关系往往并不是线性的，而是呈现某种曲线关系。如服药后血药浓度与时间的关系；病毒剂量与致死率的关系；化学反应的反应物浓度与反应速度的关系。这就产生的曲线拟合，用连续曲线近似地刻画或比拟平面上离散点组所表示的坐标之间的函数关系。用解析表达式逼近离散数据的一种方法。

第二章数据拟合方法分类

在实验中，实验和戡测常常会产生大量的数据。为了解释这些数据或者根据这些数据做出预测、判断，给决策者提供重要的依据。需要对测量数据进行拟合，寻找一个反映数据变化规律的函数。数据拟合方法与数据插值方法不同，它所处理的数据量大而且不能保证每一个数据没有误差，所以要求一个函数严格通过每一个数据点是不合理的。数据拟合方法求拟合函数，插值方法求插值函数。这两类函数最大的不同之处是，对拟合函数不要求它通过所给的数据点，而插值函数则必须通过每一个数据点。例如，在某化学反应中，测得生成物的质量浓度y (10–3 g/cm3)与时间t （min）的关系如表所示

显然，

连续函数关系y(t)

是客观存在的。但是通过

表中的数据不可能确切

地得到这种关系。何况，

由于仪器和环境的影响，

测量数据难免有误差。因

此只能寻求一个近拟表

达式

y = (t)

寻求合理的近拟表达式，以反映数据变化的规律，这种方法就是数据拟合

方法。数据拟合需要解决两个问题：第一，选择什么类型的函数)

(t

作为拟合函数（数学模型）；第二，对于选定的拟合函数，如何确定拟合函数中的参数。

数学模型应建立在合理假设的基础上，假设的合理性首先体现在选择某种类型的拟合函数使之符合数据变化的趋势（总体的变化规律）。拟合函数的选择比较灵活，可以选择线性函数、多项式函数、指数函数、三角函数或其它函数，这应根据数据分布的趋势作出选择。为了问题叙述的方便，将例1的数据表写成一般的形式

2.1 线性拟合

假设拟合函数是线性函数，即拟合函数的图形是一条平面上的直线。而表中的数据点未能精确地落在一条直线上的原因是实验数据的误差。则下一步是确定函数

y= a + b x

中系数a和b各等于多少？从几何背景来考虑，就是要以a和b作为待定系数，确定一条平面直线使得表中数据所对应的10个点尽可能地靠近这条直线。一般来讲，数据点将不会全部落在这条直线上，如果第k个点的数据恰好落在这条直线上，则这个点的坐标满足直线的方程，即

a +

b x

k = y

k

如果这个点不在直线上，则它的坐标不满足直线方程，有一个绝对值为

k k y bx a -+的差异（残差）

。于是全部点处的总误差是 ∑=-+10

1

k k k

y bx

a

这是关于a 和b 的一个二元函数，合理的做法是选取a 和b ，使得这个函数取极小值。但是在实际求解问题时为了操作上的方便，常常是求a 和

b 使得函数

∑=-+=10

12)(),(k k k y bx a b a F

达到极小。为了求该函数的极小值点，令

0=??a F ，0=??b

F ， 得

0)(210

1

=-+∑=k k k

y bx

a ， ∑==-+10

1

0)(2k k k k x y bx a

这是关于未知数a 和b 的线性方程组。它们被称为法方程，又可以写成

???????

=+=+∑∑∑∑∑=====10

11012101

101

10110k k k k k k k k k k k y x b x a x y b x a

求解这个二元线性方程组便得待定系数a和b，从而得线性拟合函数 y = a + b x

2.2 二次函数拟合

假设拟合函数不是线性函数，而是一个二次多项式函数。即拟合函数的图形是一条平面上的抛物线，而表中的数据点未能精确地落在这条抛物线上的原因是实验数据的误差。则下一步是确定函数

y = a

0 + a

1

x + a

2

x 2

中系数a0、a1和a2各等于多少？从几何背景来考虑，就是要以a0、a1和a2为待定系数，确定二次曲线使得表中数据所对应的10个点尽可能地靠近这条曲线。一般来讲，数据点将不会全部落在这条曲线上，如果第k个点的数据恰好落在曲线上，则这个点的坐标满足二次曲线的方程，即

a 0 + a

1

x

k

+ a

2

x

k

2 = y

k

如果这个点不在曲线上，则它的坐标不满足曲线方程，有一个误差（残差）。

于是全部点处的总误差用残差平方和表示

∑=-++=10

122

210210])[(),,(k k k k y x a x a a a a a F

这是关于a 0、a 1和a 2的一个三元函数，合理的做法是选取a 0、a 1和a 2 ，使得这个函数取极小值。为了求该函数的极小值点，令

00=??a F ，01=??a F ，02

=??a F

得

?????????=-++=-++=-++∑∑∑===10

1

2

22101012

2101012

2100])[(20])[(20])[(2k k k k k k k k k k k k k k x y x a x a a x y x a x a a y x a x a a 这是关于待定系数a 0、a 1和a 2的线性方程组，写成等价的形式为

??????

???=++=++=++∑∑∑∑∑∑∑∑∑∑∑===========1012

1012410113101

02

10

110110123

12101

010

1

10122

1101010k k

k k k k k k k k k k k k k k k k k k

k k k k y x a x a x a x y x a x a x a x y a x a x a

这就是法方程，求解这一方程组可得二次拟合函数中的三个待定系数。下

2.3 数据的n 次多项式拟合

已知函数在个离散点处的函数值，假设拟合函数是n 次多项式，则需要用所给数据来确定下面的函数

y = a 0 + a 1 x + a 2 x 2 + …… + a n x n

这里要做一个假设，即多项式的阶数n 应小于题目所给数据的数目m （例题中m = 10）。类似前面的推导，可得数据的n 次多项式拟合中拟合函数的系数应满足的正规方程组如下

???

?

??????

????????????=????????????

????

??

?

?

????????????????????∑∑∑∑∑∑∑∑∑∑∑=====+==+====m k k n k m

k k k m

k k n m

k n k

m

k n k

m

k n k m

k n k m

k k

m k k

m

k n k m

k k y x y x y a a a x x x x x

x

x x m 111

10121

1

1

1

1

12

11

1

从这一方程组可以看出，线性拟合方法和二次拟合方法是多项式拟合的特殊情况。从算法上看，数据最小二乘拟合的多项式方法是解一个超定方程组

??

????

?=++++=++++=++++m n m n m m n

n n n y

x a x a x a a y x a x a x a a y x a x a x a a 2210

2

22222101

1212110( m > n ) 的最小二乘解。而多项式拟合所引出的正规方程组恰好是用超定方程组的系数矩阵的转置矩阵去左乘超定方程组左、右两端所得。正规方程组的系数矩阵是一个病态矩阵，这类方程组被称为病态方程组。当系数矩阵或者是右端向量有微小的误差时，可能引起方程组准确解有很大的误差。为了避免求解这样的线性方程组，在做多项式拟合时可以将多项式中的各次幂函数做正交化变换，使得所推出的正规方程的系数矩阵是对角矩阵。

2.4 点集{x 1，x 2，……，x m }上的正交多项式系

多项式q 0(x )，q 1(x )，q 2(x )，……，q n (x )在点集{x 1，x 2，……，x m }上的

正交 ∑==m

i i j i k j k x q x q q q 1)()(),(

正交多项式系可以认为是幂函数系：1，x ，x 2，……，x n 通过正交变换而

得到的一组函数。正交多项式系构造的方法如下：

q 0(x )=1，q 0(x ) = x – a 1 ，(a 1 = n x m

i i /1

∑=)，

q k (x ) = (x - a k ) q k -1(x ) - b k q k-2(x ) ，( k = 2，3，……，n ) 其中，

∑∑=-=-----==m

i i k m i i k i k k k k k x q x q x q q q xq a 1

2

11

2

11111)(/)(),/(),(

∑∑=-=-----==m

i i k m

i i k k k k k k x q x q q q q q b 1

2

21

2

12211)(/)(),/(),(

2.5 用正交多项式系组成拟合函数的多项式拟合

考虑拟合函数：)()()()(1100x q a x q a x q a x n n +++= ?，将数据表

中的数据代入，得超定方程

??

????

?=++++=++++=++++m

m n n m m m n n n n y x q a x q a x q a x q a y x q a x q a x q a x q a y x q a x q a x q a x q a )()()()()()()()()()()()(2211002

222221120011122111100 （m > n ） 其系数矩阵为

????

????????)()()()()()()()()()()()(21022221201121110m n m m m

n n x q x q x q x q x q x q x q x q x q x q x q x q

由于多项式q 0(x )，q 1(x )，q 2(x )，……，q n (x )在点集{x 1，x 2，……，x m }上的正交，所以超定方程组的系数矩阵中不同列的列向量是相互正交的向量组。于是用这一矩阵的转置矩阵去左乘超定方程组左、右两端得正规方程组

??????

?===),(),(),(),(),(),(11110000y q a q q y q a q q y q a q q n n n n => ???????===)

,/(),(),/(),(),/(),(1

1110000n n n n q q y q a q q y q a q q y q a 其中，∑==m i i k k k x q q q 1

2

)(),(，∑==m

i i i k k y x q y q 1

)(),(。因为正规方程组中每

一个方程都是一元一次方程可以直接写出原超方程组的最小二乘解，所以拟合函数为

)()

,(),()(),()

,()(),(),()(11110000x q q q y q x q q q y q x q q q y q x n n n n +++=

?

这一结果与用次多项式拟合所得结果在理论是完全一样的，只是形式上不同、算法实现上避免了解病态方程组。

2.6 指数函数的数据拟合

问题1：世界人中预测问题

下表给出了本世纪六十年代世界人口的统计数据(单位：亿)

有人根据表中数据，预测公元2000年世界人口会超过 60亿。这一结论在六十年代末令人难以置信，但现在已成为事实。试建立数学模型并根据表中数据推算出2000年世界人口的数量。

根据马尔萨斯人口理论，人口数量按指数递增的规律发展。记人口数为N(t)，则有指数函数N e a bt

=+。现需要根据六十年代的人口数据确定函数表达式中两个常数a、b。为了计算方便，对表达式两边取对数，得ln N a bt

=+，令N

y ln

=。于是bt

a

t

y+

=

)(。

(1)计算出表中人口数据的对数值y k = ln N k ( k = 1，2， (9)

(2) 根据表中数据写出关于两个未知数a 、b的9个方程的超定方程组（方程数多于未知数个数的方程组）

a +

b t

k = y

k

( k = 1，2， (9)

其中，t1 =1960，t2 =1961，t3 =1962，……，t9 =1968；

y

1

= ln29.72，y2 = ln 30.61，……，y9 = ln34.83。

(3) 利用MATLAB解线性方程组Ax=c的命令A\c计算出a 、b的值，并写出人口增长函数。利用人口增长函数计算出2000年世界人口数据：N(2000)

2.7 多元线性函数的数据拟合

问题2 人的耗氧能力的数据拟合。

人的耗氧能力y (ml/min·kg)与下列变量有关

x 1 年龄 x 2 体重

x 3 1.5英里跑步所用时间 x 4 静止时心速 x 5 跑步时最大心速

某健身中心对31个自愿者进行测试，得到31组数据（每一组数据有6个数）

令耗氧能力为因变量，其它的指标为自变量，建立线性模型

为了确定6个系数，利用已记录的数据得超定方程组

这一方程组包含6个未知数

，但却有31个方程。写出

超定方程组的系数矩阵和右端向量如下

????

??

?

?????

??=31,531

,431,331,231

,15242

32

22

1251413121

11111x x x x x x x x x x x x x x x A

，????????????=312

1y y y y 由最小二乘法可得正规方程组

y A AX A T T =

其中，

T

第三章曲线拟合特性

在科学实验或社会活动中,人们常常需要观测很多数据的规律, 通过实验或者观测得到量x与y的一组数据对（）(i=1,2, …，N),其中是彼此不同的。人们希望用一类与数据本质规律相适应的解析表达式，

来反映量x与y之间的依赖关系，即在一定意义下“最佳”地逼近或拟合已知数据。常称作拟合模型，当c在中线性出现时，称为线性模型，否者称为非线性模型。

3.1 线性模型的曲线拟合

已知某函数的若干离散函数值{f1,f2,…,fn}，通过调整该函数中若干待定系数f(λ1, λ2,…,λm), 使得该函数与已知点集的差别(最小二乘意义)最小。如果待定函数是线性，就叫线性拟合。下面介绍计算线性拟合的基本方法。

3.1.1 最小二乘法及其计算

在函数的最佳平方逼近中,如果只在一组离散点集{ }上给出，这就是科学实验中常见的实验数据

{}的曲线拟合，这里,要求

一个函数与所给数据{}拟合，若记

,设

是C[a,b]上线性无关函数族，在

中找一个函数，使误差平方和

这里

这就是一般的最小二乘逼近，用几何语言说，就称为曲线拟合的最小二乘法。

用最小二乘法求曲线时，首先要确定的形式。这部单纯三数学问

题，还与所研究问题的运动规律及所得观测数据有关；通常要从问题的运动规律或给定数据描图，确定的形式，并通过实际计算选

出较好的结果。的一般表达式为（3.2）式表示的线性形式。若

是k次多项式，就是n次多项式。为了使问题的提法更有一般性，通常在最小二乘法中都考虑为加权平方和

这里是[a,b]上的权函数，它表示不同点处的数据比重不同，用最小二乘法求拟合曲线的问题，就是在形如(2.2)式的中求一函数，使(3.3)式取得最小。它转化为求多元函数