函数逼近与曲线拟合.docx_三一办公31ppt.com

资源描述

《函数逼近与曲线拟合.docx》由会员分享，可在线阅读，更多相关《函数逼近与曲线拟合.docx（71页珍藏版）》请在三一办公上搜索。

1、函数逼近与曲线拟合第3章函数逼近本章基本内容函数逼近的基本概念正交多项式Lagrange and Chebyshev最佳一致逼近多项式最佳平方逼近多项式曲线拟和的最小二乘法最佳平方三角逼近及有理逼近拟合与逼近本章继续讨论用简单函数近似代替较复杂函数的问题.上章提到的插值就是近似代替的方法之一,插值的近似标准是在插值点处误差为零. 但在实际应用中,有时不要求具体某些点误差为零,而要求考虑整体的误差限制,这就引出了拟合和逼近的概念.什么是函数逼近对函数类A中给定的函数f(x),记作f(x)A,要求在另一类简单的便于计算的函数类B中求函数p(x)B ,使p(x)与f(x)的误差在某种意义下最小.函数

2、类A通常是区间a, b上的连续函数,记作Ca, b,称为函数逼近空间;而函数B通常为n次多项式,有理函数或分段低次多项式等. 数学上常把在各种集合中引入某一些不同的确定关系称为集合以某种空间结构赋予，并将这样的集合称为空间。例1、按向量的加法和数乘构成实数域R上的线性空间-Rn例2、对次数不超过n 的实系数多项式，按加法和数乘构成数域上的多项式线性空间-Hn例3、所有定义在a,b 集合上的连续函数全体，按函数的加法和数乘构成连续函数空间-Ca,b3.1 函数逼近的基本概念1)线性无关设集合S是数域P上的线性空间,元素x1,x2,xnS,如果存在不全为零的数a1,a2,anP,使得a1x1+a2

3、x2+.+anxn=0,则称x1,x2,xn线性相关. 2)范数的定义设S为线性空间,xS,若存在唯一实数|满足条件：(1)x0;当且仅当x0时,x0; (正定性)(2)x|x,R; (齐次性)(3)xyxy,x,yS. (三角不等式)则称|为线性空间S上的范数,S与|一起称为赋范线性空间,记为X. 类似的对连续函数空间Ca, b, 若fCa,b可定义以下三种常用函数的范数|f|=max|f(x)|,axb 称为-范数|f|1=|f(x)|dx, ab称为1-范数|f|2=(f2(x)dx), ab12称为2-范数柯西施瓦次不等式设X为一个内积空间,对u,vX有|(u,v)|2(u,u)(v,

4、v).称为柯西施瓦次不等式.魏尔斯特拉斯定理设f(x)Ca, b,则对任何0,总存在一个代数多项式p(x),使|f(x)-p(x)|e在a, b上一致成立。定理：设X为一个内积空间,u1,u2,unX,矩阵(u1,u1)(u2,u1)(u,u)(u2,u2)G=12MM(u,u)(u,u)2n1nL(un,u1)L(un,u2)OML(un,un)称为格拉姆矩阵,则G非奇异的充分必要条件是u1,u2,un线性无关。函数的内积记区间a,b上所有连续函数的全体为Ca,b,可以证明Ca,b是一个线性空间,把所有次数不超过n的多项式全体记为Pn,则Pn是Ca,b的子空间.若(x),g(x)Ca,b,则

5、称满足(1)(,g)=(g,);baf(x)g(x)dx为(x)与g(x)的内积,记为(,g),(2)(c,g)=c(,g);(3)(1+2,g)=(1,g)+(2,g);若(,g)=0,称(x)与g(x)正交,记为g .利用内积可以定义函数的平方模f2=(f,f)=baf2(x)dx函数的平方模满足(1) |20,而且|2=0(x)=0;(2) |c|2=|c|2;(3) |+g|2|2+|g|2(4) |(,g)|2|g|2权函数考虑到(x)在区间a,b上各点的函数值比重不同,常引进加权形式的定义(f,g)=r(x)f(x)g(x)dxabf2=bar(x)f2(x)dx这里函数r(x)是

6、非负连续函数,称为a,b上的权函数.它的物理意义可以解释为密度函数. 3.2 正交多项式1) 正交的定义若f(x),g(x)Ca,b,(x)为a,b上的权函数且满足b(f(x),g(x)=r(x)f(x)g(x)dx=0,(1)a则称f(x)与g(x)在a,b上带权正交.若函数族j0(x),j1(x),L,jn(x),Lb满足关系0, jk;(jj,jk)=r(x)jj(x)jk(x)dx=aAk0,j=k;(2)则称jk(x)是a, b上带权(x)正交函数族；若Ak1,则称之为标准正交函数族。设jn(x)是a, b上首相系数an0的n次多项式, (x)为a,b上的权函数,如果多项式序列j(x

7、)jn(x)满足关系式(2),则称多项式序n00为在a,b上带权(x)正交,称jn(x)为a, b上带权的n 次正交多项式. 例如、三角函数系：1，cosx，sinx，cos2x，sin2x，是区间-，上的正交函数系，因为p-psinkxsinjxdx=0,p(jk)(jk)-coskxcosjxdx=0,pp-sinkxcospp-pjxdx=0,p-psinkx=coskx=0,pp2sinkx=-p2coskx=p0,-p实际上，这就是付里叶(Fourier)逼近的基函数.2)如何构造正交多项式只要给定区间a, b及权函数,均可由一组线性无关的幂函数1,x, xn,利用逐个正交化手法构造

8、出正交多项式序列jn(x)0：j0(x)=1, jn(x)=xn-n-1jj(x) (n=1,2,.).j=0(jj(x),jj(x)(xn,jj(x)如此得到的正交多项式有如下性质：(1)jn(x)是具有最高次项系数为1的n次多项式其中 j0(x)=1, j1(x)=0,an=(xjn(x),jn(x)/(jn(x),jn(x),bn=(jn(x),jn(x)/(jn-1(x),(jn-1(x) (n=1,2,.)2并且(xjn(x),jn(x)xjn(x)r(x)dx.ab(5)设jn(x)0是在a, b上带权(x)的正交多项式序列, 则jn(x)(n1)的n个根都是在区间(a, b)内的

9、单重实根.例题：利用Gram-schmidt 方法构造0,1 上带权1r(x)=ln的前3个正交多项式j0,j1,j2解：利用正交化公式来求Qr(x)=ln1=-lnxx(xj0)j1(x)=x-j0(j0j0)xj0(x)=12(x2j0)(x2j1)j2(x)=x-j0-j1(x)(j0j0)(j1j1)11(j0,j0)=lndx=-lnxdx=100x1(x,j0)=-101xlnxdx=4(x,j0)=-x2lnxdx=201于是1j1(x)=x-1419112117(j1,j1)=(-lnx)(x-)dx=-(lnx)(x2-x+)dx=004216144(x,j1)=于是2152

10、(-lnx)x(x-)dx=041441j2(x)=x2-151517-(x-)=x2-x+97472523）几种常用的正交多项式勒让德多项式当区间-1,1,权函数(x)1时,由1,x,xn,正交化得到的多项式就称为勒让德多项式,并用P0(x),P1(x),Pn(x),表示. 其简单的表达式为1dn2np0(x)=1, Pn(x)=n(x-1) (n=1,2,L)n2n!dx最高项系数为1的勒让德多项式为Pn(x)=n!dn2n(x-1).n(2n)!dx勒让德多项式的性质(1)正交性0, mn;P(x)P(x)dx=2m-1n， mn.2n+11(2)奇偶性(3)递推关系pn(-x)=(-1

11、)npn(x)(n+1)pn+1(x)=(2n+1)xpn(x)-npn-1(x)n=(1,2L)且有以下常用公式p0(x)=1p1(x)=xp2(x)=(3x2-1)/2p3(x)=(5x3-3x)/2p4(x)=(35x4-30x2+x)/8p5(x)=(63x5-70x3+15x)/8p6(x)=(231x6-315x4+105x2-5)/16L(4)pn(x)在区间-1,1内有n个不同的实零点。切比雪夫多项式当权函数r(x)=11-x2,区间为-1,1时,由序列1,x,xn,正交化得到的多项式就是切比雪夫多项式,它可表示为Tn(x)=cos(n arccosx), | x |1若令xc

12、os，则Tn(x)=cos n，0.切比雪夫多项式的性质(1)递推关系Tn+1(x)=2xTn(x)-Tn-1(x)T0(x)=1T1(x)=xT2(x)=2x2-1T3(x)=4x3-3xT4(x)=8x4-8x2+1T5(x)=16x5-20x3+5xT6(x)=32x6-48x4+18x2-1K(2)切比雪夫多项式Tk(x)在区间-1,1上带权r(x)=1/1-x2正交且0, nm;p1T(x)T(x)dxnm=, n=m0;-121-x2p, n=m=0.(3) T2k(x)只含x的偶次幂,T2k+1(x)只含x的奇次幂.(4) Tn(x)在区间-1,1上有n个零点2k-1xk=cos

13、p,k=1,2,L2n若将xn用T0(x),T1(x), ,Tn(x)的线性组合表示,则其公式为n2x=2n1-nnkTn-2k(x).k=03.3 最佳一致逼近多项式最佳一致逼近多项式是讨论fCa, b,在Hn=span1,x,xn中求多项式Pn*(x), 使其误差|f-Pn*|=max|f(x)-Pn*(x)|=min|f-Pn|axbPnHn这就是通常所指的最佳一致逼近或切比雪夫逼近问题.为了说明这一概念,先给出以下定义.偏差设Pn(x)Hn,f(x)Ca, b,称D(f,Pn)=|f-Pn|=max|f(x)-Pn(x)|axb为f(x)与Pn (x)在a, b上的偏差.显然D(f,P

14、)0, D(f,Pn)的全体组成一个集nD(f,Pn)它有下界0. 合,记为 ,若记集合的下确界为En=infD(f,Pn)=infmax|f(x)-Pn(x)|PnHnPnHnaxb则称之为f(x)在a, b上的最小偏差.最佳逼近多项式假定f(x)Ca, b,若存在Pn*(x)Hn使(f, Pn*(x)En,则称Pn*(x)是f(x)在a, b上的最佳一致逼近多项式或最小偏差逼近多项式。注意,定义并未说明最佳逼近多项式是否存在,但可以证明下面的存在定理.定理：若f(x)Ca, b,则总存在Pn*(x)使|f(x)-P(x)|=E其中*nEn=infD(f,Pn)=infmax|f(x)-Pn

16、充分必要条件是P(x)在a, b上至少有n+2个轮流为“正”，“负”的偏差点，即有n+2个点ax1x2.xn+2b，使P(xk)-f(xk)=(-1)ks|P(x)-f(x)|,s=1这样的点组称为切比雪夫交错点组.切比雪夫定理说明用P(x)逼近f(x)的误差曲线yP(x)f(x)是均匀分布的由这个定理还可得以下重要推论.推论若f(x)Ca, b，则在Hn中存在唯一的最佳逼近多项式利用切比雪夫定理可直接得到切比雪夫多项式Tn(x)的一个重要性质，即定理在区间-1,1上所有最高次项系数为1的n次多项式中,wn(x)=12n-1Tn(x)12n-1与零的偏差最小，其偏差为即可以理解为f(x)-p*

17、(x)与零的偏差等于最小当且仅当f(x)-p(x)=wn(x)=*12n-1Tn(x)最佳一次逼近多项式切比雪夫定理给出了最佳逼近多项式P(x)的特性,但要求出P(x)却相当困难. 下面讨论n=1的情形. 假定f(x)C2a, b. 且f(x)在(a,b)内不变号，我们要求最佳一次逼近多项式P1(x)=a0+ a1x至少有3个点ax1x2x3b，使P1(xk)-f(xk)=(-1)ksmax|P1(x)-f(x)| ( s1,k=1,2,3)axb由于f(x)在a, b上不变号,故f(x)单调,f(x)-a1在(a, b)内只有一个零点,记为x2,于是例1、设f(x)=4x3+2x2+x+1试

18、在-1，1 上寻找一个次数*p不超过2的多项式2(x)使它为f(x)在-1，1 上的最佳一致逼近多项式。*解：所求p2(x)由最小偏差定理应满足-1x1*max|f(x)-p2(x)|=minQf(x)的首项系数为4111*f(x)-p2(x)=2T3(x)=(4x3-3x)442从而p(x)=f(x)-(4x-3x)=2x+4x+1*232a,bm , M 是f(x)在a,b例2、设f(x)，上的min , max 值，则f(x)的零次最佳一致逼近多项式为1*p0(x)=(m+M)2证明：使得令则由f(x)的连续性知$x1,x2a,bf(x1)=mp0(x)=f(x2)=M1(m+M)211

19、f(x1)-p0(x1)=m-(m+M)=-(M-m)22f(x2)-p0(x2)=M-1(m+M)21 =(M-m)2即故max|f(x)-p0(x)|=axb1(M-m)2x1,x2是p0(x)与f(x)，的偏差点，从而由chebyshev 定理知*p0(x)=1(m+M)=p0(x)2即当f(x)Ca,b时f(x)的零次最佳一致1p(x)=(m+M)2*0逼近多项式为例3、求f(x)=x4+3x3-1在0，1 上求三次最佳逼近多项式。解：令则当t=2x-1t-1,1在0,1 变化时x*p3(x)此时t+1t+14t+13f(x)=f=+3-1222设为f(x)在0,1 上的三次最佳一致逼

20、近多项式由于t+1的首相系数为14故有)22t+11*t+116f-p3=4-1T4(t)222t+11*t+1p3=f-T4(4)=2216*8t+14t+131+3-1-(8t4-8t2+1)2216*8f(1从而 p(x)=(x+3x-1)-8(2x-1)4-8(2x-1)2+116*851129x0,1 =5x3-x2+x-44128*342即3.4 最佳平方逼近最佳平方逼近及其算法考虑在区间a,b上一般的最佳平方逼近问题时对f(x)Ca,b及Ca,b中的一个子集jCa,bj=spanj0(x),j1(x),Ljn(x)若存在S*(x)j使下式成立f(x)-S(x)=minf(x)-S

21、(x)2=minr(x)f(x)-S(x)2dx*2S(x)jS(x)ja22b则称S*(x)是f(x)在子集jCa,b中的最佳平方逼近函数.为了求S*(x), 由(1)可知该问题等价于求多元函数I(a0,a1,L,an)=r(x)aiji(x)-f(x)2dxai=0bn的最小值.由于I(a0,a1,L,an)是关于a0,a1,L,an的二次函数,利用多元函数求极值的必要条件I=0ak(k=0,1,L,n),即nbI=2r(x)ajjj(x)-f(x)jk(x)dx=0aakj=0 (k=0,1,L,n),于是有(jj=0nk(x),jj(x)aj=(f(x),jk(x)(1) (k=0,1

22、,L,n)是关于a1,a2,L,an的线性方程组,称为法方程,由于j0(x),j1(x),Ljn(x)det G(j0,j1,Ljn)0线性无关，故系数矩阵的行列式非奇异，即于是方程组(1)有唯一解ak=a (k=0,1,L,n)从而有*S*(x)=a0j0(x)+L+anjn(x).*k以下证明即22S*(x)必定满足最佳平方逼近的定义2bf(x)-S(x)=minf(x)-S(x)2=minr(x)f(x)-S(x)2dx*S(x)jS(x)ja但我们只需证明对任意的S(x)j有=bar(x)f(x)-S(x)dxr(x)f(x)-S(x)2dxab2baa*2bD作=r(x)f(x)-S

23、(x)dx-r(x)f(x)-S*(x)2dxabar(x)S(x)-S*(x)2dx+2r(x)S(x)-S*(x)f(x)-S*(x)dxbbar(x)f(x)-S*(x)jk(x)dxbbaa =r(x)f(x)jk(x)dx-r(x)S*(x)jk(x)dx =(f,jk(x)-(a*jjj(x),jk(x)j=0n =0即上式第二项积分为零。于是可得D=bar(x)S(x)-S*(x)2dx0即得S*(x)必定是所求函数的最佳平方多项式。若取jk(x)=xk,r(x)1,f(x)C0,1,则要在Hn中求n次最佳平方逼近多项式S(x)=a+ax+L+ax.此时*0*1*nn(jj(x)

24、,jk(x)=x0101k+j1dx=k+j+1(f(x),jk(x)=f(x)xkdxdk即(jj(x),jk(x)=(f(x),jk(x)=1010xk+j1dx=,k+j+1f(x)xkdxdk.若用H表示Gnn=G(jj,jk)nn对应的矩阵,即1/2L1/(n+1)11/3L1/(n+2)1/2H=MMM1/(n+1)1/(n+2)L1/(2n+1)则称H为希尔伯特(Hilbert)矩阵,若记向量a=(a0,a1,L,an)Td=(d0,d1,L,dn)T则*Ha=d 的解 ak=ak (k=1,2,L,n) 即为所求最佳平方多项式S(x)=akxk的系数。k=1n若用1,x,xn做

25、基求最佳平方多项式, 计算简单，但当n较大时, 系数矩阵H是病态的,因此直接求解法方程是相当困难的,故通常是采用正交多项式做基底构造最佳平方多项式。用正交函数族作最佳平方逼近设f(x)Ca,b,j=spanj0(x),j1(x),Ljn(x),j0(x),j1(x),Ljn(x)若函数组j0(x),j1(x),Ljn(x)满足条件0, jk;(jj,jk)=r(x)jj(x)jk(x)dx=aAk0,j=k;b则(ji(x),jj(x)=0,ij,而(jj(x),jj(x)0，故法方程组(j(x),j(x)akjj=0nj=(f(x),jk(x)(k=0,1,L,n)(1)(j1,j1)(j1

26、,j2)L(j,j)(j,j)22Gn=G(j0(x),j1(x),L,jn(x)=21MO(j,j)(j,j)n2n110L01 =MO0000M1(jn,jn)(j2,jn)M(jn,jn)为非奇异对角阵,且法方程的解为*ak=(f(x),jk(x)/(jk(x),jk(x)(k=0,1,L,n)(2)于是f(x)Ca,b在j中的最佳平方逼近函数为S*(x)=k=0n(f(x),jk(x)jk(x)22jk(x)(3)可得均方误差为dn(x)2=f(x)-S*n2(f(x),jk(x)21=(f(x)2-)2jk(x)2k=02n(4)由此可得贝塞尔(Bessel)不等式*jk(x)(ak

27、i=0n)22f(x)22.若f(x)Ca,b,按正交函数族j0(x),j1(x),Ljn(x)展开，而系数*ak (k=1,2,L,n)按下式计算*ak=(f(x),jk(x)/(jk(x),jk(x) ;(k=0,1,L,n)*akjk(x)k=0(5)得级数*称为f(x)的广义傅立叶(Foureir)级数,系数ak (k=1,2,L,n)称为广义傅立叶系数.设j0(x),j1(x),Ljn(x)是正交多项式,j=spanj0(x),j1(x),Ljn(x),jk(x),(k=0,1,L,n)可由1,x,Lxn正交化得到。则有下面的收敛定理；设f(x)Ca,b,S*(x)是由(3)给出的f

28、(x)的最佳平方逼近多项式，其中j(x)(k=0,1,L,n)k是正交多项式族,则有limn*f(x)-Sn(x)2=0.下面考虑函数f(x)C-1,1,按勒让得多项式P0(x),P1(x),Pn(x)展开,由(2),(3)可得*Sn(x)=a0p0(x)+a1p1(x)+Lanpn(x)*其中(f(x),Pk(x)2k+11a=f(x)Pk(x)dx.-1(Pk(x),Pk(x)2*k根据(4),平方误差为|dk(x)|=221-1f2(x)dx-k=0n2*2ak.2k+1此时由定理结论可得：minnf(x)-Sn(x)*2=0对首项系数为1的勒让德多项式Pn有以下性质定理：在所有最高次项

29、系数为1的n次多项式中,勒让德多项式P在-1,1上与零的平方误差最小。n*即可以理解为|(f(x)-S(x)-0|2最小等价于f(x)-S*(x)=Pn(x)=n!dn2n(x-1)n(2n)!dx与零的平方误差最小。3.5. 数据拟合的最小二乘法问题的提出：在函数的最佳平方逼近中，要求函数是连续的，而实际问题中常常见到函数只是在一组离散点上给定，即科学实验中常见到的实验数据的曲线拟和，例如天气预报系统即为此例。求拟和曲线时首先要确定所找的拟和曲线的形式，这不是单纯的数学问题，还与所研究问题的运动规律及所得观测的数据有关；通常要从问题的运动规律及给定数据描图，确定函数的形式，并通过实际计算得到

30、较好的结果，这类方法就称为曲线拟和的最小二乘法。利用Matlab中的库函数进行拟和的数值例子：实验用4次多项式拟和以下数据x0=0:0.1:1;y0=-.447,1.978,3.11,5.25,5.02,4.66,4.01,4.58,3.45,5.35,9.22;n=4;p=polyfit(x0,y0,n)xx=0:0.01:1;yy=polyval(p,xx);plot(xx,yy,-b,x0,y0,.r,MarkerSize,20) xlabel(x) ylabel(y) 1086420-200.10.20.30.40.50.60.70.80.91数据拟合方法与数据插值方法不同，它所处理的

31、数据量大而且不能保证每一个数据没有误差所以要求一个函数严格通过每一个数据点是不合理的。数据拟合方法求拟合函数，插值方法求插值函数。这两类函数。最大的不同之处是对拟合函数不要求它通过所给的数据点，而插值函数则必须通过每一个数据点.例如，在某化学反应中，测得生成物的质量浓度y(10 3 g/cm3)与时间t的关系如表所示ty123468101214164.006.418.018.799.539.8610.3310.4210.5310.61显然，连续函数关系y(t)是客观存在的。但是通过表中的数据不可能确切地得到这种关系。何况，由于仪器测量中所带的误差的影响，测量数据难免有误差。因此只能寻求一个近拟

32、表达式y=j(t)11109876540246810121416寻求合理的近拟表达式，以反映数据变化的规律，这种方法就是数据拟合方法。数据拟合需要解决两个问题：第一，选择什么类型的函数j(t)作为拟合函数；第二，对于选定的拟合函数，如何确定拟合函数中的参数。数学模型应建立在合理假设的基础上，假设的合理性首先体现在选择某种类型的拟合函数使之符合数据变化的趋势。拟合函数的选择比较灵活，可以选择线性函数、多项式函数、指数函数、三角函数或其它函数，这应根据数据分布的趋势作出选择。为了问题叙述的方便，将例1的数据表写成一般的形式tyx1y1x2y2x3y3x4y4x5y5x6y6x7y7x8y8x9y9

33、x10y10线性拟合假设拟合函数是线性函数，即拟合函数的图形是一条平面上的直线。而表中的数据点未能精确地落在一条直线上的原因是实验数据的误差。则下一步是确定函数y= a + b x中系数a和b各等于多少？从几何背景来考虑，就是要以a和b作为待定系数，确定一条平面直线使得表中数据所对应的10个点尽可能地靠近这条直线。一般来讲，数据点将不会全部落在这条直线上，如果第k个点的数据恰好落在这条直线上，则这个点的坐标满足直线的方程，即a + b xk= yk如果这个点不在直线上，则它的坐标不满足直线方程，有一个绝对值为a+bx-y，kk的差异。于是全部点处的总误差是，a+bxk=110k-yk这是关于a

34、和b的一个二元函数，合理的做法是选取a和b ，使得这个函数取极小值。但是在实际求解问题时为了操作上的方便，常常是求a和b使得函数F(a,b)=(a+bxk-yk)2，10k=1达到极小。为了求该函数的极小值点，令F=0aF=0b得2(a+bxk=110k-yk)=02(a+bxk=110k-yk)xk=0101010a+xkb=ykk=1k=11010102xka+xkb=xkykk=1k=1k=1这是关于未知数a和b的线性方程组。它们被称为法方程，又可以写成101010a+xkb=ykk=1k=11010102xka+xkb=xkykk=1k=1k=1求解这个二元线性方程组便得待定系数a和b

35、，从而得线性拟合函数y = a + b x。下图中直线是数据的线性拟合的结果。1211109876540246810121416二次函数拟合假设拟合函数不是线性函数，而是一个二次多项式函数即拟合函数的图形是一条平面上的抛物线，而表中的数据点未能精确地落在这条抛物线上的原因是实验数据的误差。则下一步是确定函数y=a0+a1x+a2x2中系数a0、a1和a2各等于多少？从几何背景来考虑就是要以a0、a1和a2为待定系数，确定二次曲线使得表中数据所对应的10个点尽可能地靠近这条曲线。一般来讲，数据点将不会全部落在这条曲线上，如果第k个点的数据恰好落在曲线上，则这个点的坐标满足二次曲线的方程，yk=a

36、0+a1xk+a2xk2如果这个点不在曲线上，则它的坐标不满足曲线方程，有一个误差。于是全部点处的总误差用残差平方和表示F(a0,a1,a2)=(a0+a1xk+a2xk)-yk22k=110这是关于a0、a1和a2的一个三元函数，合理的做法是选取a0、a1和a2，使得这个函数取极小值。为了求该函数的极小值点，令F=0a0F=0a1F=0a21022(a+ax+ax01k2k)-yk=0k=1102即 2(a0+a1xk+a2xk)-ykxk=0k=110222(a0+a1xk+a2xk)-ykxk=0k=1求解这一方程组可得二次拟合函数中的三个待定系数。下图反映了例题所给数据的二次曲线拟合的

37、结果。11109876540246810121416一般曲线拟合的最小二乘法如果f(x)只在一组离散点集xi,i=0,1,m上给定这就是科学实验中经常见到的实验数据(xi,yi),i=0,1,m的曲线拟合,这里yi=f(xi), i=0,1,m,要求一个函数y=S*(x)与所给数据(xi,yi),i=0,1, ,m拟合, 若记误差i = S*(x)-yi, i=0,1,m,= (0,1, ,m)T, 设j=j0(x),j1(x),Ljn(x)是Ca,b上线性无关函数族,在j=spanj0(x),j1(x),Ljn(x)中找一函数d22m2imS*(x)*2使误差平方和m=d=S(xi)-yi=

38、minS(xi)-yi2,i=0i=0S(x)ji=0(1)这里S(x)=a0j0(x)+a1j1(x)+L+anjn(x)nm.(2)这就是一般的最小二乘逼近,用几何语言说,就称为曲线拟合的最小二乘法.用最小二乘法求拟合曲线的问题,就是在形如(2)的S(x)中求一函数y=S*(x)使加权平方和d22=w(xi)S*(xi)-yi2取得最小。i=0m它转化为求多元函数I(a0,a1,L,an)=w(xi)aiji(xi)-f(xi)2i=0i=0mm的极小点a0*,a1*,L,an*问题.由求多元函数极值的必要条件,有若记(jj,jk)=w(xi)jj(xi)jk(xi),i=0m(f,jk)

39、=w(xi)f(xi)jk(xi)dki=0m(k=0,1,L,n).上式可改为(j,j)akjj=0njdk(k=0,1,L,n)(3)这方程称为法方程,可写成矩阵形式Ga=d其中a=(a0,a1,L,an)T,d=(d0,d1,L,dn)T,(j0,j0)(j1,j0)G=M(j,j)n0(j0,j1)L(j0,jn)(j1,j1)L(j1,jn).(4)MM(jn,j1)L(jn,jn)a0,a1,L,an*要使法方程(3)有唯一解就要求矩阵G非奇异,必须指出,j0(x),j1(x),Ljn(x)在a,b上线性无关不能推出矩阵G非奇异。为保证(3)的系数矩阵非奇异,必须加上另外的条件: 哈尔(Haar)条件设j0(x),j1(x),Ljn(x)Ca,b的任意线性组合在点集xi, i=1,2,L,m (mn)上至多只有n个不同的零点, 则称j0(x),j1(x),Ljn(x)在点集xi, i=1,2,L,m (mn)上满足哈尔(Haar)条件。显然1,x,x2,L,xn为在任意m(mn)个点上满足哈尔条件。所以一般j0(x),j1(x),Ljn(x)1,x,x2,L,xn则一定可以保证系数矩阵非奇异，于是方程必存在唯一解

展开阅读全文