《三章最佳逼近.ppt》由会员分享，可在线阅读，更多相关《三章最佳逼近.ppt（58页珍藏版）》请在三一办公上搜索。
1、第三章 最佳逼近,最佳逼近问题函数的最佳平方逼近数据拟合的最小二乘法,1 最佳逼近问题,一、函数的逼近方法,关于函数的n次多项式逼近方法，已知有下面的几种：,1.Taylor展式：,如果,误差为,2.插值多项式,同为n 次多项式，哪一个逼近效果更好呢？这时可以建立一个度量标准来进行度量。在所建立的度量标准之下，就可以给出最佳的n 次逼近多项式。,除了用多项式来逼近一个函数f(x),也可以用其它具有某种的特征的函数来逼近f(x)，并求出其最佳逼近。,3.最佳逼近问题,给定函数空间X 中的一个子集合，寻求X 中的函数f(x)在 中关于某个度量标准下的最佳逼近元p(x),称作最佳逼近问题。,本章我们
2、主要考虑连续函数空间X=Ca,b上的最佳逼近问题，这时的子集合 可以取为由具有某种共同特征的函数组成，例如三角函数、指数函数、分式有理函数、多项数函数等。,同时，还需要给出连续函数空间上的一个度量标准，下面通过内积给出平方范数。,二、连续函数的平方范数,已知所有连续函数构成的集合Ca,b是一个线性空间，对于Ca,b中的任意函数、，定义实数,可以证明此实数满足性质：,这时，称 为 与 的内积。,（1），当且仅当，；,（2）,（3）,为函数 的平方范数，,且满足以下性质：,给出了函数的范数，便给出了函数的一个度量标准，在此度量标准之下，就可以找出 在不同函数类中的最佳逼近。下面就来考虑这一最佳逼近
3、问题的解决。,2 函数的最佳平方逼近,一、公式的推导,对于连续函数空间 Ca,b 中的元素f(x)及其子空间,所谓 f(x)在 中的最佳平方逼近，就是存在,使得对于一切,都有：,不等式,说明，所求的,满足等式：,而,(3.2),是由系数 唯一确定的，因此，只要我们求出了满足(3.2)的，就可以求出f(x)最佳平方逼近。,则,也就是说，求出满足等式(3.4)的，等价于求出满足等式(3.5)的。,由(3.5)可知 是n+1元函数(3.3)的最小值点。,而n+1元函数,在区间 上具有一阶连续导函数，因此根据极值原理，在最小值点 处：,而,于是,即,利用内积,可以得到,这是一个含有n+1个变量的方程组
4、，具体形式为：,再写成,矩阵形式为,解此方程组，就可以得到，也就得到 了f(x)的最佳平方逼近：,二、误差估计,最佳平方逼近的误差为,由,可得,对于,于是，最佳平方逼近,的误差为,如果,(3.6),则称(3.6)为 f(x)的在a,b上的最佳平方逼近n次多项式。,*求连续函数最佳平方逼近的步骤*,1.给定a,b上的连续函数f(x),及子空间,2.利用内积,给出法方程组,3.求出法方程组的解,得到最佳平方逼近,4.求出误差,例3.1.求 在 上的最佳平方逼近一次多项式，并估计误差。,直接套用公式：,解：设,令基函数为,则需要求解的方程组为：,这时由,得到,于是得到法方程组,解之得,最佳平方逼近一
5、次多项式为,关于误差，由误差估计式,得到,所求的 应该使下式达极小：,由,关于最佳平方逼近，也可以根据极值原理直接计算,这时，对于最佳平方逼近一次多项式,整理得到,计算积分后，得法方程组,解之得,从而得到最佳平方逼近一次多项式,三、正交基函数的选择,如果我们选择子空间,正交，即,则法方程,简化为,即,容易求得,并得到最佳平方逼近,在区间-1，1上两两正交，试求 在这个区间上的最佳平方逼近二次多项式，并给出误差估计。,例3.2.已知,根据基函数的正交性，得到,解：以 作为基函数，设,从而求得,误差为,本节小结,1.何为连续函数最佳平方逼近多项式？,如何计算连续函数的最佳平方 逼近n次多项式？,3
6、.如何估计最佳平方 逼近n次多项式的误差？,4.练习：试求函数 在区间1,3上的最佳平方逼近一次多项式并估计误差。,5.作业：page 79 3-1，3-2，3-3,3 数据拟合的最小二乘法,当我们得到的实验数据是准确值时，可以用代数插值的方法，求出原函数的近似表达式。,经常由观察或测试可得到 的一组离散数据：,但是，这组离散数据由观察或测试得到，往往并非完全精确，这时如果用插值的方法来逼近，效果就不会太好。,这时可以考虑用最小二乘法进行数据拟合，给出逼近曲线。其特点是：所求的逼近曲线不一定经过这些离散点，但却尽可能的靠近原曲线。Curve01.m,最小二乘法拟合曲线,三次样条函数插值曲线,L
7、agrange插值曲线,一、数据拟合最小二乘法的思想,已知离散数据：,假设我们要拟合的函数为，将 带入则得函数值，由于 的不准确性，在每一个点都会产生一个误差：,我们希望所求的f(x),使得其在每一个 处所产生的误差 达最小。,但这样分别考虑太困难，所以我们应考虑整体误差,应该使,整体达最小。,通过这种度量标准求得拟合曲线y=f(x)的方法，就称作曲线拟合的最小二乘法。,按照以上思想来求出f(x)的拟合曲线，首先需要确定出f(x)所属的函数类，然后进一步求出具体函数，具体按照以下步骤进行。,二、最小二乘法拟合曲线的步骤,第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、
8、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为,第一步：根据如下已知点的坐标，在坐标系里描点,则所求的函数可以表示为：,只要确定了系数，就可以求出拟合曲线。,第三步：其整体误差,所求的解应该使的上式达到极小，由极值原理应有：,令：,这样由,及,求得,整理为,令,则有,这样就给出了求解 方程组：,同样称其为法方程组。求解法方程组，求得解,便得到最小二乘拟合曲线,为了便于求解，我们再对法方程组的写出作一分析。,得到法方程组第 j 行的元素为：,由,于是法方程组的系数矩阵为：,令右端第二个矩阵为：,则系数矩阵可以表示为：,再看法方程组的右端项：,由,得到,最后可以将法方程组表示为：,其中
9、,这样会更快的写出法方程组来。,如果所求得最小二乘拟合函数为n次多项式，则：,这时：,误差：,三、数值例子,例3.3 根据如下离散数据拟合曲线并估计误差,解 step1:描点,*,*,*,*,*,*,*,step2:从图形可以看出拟合曲线近似的为一条抛物线：,step3:根据基函数给出法方程组,由,得到,即,又,求得,法方程组为：,解得：,求得拟合二次多项式函数,误差为：,先计算出拟合函数值：,X:1 2 3 4 6 7 8 P:1.7272 4.0001 5.5002 6.2275 5.3637 3.7726 1.4087,得到：,或者：,解：在坐标轴描点,例3.4 根据如下离散数据拟合曲线
10、并估计误差,从离散点的图形上看不出原函数属于哪一类型，一般多采用多项式拟合，在此我们用二次多项式拟合。,根据如下离散数据给出法方程组,这时,求得,得到法方程组,所求二次拟合曲线为,拟合曲线的平方偏差为,由,解得：,拟合曲线在实际中有广泛应用，特别在实验、统计等方面是如此。通常，由一组试验或观测取得数据，这些数据先在平面上标出，然后确定拟合曲线的类型。,例如，电阻与导线的长度呈线性关系，如何确定具体的线性表示式，可通过对不同长度的导线测试电阻所得数据作拟合曲线而得。,对于具体问题，拟合曲线的类型往往是已知的，所对应的公式也叫做经验公式，只需取定曲线的具体参数即可。,下面给出一个已知经验公式，如何
11、确定其中参数的例子。,例3.5 对如下数据作形如 的拟合曲线,解：由于函数集合 不成为线性空间，因此直接作拟合曲线是困难的。,在函数 两端分别取对数得到,令,则,这时，需要将原函数表进行转换如下,对 作线性拟合曲线，取,得正则方程组,解得,于是有,拟合曲线为：,练 习 三,3-1 利用Legendre多项式 求函数 在 上的最佳均方逼近，并估计误差。,3-2 求 上权函数为 的正交多项 式前四项。,3-3 求，使 达到极小。,3-4 利用Legendre多项式 在0,1与-1,1上的最佳平方逼近三次式，并比较有何 异同。,3-5 证明 是 上 的正交函数系。,3-6 给出数据表,使分别作出线性、二次曲线拟合，并给出最佳平方误差。,3-7 用最小乘法求一个形如 的经验公式，使与下列数据拟合，并计算均方误差。,3-8 对下列数据,求形如 的拟合曲线,3-9 用最小二乘法解方程组,
