第三章 函数与数据的逼近
教学目的 1. 理解连续函数空间,正交多项式理论;2. 掌握最佳平方逼近及最小二乘逼 近函数的求解方法;3. 理解非线性模型举例的有关知识的基础上会求模型的逼近函数。
教学重点及难点 重点是最佳平方逼近及最小二乘逼近函数的求解。难点是会求非线性模型的逼近函数。
教学时数 10学时 教学过程
§1 引言
在科学计算中有下述两类逼近问题。 1.关于数学函数的逼近问题
由于电子计算机只能做算术运算,因此,在计算机上计算数学函数(例如
f(x)?ex,f(x)?sinx等在有限区间上计算)必须用其他简单的函数来逼近(例如用多项式
或有理分式来逼近数学函数,)且用它来代替原来精确的数学函数的计算。这种函数逼近的特点是:
(a)要求是高精度逼近;
(b)要快速计算(计算量越小越好)。 2.建立实验数据的数学模型
给定函数的实验数据,需要用较简单和合适的函数来逼近(或拟合实验数据)。 例如,已知y?f(x)实验数据
xf(x)x1y1x2?xm
y2?ym希望建立y?f(x)数学模型(近似表达式),这种逼近的特点是: (a)适度的精度是需要的; (b)实验数据有小的误差;
(c)对于某些问题,可能有某些特殊的信息能够用来选择实验数据的数学模型。 事实上,我们已经学过一些用多项式逼近一个函数y?f(x)的问题,例如 (1)用在x?x0点Taylor多项式逼近函数 设y?f(x)在[a,b]上各阶导数f(i)(x)(i?0,1,?,n?1)存在且连续,x0?[a,b],则有
f(n)(x0)f(x)?f(x0)?f'(x0)(x?x0)???(x?x0)n?Rn(x)
n! ?Pn(x)?Rn(x)
f(n?1)(?)其中R(x)?(x?x0)n?1,x?[a,b],?在x0和x之间。
(n?1)!于是,可用Pn(x)(n次多项式)来逼近f(x),即 f(x)?Pn(x),x?[a,b]
且误差为:Rn(x)?f(x)?Pn(x)
且当f(n?1)(x)?Mn时,则有误差估计
Rn(x)?Mnx?x0(n?1)!n?1,a?x?b
?f(x0)?Pn(x0)显然有:?(k) (k)f(x)?P(x),(k?1,2,?,n)0n0?说明Pn(x)是利用在x?x0处f(x)函数值及各阶导数值来摸拟f(x)的性质,且当x越接近于x0,误差就越小,x越偏离x0,误差就越大。由此,在[a,b]上要提高Pn(x)逼近f(x)的精度,就要提高Pn(x)的次数,这就使得计算量增大。
(2)用插值多项式逼近函数
设已知(xi,f(xi)),(i?0,1,?,n)则存在唯一n次插值多项式Pn(x)使
Pn(xi)?f(xi),(i?0,1,?,n)
其中xi(i?0,1,?,n)?[a,b]且互不相同,于是Pn(x)可作为f(x)近似函数,即 f(x)?Pn(x),x?[a,b]
插值多项式逼近f(x)也是利用n?1个点上f(x)的函数值来模似f(x)的性质,在n?1个节点xi上Pn(x)逼近f(x)无误差,当x?xi时,f(x)?Pn(x),Pn(x)逼近f(x),也可能使误差|Rn(x)|?|f(x)?Pn(x)|较大。如果实际问题要求:|f(x)?Pn(x)|??对x?[a,b](其中? 是给定精度要求),用插值多项式Pn(x)去逼近f(x)就可能失败。
例1 设f(x)?ex,x?[?1,1],试考查用4次Taylor多项式P4(x)逼近f(x)的误差。
解 用在x?0展开的4次Taylor多项式逼近f(x);
121314?P(x)?1?x?x?x?x4??2624 ?5?R(x)?ex?P(x)?x(?)?1x5?e?,x?[?1,1]4n?5!120?其中?在x和0之间。
于是有误差估计:
1?|R(x)|?|x|5e4?120 ? ??max|R(x)|?e?0.02264?120??1?x?1且有
15e5当0?x?1 x?R4(x)?x,120120误差P4(x)随x增加(0?x?1)而增加(对x?[?1,1]同理可说明),说明误差P4(x)在整个区间[-1,1]不是均匀分布,如图3-1。 现提出下述函数逼近问题。
问题:设f(x)为[a,b]上连续函数,寻求一个近似函数P(x)(多项式)使在[a,b]上均匀逼近
f(x)。
下面给出最佳逼近的数学提法:
C[a,b]?{f(x)|f(x)为[a,b]上实连续函数}
Hn{Pn(x)|Pn(x)??aixi,ai为实数}
i?0nB为较简单且便于计算的函数类,例如为代数多项式或三角项式或分式有理函数等。
设给定f(x)?C[a,b],要求在B中寻求一个函数P(x)使误差f(x)-P(x)在其种度量意义下最小。
1. 最佳一致逼近
设给定f(x)?C[a,b],max|f(x)?Pn(x)|,作为度量误差f(x)-P(x)的“大小”标准,
a?x?bPn(x)?Hn.
?寻求次数?n的多项式Pn(x)?Hn使最大误差最小,即 Pn(x)?Hna?x?bminmax|f(x)?Pn(x)|?max|f(x)?Pn?(x)|
a?x?b??如果这样多项式Pn(x)存在,称Pn(x)为f(x)在[a,b]上n次最佳一致逼近多项式。这个
逼近问题近问题称炒最佳一致逼近(或称为Chebyshev逼近,或称为极大极小逼近)。
?在现论上可以证明,对任意的[a,b]上连续函数f(x)的n次最佳一致逼近多项式Pn(x)存
有且唯一。最佳一致逼近主要用于初等函数的计算。
2.最佳平方逼近以均方误差[小“标准,P(x)?Hn.
寻求P(x)?Hn,使均方误差最小,即
Pn(x)?Hn2‘大?(x)(f(x)?P(x))dx]2作为度量误差f(x)-P(x)的n?ab1min[??(x)(f(x)?Pn(x))dx]2
a?2?(x)(f(x)?P(x))dx]2 ?anb21 [b1其中?(x)?0为权函数。
??如果这样的多项式Pn(x)存在,称Pn(x)为f(x)在Hn中的最佳平方逼近多项近。这种逼
近问题称为最佳平方逼近。
对于离散数据的逼近问题有: 3. 小二乘逼近
如果y?f(x)仅仅在有限个点上给定,即已知y?f(x)实验数据
xx1x2?xm
f(x)y1y2?ym寻求次数?n多项式P(x)?Hn,使编差平方(或带权)和最小,即
Pn(x)?Hnmin?(x))2 ??i(f(xi)?Pn(xi))2??(f(xi)?pni?1i?1mm?如果这样的多项式P(x)?Hn存在,称Pn(x)为实验数据的最小二乘逼近函数或称为实验?n数据的最小二乘拟合多项式或称为y?f(x)的经验公式(数学模型)。
对于给定f(x)?C[a,b],需要研究的问题是:
?(1)在各种度量意义下最佳逼近多项式Pn(x)?Hn是否存在,是否唯一。本章主要讲座?最佳平方逼近,最小二乘逼近Pn(x)?Hn存在性及唯一性。
?(2)如何具体寻找或构造或构造各种最佳逼近意义下多项式Pn(x)。
§2 连续函数空间,正交多项式理论
2. 1连续函数空间
[a,b]上所有实连续函数集合C[a,b],关于函数的加法及与数(实数)乘法运算为一线性空间,对于f(x)?C[a,b]称f为C[a,b]中一个元素,下面将在C[a,b]内引进内积,范数等概念。
1.内积
设f,g?C[a,b]为任一对元素,定义
(f,g)???(x)f(x)g(x)dx
ab为一实数(其中?(x)?0,x?[a,b]且于[a,b]为可积,各对[a,b]任何子区间?(x)?0,称为权函数)称为元素f,g?C[a,b]的内积。显然,连续函数空间C[a,b]中元素的内积满足下述性质:
(a)(f,g)?(g,f),?f,g?C[a,b]
(b)(Cf,g)?C(f,g),C为常数 (c)(f1?f2,g)?(f1,g)?(f2,g)
(d)(f,f)?0.f?C[a,b]且(f,f)?0当且仅当f(x)?0,又称C[a,b]为内积空间。
3. 范数
定义1 关于函数f(x)?C[a,b]的某个实值非负函数N(f)?||f||,如果满足下述条件:
1o||f||?0,||f||?0当且仅当f?0 2o||cf||?|c|||f||(c为实数)
3o三角不等式:对任意f(x)?C[a,b],有 ||f?g||?||f||?||g||
称N(f)?||f||,为f(x)的范数或模。 定义2 (1)设f(x)?C[a,b],称 N?(f)?||f||??maxf(x)
a?x?b为f的“?”范教(或Chebyshev范数)。 (2)设f(x)?C[a,b]称
N2(f)?||f||2?(f,f)为f的“2”范数(或模)。
1/2?[??(x)f2(x)]1/2
aoob可以验证N?(f),N2(f)满足范数的3个条件1?3(见定理1)。 定理1 设f,g?C[a,b]则有
(1)哥西-许瓦兹(Cauchy-Schwarz)不等式 |(f,g)|?||f||2?||g||2
(2)三角不等式||f?g||2?||f||2?||g||2
证明(1)对任对f,g?C[a,b](不妨设g?0)及任何实数t,则有
0?(f?tg,f?tg)?(f,f)?2t(f,g)?t2(g,g)
?c?bt?at2,?t?R其中 a?(g,g)?0,b??2(f,g),c?(f,f)
22则有 b?4ac?4(f,g)?4(g,g)?(f,f)?0 即|(f,g)|?||f||2?||g||2
(2)考查
||f?g||22?(f?g,f?g)?(f,f)?2(f,g)?(g,g)?(g,g)
由哥西-许瓦兹不等式,则有
2222||f?g||2?||f||?2|(f,g)|?||g||?||f||?2||f||||g||?||g||2222222?(||f||2?||g||2)3.距离概念
2
定义3 设f,g?C?a,b?,称d(f,g)?f?ga
为f,g之间距离(其中a??或2)。 4.正交函数组
定义4(1)设f(x),g(x)?C?a,b?,如果(f,g)?上带树权?(x)为正交。
(2)设有函数组??0(x),?1(x),?,?n(x)?,其中?i(x)?C?a,b?(i?0,?,n),如果
0, (??)?b?(x)?(x)?(x)dx???ijaij?当i?j ?Ai?0,当i?j?ba?(x)f(x)g(x)dx?0称f和g在?a,b?称??i?为?a,b?上带权正交函数组。
0,当i?j (3)如果(??)???ij?1,当i?j称??i?为[a,b]上带权?(x)标准正交组。
例2 三角函数组?1,cosx,sinx,?,cosnx,sinnx?于[??,?]上组成一正交组。
解 显然有
(1)(cosix,cosjx)???cosixcosjxdx?0当i?j,且i,j?1
???0,当i?j
??,当i?j?0(3)(cosix,cosix)??
(2)(sinix,sinjx)??(4)(1,1)=
??dx?2?
??(1,sinix)?0,(1,cosix)?0,i?1,?,n
5.函数组的线性无关 定义5 设有函数组??0(x),?1(x),?,?n(x)?,其中?i(x)?C[a,b](i?0,?,n) (1)如果存在不全为零数a0,a1,?,an使
a0?0(x)?a1?1(x)???an?n(x)?0,对所有x?[a,b]称函数组??i?i?0在[a,b]上为线
n性相关。
(2)如果
a0?0(x)?a1?1(x)???an?n(x)?0,对所有x?[a,b]则a0?a1???an?0,称[?0,?1,?,?n]在[a,b]上是线性无关。
例3 函数组1,x?,xn,其中xi?C[a,b](i?0,1,?,n)于[a,b]为线性无关。 证明 反证法。设1,x?,xn于[a,b]为线性相关,即存在不全为零的数c0,c1,?cn使
????Pn(x)?c0?c1x???cnxn?0 (2。1)
对所有x?[a,b](2。1)式成立,而Pn(x)为次数?n多项式,最多有n个零点,而(2。1)式说明Pn(x)有无穷多零点,矛盾。
定理2 C[a,b]内函数组??0(x),?1(x),?,?n(x)?于[a,b]线性无关充要条件是行列式
(?0,?0)(?0,?1)?(?0,?n)(?,?)(?1,?1)?(?1,?n)G(?0,?1,?,?n)?10?0
?(?n,?0)??(?n,?1)?(?n,?n)行列式G(?0,?,?n)称为函数组??i?的Gram行列式。