第一节最小二乘法的基本原理和多项式拟

《第一节最小二乘法的基本原理和多项式拟》由会员分享，可在线阅读，更多相关《第一节最小二乘法的基本原理和多项式拟（8页珍藏版）》请在装配图网上搜索。

1、第一节最小二乘法的基本原理和多项式拟合max a从整体上考虑近似函数P（x）同所给数据点（Xi，yi）（i=o,i,m）误差 ri 二 P（Xi）7弋=0,1,m），即误差向量mZ rii =0ri= P（Xi）-yi（i=0,1,m）绝对值的最大值0笏,即误差向量r的1 r =（0'1,rm）T的X范数；二是误差绝对值的和m2Z ri范数；三是误差平方和 7 的算术平方根，即误差向量r的2范数；前两种 方法简单、自然，但不便于微分运算，后一种方法相当于考虑2范数的平方,m2送rir因此在曲线拟合中常采用误差平方和 V 来 度量误差ri（i=0 , 1,，m）的整数据拟合的具体作法是：

2、对给定数据（Xi，yi） （i=0,1,，m）,在取定的函数类中,求P（x），使误差ri二p（Xi）-yi（i=0,i,m）的平方和最小，即mm7P（Xi） - yi F 二 mini =0= i =0从几何意义上讲，就是寻求与给定点（Xi, yi）（i=0,1,m）的距离平方和为最 y = P（x）（图6-1 ）。函数P（x）称为拟合 函数或最小二乘解，求拟 合函数P（x）的方法称为曲线拟合的最小二乘法。可有不同的选取方法.假设给定数据点*）0=0,1,m），为所有次数不超过n（n'm）的多项式构nPn（X）=送 akXk成的函数类，现求一心m,使得< n孑k|akXi -yi

3、= min<k=0丿（1）当拟合函数为多项式时，称为多项式拟合，满足式（1）的Pn（X）称为最小二乘 拟合多项式。特别地，当n=1I =送 bn(xj yi2i =0mnI 7 (' akXk - yi)2i -0 k -0为电禺,an的多元函数，因此上述问题即为求1 = l(a0,a1an)的极值 问题。 由多元函数求极值的必要条件，得：lm n k'=2、C akX： -yj灯=0,i =0 k =0:ajj =0,1,nnzk z0i z0mm(迟 Xij + )a£ X yi,i z0j =0,1, ,n(3)是关于a0,a1,am +1n的线性方程组，

4、用矩阵表示为Z Xin 1i=0mln 41Z Xii =0m' Xii =0m2Xii =0m n 1Xii =0ai-厂 1瓦yii=0m送 Xi yii=0mV n亠XiJ=0式(3)或式(4可以证明，方程组(4)m、- 2nXii =0mV n -Xi yii=0的系数矩阵是一个对称正定矩阵,故存在唯一解。从式(4)中解出ak(k=0,1,，n)nPn(x) - ' akXk心(5)可以证明，式(5)中的Pn(X)满足式(1)，即卩Pn(X)为所求的拟合多项式。我m 瓦 bn(Xi) -yi 2(、们把i £称为最小二乘拟合多项式Pn(X)12mr|2Dn(X

5、i) - yii =0由式(2)r|：八 y： -、a" x：yi) i =0k=e i多项式拟合的一般方法可归纳为以下几步:(1)由已知数据画出函数粗略的图形散点图，确定拟合多项式的次数n；m送Xij列表计算i £写出正规方程组，求出a0,a1,nPn(x)八 am(j =0,1,2n)' Xijyi(j =0,1,2n)和an(4)写出拟合多项式kkXk =0在实际应用中，n : m或n乞m；当n = m时所得的拟合多项式就是拉格朗日或牛 顿插值多项式。例1测得铜导线在温度Tic）时的电阻RD 如表6-1 ,求电阻R与温度Ti0123456T(C)19.125.

6、030.136.040.045.150.0Ri（76.3077.8079.2580.8082.3583.9085.10解 画出散点图（图6-2），可见测得的数据接近一条直线，故取n=1,拟合函数为R =a0 a"列表如下iTiRiTi2TiR019.176.30364.811457.330125.077.80625.001945.000230.179.25906.012385.425336.080.801296.002908.800440.082.351600.003294.000545.183.902034.013783.890650.085.102500.004255.000E2

7、45.3565.59325.8320029.4457245.3 a0 _565.5245.3 9325.83 a, 一 20029.4450）二 70.572,a, = 0.921故得R与TR =70.572 +0.92仃利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由R=0得T=-242.5T=-242.56-2i012345678Xi1345678910y1054211234解设拟合曲线方程为2y 二 a。 aix a2xIXiyi2Xi3Xi4Xi2Xi yi011011110101359278115452 1441664:25616r 64352251256251050461

8、36216129663657149343240174968264512409616P 12879381729656127243810410010001000040400E53323813017253171471025952381a032523813017印 =147'381 3017253172J025a0 = 13.4597,a1 - -3.6053a2 = 0.2676y =13.4597 - 3.6053 0.2676x2*三定理1 设节点X0，X1厂X互异，则法方程组（4证 由克莱姆法则，只需证明方程组（4用反证法，设方程组（4(7有非零解。将式(8)m十1m丁nZ Xi式n

9、m、(k =0 i =0m7 Xii -0m、Xi2i卫m-Xin1i卫Xij k)ak =0,送yi7ma1a=Z Xi yi7m寸n迟 Xi yi.7_mmn' Xi7m丁nXii卫m一 2nXii亠j =0,1/' ,n(8中第j个方程乘以aj(j=0,1,，n)，然后将新得到的n+1个方程左n n m迟亿人仆总0右两端分别相加，得冋上£ 7=0nn送a* (瓦x/Bk卜送送送akajX广 迈(瓦ajxj)(ak/Y 咕了 j ：0 _k =0 i =0i =0 j =0 k =0i =0 j =0k=Pi=0nPn(x)akXkkTPn(Xi) = O(i=0

10、,i,m)Pn(x)是次数不超过n的多项式，它有m+1>n个相异零点,须有aa an =o，与齐次方程组有非零解的假设矛盾。由代数基本定理,因此正规方程组n(4)必有唯一解。定理2设a0，a1，an是满足式(1Pn(x)=W akXk是正规方程组(4)的解，则心证 只需证明，对任意一组数bo,bi,，6组成的多项式nkQn(x)八 bkX心 ，恒有m送 Qn(Xi) yi P 兰送【Pn(Xi) yi Fi =0i=0mm' Qn(Xi) - yi 2 - 'Pn(Xi) - yii =0i =0mm=Qn(Xi) Pn(Xj)22、Qn(Xj- Pn(Xj)lPn(Xj

11、)- 1i =0i =0m nn-0 2 一 -(bja)x/ ； p-： akX0 j =0Itk =012k -yi=竺社bjj =0一 a*、"i =0 . .k=0k akXi因为ak（k=0,1,，n）是正规方程组（4）的解，所以满足式（2mm' Qn（Xi ） yi f 7 Pn（Xi） yi f _ 0i卫7故 Pn（X）*四在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而 拟合节点分布的区间X0，Xm】 Xi（i=0,i,，m）不使用原始节点作拟合，将节点分布区间作平移，使新的节点为关于原点对X。+ Xmi =0,1, ,m(9)对平移后

12、的节点Xi （i=0,1,-X 二 pXi ,m),= 0,1, ,m(10P =2r；m 2(m 1) x (Xi)2r7, (r是拟合次数)(11经过这样调整可以使Xi的数量级不太大也不太小，特别对于等距节点X =Xo Th（i二0,1，,m），作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设 为A,则对14次多项式拟合，条件数都不太大，都可以得到拟合次数1234cond2 (A)=1<9.9<50.3<435 在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交 多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这两种方法都使

13、正规方程 组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。例如 m=19, X0=328,h=1, X1 = X0+ih，i=0,1,，19,即节点 分布在328,347 ，直接用Xi构造正规方程组系数矩阵Acon d2（A）=2.25 1016328347xi =xi -i =0,1,19X构造正规方程组系数矩阵Acon d2 (A) =4.483868 1016比 con d2(Ao)降低了 13Xi = pXi ,用"构造正规方程组系数矩阵A2cond2(A2)= 6.839又比cond2(A)降低了 3如有必要，在得到的拟合多项式 Pn(X”)中使用原来节点所对应的变量X，可写为Qn(X)= pg(X _X。)仍为一个关于x的n次多项式，正是我们要求的拟合多项式