数学建模方法回归分析

《数学建模方法回归分析》由会员分享，可在线阅读，更多相关《数学建模方法回归分析（51页珍藏版）》请在装配图网上搜索。

1、第 9讲 回 归 分 析2用数学软件求解回归分析问题. 回 归 分 析数学模型及定义*模型参数估计*检验、预测与控制可线性化的一元非线性回归（曲线回归）数学模型及定义*模型参数估计逐步回归分析* 多元线性回归中的 检验与预测 一、数学模型例1 测16名成年女子的身高与腿长所得数据如下：以身高x为横坐标，以腿长y为纵坐标将这些数据点（xi，yi）在平面直角坐标系上标出. 140 145 150 155 160 16584 86 88 90 92 94 96 98 100 102散点图 xy 10 一元线性回归分析的主要任务是： 二、模型参数估计1回归系数的最小二乘估计 221 10 xx yxx

2、y xy 解得 （经验）回归方程为: )( 110 xxyxy 或 ni ini ii xx yyxx1 211 其中 ni ini i ynyxnx 11 1,1， ni iini i yxnxyxnx 11 22 1,1 . 三、检验、预测与控制1回归方程的显著性检验 对回归方程xY 10 的显著性检验，归结为对假设 0:;0: 1110 HH 进行检验. （）F检验法 （）t 检验法 ni ini ixx xnxxxL 1 221 2)(其中 （）r 检验法 记 ni ni iini ii yyxx yyxxr 1 1 221 )()( )( 2回归系数的置信区间0 和1置信水平为1-的

3、置信区间分别为 xxexxe LxnntLxnnt 22102210 1)2(,1)2( 和 xxexxe LntLnt /)2(,/)2( 211211 3预测与控制（1）预测0y 的置信水平为1的预测区间为 )(),( 0000 xyxy 其中 xxe L xxnntx 20210 11)2()( （2）控制 要求： xy 10的值以1的概率落在指定区间 yy , 四、可线性化的一元非线性回归 （曲线回归）例2 出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀， 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验，测得的数据列于下表： 使用次数增大容积使用次数增大

4、容积 2 3 4 5 6 7 8 9 6.42 8.20 9.58 9.50 9.70 10.00 9.93 9.99 10 11 12 13 14 15 16 10.49 10.59 10.60 10.80 10.60 10.90 10.76 2 4 6 8 10 12 14 166 6.5 7 7.5 8 8.5 9 9.5 10 10.5 11散点图此即非线性回归或曲线回归 问题（需要配曲线）配曲线的一般方法是： 通常选择的六类曲线如下： （1）双曲线x bay 1 一、数学模型及定义 二、模型参数估计 得到的i代入回归平面方程得： kk xxy . 110 称为经验回归平面方程. i称

5、为经验回归系数. 解得估计值 YXXX TT 1 kk xxxY .2210 称为回归多项式.上面的回归模型称为多项式回归. 三、多元线性回归中的检验与预测 （）F 检验法（）r 检验法 其中 ni i yyU 1 2 （回归平方和）(残差平方和) 2预测（1）点预测（2）区间预测 1 kn Qee 四、逐步回归分析（4）“有进有出”的逐步回归分析.（1）从所有可能的因子（变量）组合的回归方程中选择最优者；（2）从包含全部变量的回归方程中逐次剔除不显著因子；（3）从一个变量开始，把变量逐个引入方程；选择“最优”的回归方程有以下几种方法： “最优”的回归方程就是包含所有对Y有影响的变量, 而不包

6、含对Y影响不显著的变量回归方程. 以第四种方法，即逐步回归分析法在筛选变量方面较为理想. 这个过程反复进行，直至既无不显著的变量从回归方程中剔除，又无显著变量可引入回归方程时为止.逐步回归分析法的思想： 从一个自变量开始，视自变量Y对作用的显著程度，从大到小地依次逐个引入回归方程. 当引入的自变量由于后面变量的引入而变得不显著时，要将其剔除掉. 引入一个自变量或从回归方程中剔除一个自变量，为逐步回归的一步. 对于每一步都要进行Y值检验，以确保每次引入新的显著性变量前回归方程中只包含对Y作用显著的变量. 1多元线性回归2多项式回归3非线性回归4逐步回归 多元线性回归 b=regress( Y,

7、X ) 11 12 121 22 21 2111 . ppn n npx x xx x xX x x x 12nYYY Y 1确定回归系数的点估计值：ppxxy .110 3画出残差及其置信区间： rcoplot（r，rint）2求回归系数的点估计和区间估计、并检验回归模型： b, bint,r,rint,stats=regress(Y,X,alpha)回归系数的区间估计残差用于检验回归模型的统计量，有三个数值：相关系数r 2、F值、与F 对应的概率p置信区间 显著性水平（缺省时为0.05） 例1解：1输入数据：x=143 145 146 147 149 150 153 154 155 156

8、 157 158 159 160 162 164;X=ones(16,1) x;Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2回归分析及检验： b,bint,r,rint,stats=regress(Y,X) b,bint,statsTo MATLAB(liti11) 3残差分析，作残差图： rcoplot(r,rint) 从残差图可以看出，除第二个数据外，其余数据的残差离零点均较近，且残差的置信区间均包含零点，这说明回归模型 y=-16.073+0.7194x能较好的符合原始数据，而第二个数据可视为异常点. 4预测及作图： z=b(

9、1)+b(2)* plot(x,Y,k+,x,z,r) 2 4 6 8 10 12 14 16-5 -4 -3 -2 -1 0 1 2 3 4 Residual Case Order Plot Res idua ls Case NumberTo MATLAB(liti12) 多 项 式 回 归 （一）一元多项式回归 （1）确定多项式系数的命令：p，S=polyfit（x，y，m）（2）一元多项式回归命令：polytool（x，y，m）1回归：y=a1xm+a2xm-1+amx+am+12预测和预测误差估计：（1）Y=polyval（p，x）求polyfit所得的回归多项式在x处 的预测值Y；

10、（2）Y，DELTA=polyconf（p，x，S，alpha） 求polyfit所得的回归多项式在x处的预测值Y及预测值的显 著性为1-alpha的置信区间Y DELTA；alpha缺省时为0.5. 法一 直接作二次多项式回归：t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2)To MATLAB（liti21）1329.98896.652946.489 2 tts得回归模型为 ： 法二化为多元

11、线性回归：t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1) t (t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22) 2 9.1329 65.8896 489.2946s t t 得回归模型为 ：Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r)预测及作图To MATLAB(liti23) （二）多元二项式回归命令

12、：rstool（x，y，model, alpha）nm矩阵显著性水平（缺省时为0.05）n维列向量 由下列4个模型中选择1个（用字符串输入，缺省时为线性模型）： linear（线性）：mm xxy 110 purequadratic（纯二次）： nj jjjmm xxxy 1 2110 interaction（交叉）： mkj kjjkmm xxxxy 1110 quadratic（完全二次）： mkj kjjkmm xxxxy ,1110 例3 设某商品的需求量与消费者的平均收入、商品价格的统计数 据如下，建立回归模型，预测平均收入为1000、价格为6时 的商品需求量. 需求量100 75

13、80 70 50 65 90 100 110 60 收入1000 600 1200 500 300 400 1300 1100 1300 300 价格5 7 6 6 8 7 5 4 3 9 选择纯二次模型，即 2222211122110 xxxxy 法一 直接用多元二项式回归：x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2; rstool(x,y,purequadratic) 在画面左下方的下拉式菜单中选”all”,

14、 则betarmse和residuals都传送到MATLAB工作区中. 将左边图形下方方框中的“800”改成1000，右边图形下方的方框中仍输入6.则画面左边的“Predicted Y”下方的数据由原来的“86.3791”变为88.4791，即预测出平均收入为1000价格为6时的商品需求量为88.4791. 在MATLAB工作区中输入命令： beta, rmse 故回归模型为：222121 8475.10001.05709.261464.05313.110 xxxxy 剩余标准差为4.5362, 说明此回归模型的显著性较好.To MATLAB(liti31) 结果为: b = 110.5313

15、 0.1464 -26.5709 -0.0001 1.8475 stats = 0.9702 40.6656 0.0005法二To MATLAB(liti32)返回 2222211122110 xxxxy 将 化为多元线性回归： 非线性回 归 （1）确定回归系数的命令： beta，r，J=nlinfit（x,y,model,beta0）（2）非线性回归命令：nlintool（x，y，model, beta0，alpha）1回归：残差Jacobi矩阵回归系数的初值事先用M文件定义的非线性函数估计出的回归系数输入数据xy分别为 矩阵和n维列向量，对一元非线性回归，x为n维列向量.mn2预测和预测误

16、差估计：Y，DELTA=nlpredci（model, x，beta，r，J）求 nlinfit 或lintool所得的回归函数在x处的预测值Y及预测值的显著性水平为1-alpha的置信区间Y DELTA. 例 4 对第一节例2，求解如下：2输入数据： x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76; beta0=8 2;3求回归系数： beta,r ,J=nlinfit(x,y,volum,beta0)； beta得结果： beta = 11.6036 -1.064

17、1即得回归模型为：1.064111.6036e xy To MATLAB(liti41) 4预测及作图： YY,delta=nlpredci(volum,x,beta,r ,J)； plot(x,y,k+,x,YY,r)To MATLAB(liti42) 例5 财政收入预测问题：财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等因素有关.表中列出了19521981年的原始数据，试构造预测模型. 解 设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为x1、x2、x3、x4、x5、x6，财政收入为y，设变量之间的关系为：y= ax1+bx2+cx3+

18、dx4+ex5+fx6使用非线性回归方法求解. 1 对回归模型建立M文件model.m如下: function yy=model(beta0,X) a=beta0(1); b=beta0(2); c=beta0(3); d=beta0(4); e=beta0(5); f=beta0(6); x1=X(:,1); x2=X(:,2); x3=X(:,3); x4=X(:,4); x5=X(:,5); x6=X(:,6); yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6; 2. 主程序liti6.m如下:X=598.00 349.00 461.00 57482.00 20729.

19、00 44.00 . 2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00 . 271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00 . 564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00 . 890.00 826.00 810.0;beta0=0.50 -0.03 -0.60

20、0.01 -0.02 0.35;betafit = nlinfit(X,y,model,beta0) To MATLAB(liti6） betafit = 0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即y= 0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6结果为: 逐 步 回 归逐步回归的命令是： stepwise（x，y，inmodel，alpha） 运行stepwise命令时产生三个图形窗口：Stepwise Plot，Stepwise Table，Stepwise History. 在

21、Stepwise Plot窗口，显示出各项的回归系数及其置信区间.Stepwise Table 窗口中列出了一个统计表，包括回归系数及其置信区间，以及模型的统计量剩余标准差（RMSE）、相关系数（R-square）、F值、与F对应的概率P.矩阵的列数的指标，给出初始模型中包括的子集（缺省时设定为全部自变量）显著性水平（缺省时为0.05）自变量数据, 阶矩阵mn因变量数据， 阶矩阵1n 例6 水泥凝固时放出的热量y与水泥中4种化学成分x1、x2、x3、 x4 有关，今测得一组数据如下，试用逐步回归法确定一个 线性模型.1数据输入：x1=7 1 11 11 7 11 3 1 2 21 1 11 1

22、0;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12; y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4; 2逐步回归：（1）先在初始模型中取全部自变量： stepwise(x,y)得图Stepwise Plot 和表Stepwise Table图Stepwise Plot中四条直线都是虚线

23、，说明模型的显著性不好从表Stepwise Table中看出变量x3和x4的显著性最差. （2）在图Stepwise Plot中点击直线3和直线4，移去变量x3和x4移去变量x3和x4后模型具有显著性. 虽然剩余标准差（RMSE）没有太大的变化，但是统计量F的值明显增大，因此新的回归模型更好. To MATLAB(liti51） （3）对变量y和x1、x2作线性回归： X=ones(13,1) x1 x2; b=regress(y,X)得结果：b = 52.5773 1.4683 0.6623故最终模型为：y=52.5773+1.4683x1+0.6623x2To MATLAB(liti52）

24、 1考察温度x对产量y的影响，测得下列10组数据： 温度（）20 25 30 35 40 45 50 55 60 65 产量（kg）13.2 15.1 16.4 17.1 17.9 18.7 19.6 21.2 22.5 24.3求y关于x的线性回归方程，检验回归效果是否显著，并预测x=42时产量的估值及预测区间（置信度95%）.2某零件上有一段曲线，为了在程序控制机床上加工这一零件，需要求这段曲线的解析表达式，在曲线横坐标xi处测得纵坐标yi共11对数据如下：求这段曲线的纵坐标y关于横坐标x的二次多项式回归方程. 4混凝土的抗压强度随养护时间的延长而增加，现将一批混凝土作成12个试块，记录了养护日期x（日）及抗压强度y（kg/cm2）的数据： 试求xbay ln 型回归方程.