回归分析ppt课件

《回归分析ppt课件》由会员分享，可在线阅读，更多相关《回归分析ppt课件（53页珍藏版）》请在装配图网上搜索。

1、数学建模与数学实验数学建模与数学实验回归分析回归分析实验目的实验目的实验内容实验内容2掌握用数学软件求解回归分析问题掌握用数学软件求解回归分析问题.1直观了解回归分析根本内容直观了解回归分析根本内容.1回归分析的根本实践回归分析的根本实践.3实验作业实验作业.2用数学软件求解回归分析问题用数学软件求解回归分析问题.回归分析回归分析数学模型及定义数学模型及定义*模型参数估计模型参数估计*检验、预测与控制检验、预测与控制可线性化的一元非线可线性化的一元非线性回归曲线回归性回归曲线回归数学模型及定义数学模型及定义*模型参数估计模型参数估计逐渐回归分析逐渐回归分析*多元线性回归中的多元线性回归中的 检

2、验与预测检验与预测一、数学模型一、数学模型例例1 测测16名成年女子的身高与腿长所得数据如下：名成年女子的身高与腿长所得数据如下：以身高x为横坐标，以腿长y为纵坐标将这些数据点xi，yi在平面直角坐标系上标出.1401451501551601658486889092949698100102散点图xy10一元线性回归分析的主要义务是：前往前往二、模型参数估计二、模型参数估计1回归系数的最小二乘估计回归系数的最小二乘估计22110 xxyxxyxy解得（经经验验）回回归归方方程程为为:)(110 xxyxy 或 niiniiixxyyxx1211 其中niiniiynyxnx111,1，niiin

3、iiyxnxyxnx11221,1.前往前往三、检验、预测与控制三、检验、预测与控制1回归方程的显著性检验回归方程的显著性检验 对回归方程xY10的显著性检验，归结为对假设 0:;0:1110HH进行检验.F检验法检验法 t 检验法检验法niiniixxxnxxxL12212)(其中r 检验法检验法记 niniiiniiiyyxxyyxxr11221)()()(2回归系数的置信区间回归系数的置信区间0和和1置信水平为置信水平为 1-的置信区间分别为的置信区间分别为 xxexxeLxnntLxnnt221022101)2(,1)2(和 xxexxeLntLnt/)2(,/)2(2112113预测

4、与控制预测与控制1预测预测其中xxeLxxnntx2021011)2()(12121,uyuyee特别，当n很大且x0在附近取值时,y的置信程度为的预测区间近似为 )(),(0000 xyxyy的置信程度为1-的预测区间为 2控制控制要求：xy10的值以1的概率落在指定区间yy,前往前往四、可线性化的一元非线性回归四、可线性化的一元非线性回归 曲线回归曲线回归例例2 出钢时所用的盛钢水的钢包，由于钢水对耐火资料的侵蚀，出钢时所用的盛钢水的钢包，由于钢水对耐火资料的侵蚀，容积不断增大容积不断增大.我们希望知道运用次数与增大的容积之间的关我们希望知道运用次数与增大的容积之间的关 系系.对一钢包作实

5、验，测得的数据列于下表：对一钢包作实验，测得的数据列于下表：24681012141666.577.588.599.51010.511散点图此即非线性回归或曲线回归 问题需求配曲线问题需求配曲线配曲线的普通方法是：配曲线的普通方法是：通常选择的六类曲线如下：（1）双双曲曲线线xbay1前往前往一、数学模型及定义一、数学模型及定义前往前往二、模型参数估计二、模型参数估计解得估计值 YXXXTT1前往前往 kkxxxY.2210称为回回归归多多项项式式.上面的回归模型称为多多项项式式回回归归.三、多元线性回归中的检验与预测三、多元线性回归中的检验与预测 F 检验法检验法r 检验法检验法其中 niiy

6、yU12（回回归归平平方方和和）(残差平方和)2预测预测1点预测点预测2区间预测区间预测1knQee前往前往四、逐渐回归分析四、逐渐回归分析4“有进有出的逐渐回归分析.1从一切可以的因子变量组合的回归方程中选择最优者；2从包含全部变量的回归方程中逐次剔除不显著因子；3从一个变量开场，把变量逐个引入方程；选择“最优的回归方程有以下几种方法：“最优的回归方程就是包含一切对Y有影响的变量,而不包含对Y影响不显著的变量回归方程.以第四种方法，即逐渐回归分析法在挑选变量方面较为理想.这个过程反复进展，直至既无不显著的变量从回归方程中剔除，又无显著变量可引入回归方程时为止.逐渐回归分析法的思想：逐渐回归分

7、析法的思想：从一个自变量开场，视自变量Y对作用的显著程度，从大到小地依次逐个引入回归方程.当引入的自变量由于后面变量的引入而变得不显著时，要将其剔除掉.引入一个自变量或从回归方程中剔除一个自变量，为逐渐回归的一步.对于每一步都要进展Y值检验，以确保每次引入新的显著性变量前回归方程中只包含对Y作用显著的变量.前往前往1多元线性回归多元线性回归2多项式回归多项式回归3非线性回归非线性回归4逐渐回归逐渐回归前往前往多元线性回归多元线性回归 b=regress(Y,X)111212122212111.ppnnnpxxxxxxXxxx12nYYYY1确定回归系数的点估计值：确定回归系数的点估计值：ppx

8、xy.1103画出残差及其置信区间：画出残差及其置信区间：rcoplotr，rint2求回归系数的点估计和区间估计、并检验回归模型：求回归系数的点估计和区间估计、并检验回归模型：b,bint,r,rint,stats=regress(Y,X,alpha)回归系数的区间估计残差用于检验回归模型的统计量，有三个数值：相关系数r 2、F值、与F 对应的概率p置信区间 显著性程度缺省时为0.05例例1 解：解：1输入数据：输入数据：x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164;X=ones(16,1)x;Y=88 8

9、5 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2回归分析及检验：回归分析及检验：b,bint,r,rint,stats=regress(Y,X)b,bint,statsTo MATLAB(liti11)3残差分析，作残差图：残差分析，作残差图：rcoplot(r,rint)从残差图可以看出，除第二个数据外，其他数据的残差离零点均较近，且残差的置信区间均包含零点，这阐明回归模型 y=-16.073+0.7194x能较好的符合原始数据，而第二个数据可视为异常点.4预测及作图：预测及作图：z=b(1)+b(2)*plot(x,Y,k+,x,z,r)246

10、810121416-5-4-3-2-101234Residual Case Order PlotResidualsCase Number前往前往To MATLAB(liti12)多多 项项 式式 回回 归归 一一元多项式回归一一元多项式回归 1确定多项式系数的命令：确定多项式系数的命令：p，S=polyfitx，y，m2一元多项式回归命令：一元多项式回归命令：polytoolx，y，m1回归：回归：y=a1xm+a2xm-1+amx+am+12预测和预测误差估计：预测和预测误差估计：1Y=polyvalp，x求polyfit所得的回归多项式在x处 的预测值Y；2Y，DELTA=polyconf

11、p，x，S，alpha 求polyfit所得的回归多项式在x处的预测值Y及预测值的显 著性为1-alpha的置信区间Y DELTA；alpha缺省时为0.5.法一法一 直接作二次多项式回归：直接作二次多项式回归：t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;p,S=polyfit(t,s,2)To MATLABliti211329.98896.652946.4892tts得回归模型为：法二法二化为多元线性回归：化为多元线性回归：

12、t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1)t(t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22)29.132965.8896489.2946stt得回归模型为：Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r)预测及作图预测及作图To MATLAB(liti23)二多元二项式回归二多元二项式回归命令：命令：r

13、stoolx，y，model,alpha其中其中X为为nm矩阵，矩阵，y为为n维列向量，维列向量，model由以下由以下4个模型个模型中选择中选择1个用字符串输入，缺省时为线性模型：个用字符串输入，缺省时为线性模型：linear线性线性purequadratic纯二次：纯二次：interaction交叉：交叉：quadratic完全二次：完全二次：mmxxy 110 njjjjmmxxxy12110 mkjkjjkmmxxxxy1110 mkjkjjkmmxxxxy,1110 例例3 设某商品的需求量与消费者的平均收入、商品价钱的统计数设某商品的需求量与消费者的平均收入、商品价钱的统计数 据如

14、下，建立回归模型，预测平均收入为据如下，建立回归模型，预测平均收入为1000、价钱为、价钱为6时时 的商品需求量的商品需求量.法一法一 直接用多元二项式回归：x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2;rstool(x,y,purequadratic)在画面左下方的下拉式菜单中选all,那么betarmse和residuals都传送到MATLAB义务区中.将左边图形下方方框中的“800改成1000，右边图形下方的

15、方框中仍输入6.那么画面左边的“Predicted Y下方的数据由原来的“86.3791变为88.4791，即预测出平均收入为1000价钱为6时的商品需求量为88.4791.在MATLAB义务区中输入命令：beta,rmseTo MATLAB(liti31)结果为:b=110.5313 0.1464 -26.5709 -0.0001 1.8475 stats=0.9702 40.6656 0.0005法二法二To MATLAB(liti32)前往前往 2222211122110 xxxxy将 化为多元线性回归：非线性回非线性回 归归 1确定回归系数的命令：确定回归系数的命令：beta，r，J=

16、nlinfitx,y,model,beta02非线性回归命令：非线性回归命令：nlintoolx，y，model,beta0，alpha1回归：回归：残差Jacobi矩阵回归系数的初值事先用M文件定义的非线性函数估计出的回归系数输入数据xy分别为 矩阵和n维列向量，对一元非线性回归，x为n维列向量.mn2预测和预测误差估计：预测和预测误差估计：Y，DELTA=nlpredcimodel,x，beta，r，J求nlinfit 或lintool所得的回归函数在x处的预测值Y及预测值的显著性程度为1-alpha的置信区间Y DELTA.例例 4 对第一节例对第一节例2，求解如下：，求解如下：2输入数

17、据：x=2:16;y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76;beta0=8 2;3求回归系数：beta,r,J=nlinfit(x,y,volum,beta0)；beta得结果：beta=11.6036 -1.0641即得回归模型为：1.064111.6036exyTo MATLAB(liti41)4预测及作图：YY,delta=nlpredci(volum,x,beta,r,J)；plot(x,y,k+,x,YY,r)To MATLAB(liti42)例例5 财政收入预测问题

18、：财政收入与国民收入、工业总产值、财政收入预测问题：财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等要素有关农业总产值、总人口、就业人口、固定资产投资等要素有关.表中列出了表中列出了19521981年的原始数据，试构造预测模型年的原始数据，试构造预测模型.解解 设国民收入、工业总产值、农业总产值、总人口、就业设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为人口、固定资产投资分别为x1、x2、x3、x4、x5、x6，财政，财政收入为收入为y，设变量之间的关系为：，设变量之间的关系为：y=ax1+bx2+cx3+dx4+ex5+fx6运用非线性回

19、归方法求解运用非线性回归方法求解.1 对回归模型建立M文件model.m如下:function yy=model(beta0,X)a=beta0(1);b=beta0(2);c=beta0(3);d=beta0(4);e=beta0(5);f=beta0(6);x1=X(:,1);x2=X(:,2);x3=X(:,3);x4=X(:,4);x5=X(:,5);x6=X(:,6);yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;2.主程序主程序liti6.m如下如下:X=598.00 349.00 461.00 57482.00 20729.00 44.00 .2927.00

20、6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00.271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00.564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00.890.00 826.00 810.0;beta0=0.50-0.03-0.60 0.01-0.02 0.35;betafit=nlin

21、fit(X,y,model,beta0)To MATLAB(liti6 betafit=0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即即y=0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6结果为结果为:返返 回回逐逐 步步 回回 归归逐渐回归的命令是：stepwisex，y，inmodel，alpha 运转stepwise命令时产生三个图形窗口：Stepwise Plot，Stepwise Table，Stepwise History.在Stepwise Plot窗口，显示出各项的回归系数及

22、其置信区间.Stepwise Table 窗口中列出了一个统计表，包括回归系数及窗口中列出了一个统计表，包括回归系数及其置信区间，以及模型的统计量剩余规范差其置信区间，以及模型的统计量剩余规范差RMSE、相关系、相关系数数R-square、F值、与值、与F对应的概率对应的概率P.矩阵的列数的目的，给出初始模型中包括的子集缺省时设定为全部自变量显著性程度缺省时为0.05自变量数据,阶矩阵mn因变量数据，阶矩阵1n例例6 水泥凝固时放出的热量水泥凝固时放出的热量y与水泥中与水泥中4种化学成分种化学成分x1、x2、x3、x4 有关，今测得一组数据如下，试用逐渐回归法确定一个有关，今测得一组数据如下，

23、试用逐渐回归法确定一个 线性线性模模 型型.1数据输入：数据输入：x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;2逐渐回归：逐渐回归：1先在初始模型中取全部自变量：先在

24、初始模型中取全部自变量：stepwise(x,y)得图得图Stepwise Plot 和表和表Stepwise Table图图Stepwise Plot中四条直线都是虚中四条直线都是虚线，阐明模型的显著性不好线，阐明模型的显著性不好从表从表Stepwise Table中看出变中看出变量量x3和和x4的显著性最差的显著性最差.2在图在图Stepwise Plot中点击直线中点击直线3和直线和直线4，移去变量，移去变量x3和和x4移去变量移去变量x3和和x4后模型具有显著性后模型具有显著性.虽然剩余规范差RMSE没有太大的变化，但是统计量F的值明显增大，因此新的回归模型更好.To MATLAB(l

25、iti513对变量对变量y和和x1、x2作线性回归：作线性回归：X=ones(13,1)x1 x2;b=regress(y,X)得结果：b=52.5773 1.4683 0.6623故最终模型为：y=52.5773+1.4683x1+0.6623x2To MATLAB(liti52前往前往1调查温度x对产量y的影响，测得以下10组数据：温度（）20253035404550556065产量（kg）13.215.116.417.117.918.719.621.222.524.3求y关于x的线性回归方程，检验回归效果能否显著，并预测x=42时产量的估值及预测区间置信度95%.2某零件上有一段曲线，为了在程序控制机床上加工这一零件，需求求这段曲线的解析表达式，在曲线横坐标xi处测得纵坐标yi共11对数据如下：求这段曲线的纵坐标y关于横坐标x的二次多项式回归方程.4混凝土的抗压强度随养护时间的延伸而添加，现将一批混凝土作成12个试块，记录了养护日期x日及抗压强度ykg/cm2的数据：试求xbayln型回归方程.