数学回归分析的基本思想及其初步应用学习教案

《数学回归分析的基本思想及其初步应用学习教案》由会员分享，可在线阅读，更多相关《数学回归分析的基本思想及其初步应用学习教案（28页珍藏版）》请在装配图网上搜索。

1、数学回归分析的基本思想及其初步数学回归分析的基本思想及其初步(chb)应用应用第一页，共28页。用回归直线方用回归直线方程解决应程解决应用问题用问题了解残差图的作用了解残差图的作用利用线性回归模型利用线性回归模型解决解决一类非线一类非线性回归问题性回归问题正确理解分析方法正确理解分析方法与结果与结果第1页/共28页第二页，共28页。1、两个、两个(lin )变量的关系变量的关系不相关不相关(xinggun)相关相关(xinggun)关关系系函数关系函数关系线性相关线性相关非线性相关非线性相关问题问题1：现实生活中两个变量间的关系有哪些？：现实生活中两个变量间的关系有哪些？相关关系：相关关系：对

2、于两个变量，当自变量取值一定时，因对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系。变量的取值带有一定随机性的两个变量之间的关系。对具有相关关系的两个变量进行统计分析的方法对具有相关关系的两个变量进行统计分析的方法叫叫回归分析回归分析。第2页/共28页第三页，共28页。函数关系是一种理想的关系模型.相关关系在现实生活中大量存在，是更一般(ybn)的情况.第3页/共28页第四页，共28页。问题问题2：对于线性相关的两个变量用什么方法：对于线性相关的两个变量用什么方法(fngf)来刻划之间的关系呢？来刻划之间的关系呢？2、最小二乘估计、最小二乘估计(gj)最小二乘估

3、计最小二乘估计(gj)下的线性回归下的线性回归方程：方程：ybxanxxnii1其中：nyynii1心。回归直线过样本点的中）称为样本点的中心，（ yx1122211()(),()nniiiiiinniiiixx yyxnxybxxxnxay bxy第4页/共28页第五页，共28页。例例1 从某大学中随机选出从某大学中随机选出8名女大学生，其身高和名女大学生，其身高和体重体重(tzhng)数据如下表：数据如下表：编号编号12345678身高身高165165157170175165155170体重体重4857505464614359求根据女大学生的身高预报求根据女大学生的身高预报(ybo)体重的

4、回归方程，体重的回归方程，并预报并预报(ybo)一名身高为一名身高为172的女大学生的体重。的女大学生的体重。问题一：结合问题一：结合(jih)例例1得出线性回归模型及随机误得出线性回归模型及随机误差差,并且区分函数模型和回归模型。并且区分函数模型和回归模型。第5页/共28页第六页，共28页。1. 散点图；散点图；2.回归方程：回归方程：172.85849. 0 xy分析：由于问题中要求根据身高预报体重，因此分析：由于问题中要求根据身高预报体重，因此(ync)选取身高为自变量，体重为因变量选取身高为自变量，体重为因变量学学身身高高1 17 72 2c cm m女女大大生生体体重重y y = =

5、0 0. .8 84 49 91 17 72 2- -8 85 5. .7 71 12 2= =6 60 0. .3 31 16 6( (k kg g) )身高为身高为172的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？如果不是吗？如果不是(b shi), 其原因是什么其原因是什么?探究探究(tnji)？第6页/共28页第七页，共28页。（1）由图形观察）由图形观察(gunch)可以看出，样本点可以看出，样本点呈条状分布，身高和体重有比较好的线性相关呈条状分布，身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间关系，因此可以用线性回归方程刻画它们之间的关系。

6、的关系。第7页/共28页第八页，共28页。（2）从散点图还可以看到，样本点散布在某一条直线）从散点图还可以看到，样本点散布在某一条直线的附近，而不是一条直线上，所以不能用一次函数的附近，而不是一条直线上，所以不能用一次函数来描述它们之间的关系。这时我们用下面来描述它们之间的关系。这时我们用下面的线性回归模型来描述身高和体重的关系：的线性回归模型来描述身高和体重的关系：+其中和为模型的未知参数其中和为模型的未知参数(cnsh)，e是是y与与 = bx + a 之间的误差之间的误差, 通常称为随机误差。通常称为随机误差。2 2它它的的均均值值E E( (e e) )= = 0 0, ,方方差差D

7、D( (e e) )= = 0 0 y第8页/共28页第九页，共28页。其中其中a和和b为模型的未知参数为模型的未知参数(cnsh)，e称为随机误差。称为随机误差。y= bx + a + e，E(e) = 0, D(e) = 2.在线性回归模型在线性回归模型(4)中，随机误差中，随机误差e的的方差方差 越小越小，通过回归直线，通过回归直线 2ybxa预报真实值预报真实值y的精度越高的精度越高。随机误差是引起。随机误差是引起预报值预报值 与与真实值真实值y之间的误差的原因之一，其大小取决于随机误差的方差。之间的误差的原因之一，其大小取决于随机误差的方差。y 另一方面，由于计算出来的另一方面，由于

8、计算出来的 和和 为截距和斜率的估计值，它们与真实值为截距和斜率的估计值，它们与真实值a和和b之间也存在误差，这种误差是引起预报值之间也存在误差，这种误差是引起预报值 与真实值与真实值y之间误差的另一个原因。之间误差的另一个原因。 y ab随机误差：随机误差：线性回归线性回归(hugu)模型：模型：第9页/共28页第十页，共28页。思考思考: :产生随机误差项产生随机误差项e e的原因的原因(yunyn)(yunyn)是什么？是什么？随机误差随机误差e e的来源的来源( (可以推广到一般）：可以推广到一般）：1 1、忽略了其它因素的影响：影响身高、忽略了其它因素的影响：影响身高 y y 的因素

9、的因素不只是体重不只是体重 x x，可能，可能(knng)(knng)还包括遗传基还包括遗传基因、饮食习惯、生长环境等因素；因、饮食习惯、生长环境等因素；2 2、用线性回归模型近似真实模型所引起的误差；、用线性回归模型近似真实模型所引起的误差；3 3、身高、身高 y y 的观测误差。的观测误差。 以上三项误差越小，说明我们的回归模型的以上三项误差越小，说明我们的回归模型的拟合效果越好。拟合效果越好。第10页/共28页第十一页，共28页。函数模型与函数模型与“回归回归(hugu)模型模型”的差别：的差别：函数模型：因变量函数模型：因变量(binling)y完全由自变量完全由自变量(binling

10、)x确定确定回归模型：预报变量回归模型：预报变量(binling)y完全由解释变量完全由解释变量(binling)x和随机误差和随机误差e确定确定函数模型：函数模型：abxy回归模型：回归模型：eabxy第11页/共28页第十二页，共28页。问题二：在线性回归模型中，问题二：在线性回归模型中，e是用是用bx+a预报真实值预报真实值y的随机误差，它是一个不可的随机误差，它是一个不可(bk)观测的量，那么应观测的量，那么应如何研究随机误差呢？如何研究随机误差呢？,1,2,. ,1,2,.iiiiiiiiy bx aineyyy bx aine1122nniii残 差 ： 一 般 的 对 于 样 本

11、 点 （ x,y） ,(x,y ),.,(x ,y ),它 们 的 随 机 误 差 为e其 估 计 值 为称 为 相 应 于 点 (x,y)的 残 差 。 称为称为残差平方和残差平方和。21()niiiyy第12页/共28页第十三页，共28页。表表3-2列出了女大学生身高和体重的原始数据以及列出了女大学生身高和体重的原始数据以及(yj)相应的残差数相应的残差数据。据。 在研究两个变量间的关系时，首先在研究两个变量间的关系时，首先(shuxin)要根据散点图来粗略判断它们是否线性相关要根据散点图来粗略判断它们是否线性相关, 是否可以用回归模型来拟合数据是否可以用回归模型来拟合数据.残差分析残差分

12、析(fnx)与残差图的定义：与残差图的定义： 然后，我们可以通过残差然后，我们可以通过残差 来判断来判断 模型拟合的效果，判断原始数据中是否存在可疑数据，模型拟合的效果，判断原始数据中是否存在可疑数据， 这方面的分析工作称为这方面的分析工作称为残差分析残差分析。12,neee编号编号12345678身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我们可以利用图形来分析残差特性，作图时我们可以利用图形来分析残差特性，作图时纵坐标为残差纵坐标为

13、残差，横坐标可以选为样本编号，或身高数据，或体重估计值横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为等，这样作出的图形称为残差图残差图。第13页/共28页第十四页，共28页。残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择坐标纵轴为残差变量，横轴可以有不同的选择(xunz)(xunz)；若模型选择若模型选择(xunz)(xunz)的正确，残差图中的点应该分布在以横轴为心的带形区域；的正确，残差图中的点应该分布在以横轴为心的带形区域；对于远离横轴的点，要特别注意。对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据错误数据 模型问

14、题模型问题 几点说明：几点说明： 第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据数据(shj)采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据(shj)；如果数；如果数据据(shj)采集没有错误，则需要寻找其他的原因。采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带

15、状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。第14页/共28页第十五页，共28页。问题问题(wnt)三：如何发现数据中的错误？如三：如何发现数据中的错误？如何衡量随机模型的拟合效果？何衡量随机模型的拟合效果？(1)我们可以通过分析发现原始数据中的可疑数据，判断建立我们可以通过分析发现原始数据中的可疑数据，判断建立(jinl)模型的拟合效果。模型的拟合效果。iiiey bx a（ 1） 计 算（ i=1,2,.n）残 差 分 析（ 2） 画 残 差 图（ 1） 查 找 异 常 样 本 数 据（ 3） 分 析 残 差

16、图 （ 2） 残 差 点 分 布 在 以 O为 中 心 的 水 平 带 状 区 域 ， 并 沿水 平 方 向 散 点 的 分 布 规 律 相 同 。第15页/共28页第十六页，共28页。(2) (2) 残差图的制作和作用：残差图的制作和作用：制作：坐标纵轴为残差变量，横轴可以有不同的选择制作：坐标纵轴为残差变量，横轴可以有不同的选择. .横轴为编号横轴为编号( (或身高、体重等或身高、体重等) )：可以考察残差与编号次序之间的关系：可以考察残差与编号次序之间的关系 横轴为解释变量：可以考察残差与解释变量的关系，横轴为解释变量：可以考察残差与解释变量的关系，作用：判断模型作用：判断模型(mxng

17、)(mxng)的适用性若模型的适用性若模型(mxng)(mxng)选择的正确，残差图中的点应该分布在以横轴为中心的带形区域选择的正确，残差图中的点应该分布在以横轴为中心的带形区域. .第16页/共28页第十七页，共28页。 R2的值越大的值越大,说明残差平方和越小说明残差平方和越小, 模型拟合模型拟合(n h)效果越好。效果越好。在线性回归模型中，在线性回归模型中，R2表示表示(biosh)解析变量对预报变量变化的解析变量对预报变量变化的贡献率。贡献率。 R2越接近1，表示回归(hugu)的效果越好（因为R2越接近1，表示解析变量和预报变量的线性相关性越强）。 如果某组数据可能采取几种不同回归

18、方程进行回归分析，则可以通过比较如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出选择，即选取的值来做出选择，即选取R2较大的模型作为这组数据的模型。较大的模型作为这组数据的模型。相关指数相关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型中，它代表自变量刻画预报变量的能力。在线性模型中，它代表自变量刻画预报变量的能力。我们用我们用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和第17页/共28页第十八页，共28页。例例3 在一段时间内

19、，某中商品在一段时间内，某中商品(shngpn)的价格的价格x元和需求量元和需求量y件之间的一组数据为：件之间的一组数据为：求出求出y对对x的回归直线方程，并说明的回归直线方程，并说明(shumng)拟合效果的好坏。拟合效果的好坏。价格价格x1416182022需求量需求量y1210753解：解：18,7.4,xy555221111660,327,620,iiiiiiixyx y7.4 1.15 1828.1.a 1.1528.1.yx回归直线方程为：51522155iiiiix yxybxx 26205 18 7.41.15.16605 18 第18页/共28页第十九页，共28页。价格价格x

20、1416182022需求量需求量y1210753列出残差表为列出残差表为521()iiiyy0.3,521()iiyy53.2,5221521()1()iiiiiyyRyy 0.994因而因而(yn r)，拟合效果较好。，拟合效果较好。iiyyiyy00.3- -0.4- -0.10.24.62.6- -0.4- -2.4- -4.41.1528.1.yx回归直线方程为：第19页/共28页第二十页，共28页。1) 确定解释变量和预报变量确定解释变量和预报变量; 2) 画出散点图画出散点图; 3) 确定回归方程类型确定回归方程类型; 4) 求出回归方程求出回归方程; 5) 利用相关利用相关(xi

21、nggun)指数或残差进行分析指数或残差进行分析.建立回归模型的基本步骤建立回归模型的基本步骤第20页/共28页第二十一页，共28页。问题四：若两个变量呈现非线性关系，如何问题四：若两个变量呈现非线性关系，如何(rh)解决？（分析例解决？（分析例2）例例2 一只红铃虫的产卵数一只红铃虫的产卵数y和温度和温度(wnd)x有关。现收集了有关。现收集了7组观测数据列于表中：组观测数据列于表中：温度温度xoC21232527293235产卵数产卵数y/个个711212466115325（1）试建立）试建立(jinl)产卵数产卵数y与温度与温度x之间的回归方程；并预测温度为之间的回归方程；并预测温度为2

22、8oC时产卵数目。时产卵数目。（2）你所建立）你所建立(jinl)的模型中温度在多大程度上解释了产卵数的变化？的模型中温度在多大程度上解释了产卵数的变化？ 第21页/共28页第二十二页，共28页。选变量选变量(binling) 解：选取解：选取(xunq)(xunq)气温为解释变量气温为解释变量x x， 产卵数为预报变量产卵数为预报变量y y。画散点图画散点图假设假设(jish)线性回归方程为线性回归方程为 ：=bx+a选选 模模 型型分析和预测分析和预测估计参数估计参数由计算器得：线性回归方程为由计算器得：线性回归方程为 y = 19.87x - -463.73, 相关指数相关指数R2 =

23、0.7464所以一次函数模型中温度解释了所以一次函数模型中温度解释了74.64%的产卵数变化。的产卵数变化。050100150200250300350036912151821242730333639当当x=28时时, y =19.8728- -463.7393方法一：一元函数模型方法一：一元函数模型合作探究合作探究第22页/共28页第二十三页，共28页。 y= c1x2 + c2 变换变换(binhun) y= c1t + c2 非线性关系非线性关系 线性关系线性关系问题问题选用选用y = c1x2 + c2问题问题(wnt)3 产卵数产卵数气温气温问题问题2如何求如何求c1、c2？ t =x

24、2方法方法(fngf)二，二元二，二元函数模型函数模型合作探究合作探究第23页/共28页第二十四页，共28页。平方变换：令平方变换：令t = x2，产卵数，产卵数y和温度和温度x之间二次函数模型之间二次函数模型y=bx2+a就转化就转化(zhunhu)为产卵数为产卵数y和温度的平方和温度的平方t之间线性回归模型之间线性回归模型y=bt+a温度温度t21232527293235 t244152962572984110241225产 卵 数产 卵 数 y /个个711212466115325作散点图，并由计算器得：作散点图，并由计算器得：y和和t之间的线性回归方程为之间的线性回归方程为y=0.36

25、7t-202.54，相关，相关(xinggun)指数指数R2 = 0.802将将t=x2代入线性回归方程得：代入线性回归方程得： y = 0.367x2 -202.54当当x=28时时,y=0.367282-202.5485所以，二次函数模型中温度所以，二次函数模型中温度(wnd)解释了解释了80.2%的产卵数变化。的产卵数变化。t第24页/共28页第二十五页，共28页。问题问题如何选取指数函数的底如何选取指数函数的底?产卵产卵(chn lun)数数气温气温(qwn)方法方法(fngf)三三 指数函数指数函数模型模型合作探究合作探究问题问题 变换变换 y=bx+a非线性关系非线性关系 线性关系

26、线性关系对数对数43c xyc e第25页/共28页第二十六页，共28页。温度温度xoC21232527293235z=lny0.851.041.321.381.822.062.51产卵数产卵数y/个个711212466115325xz当当x =28oC 时，时，y 44 ， 所以所以(suy)指数函数模型模型中温度解释了指数函数模型模型中温度解释了98%的产卵数的变化的产卵数的变化.由计算器得：由计算器得：z关于关于x的线性回归方程为的线性回归方程为z=0.272x- -3.849 ， , 相关指数相关指数R2 = 0.980.272x-3.849 ye44333434lnln()lnlnlnlnlnc xc xyc ececc xec xc 对数变换：对数变换：在在 中两边取自然对数得中两边取自然对数得43c xyc e令令 , 则则 就转换为就转换为z = bx + a34ln ,ln,zy ac bc43c xyc e第26页/共28页第二十七页，共28页。函数模型函数模型相关指数相关指数R2线性回归模型线性回归模型0.7464二次函数模型二次函数模型0.802指数函数模型指数函数模型0.98最好最好(zu ho)的模型的模型是哪个是哪个?指数函数模型指数函数模型(mxng)最好！最好！第27页/共28页第二十八页，共28页。