十四章复相关与复回归分析

《十四章复相关与复回归分析》由会员分享，可在线阅读，更多相关《十四章复相关与复回归分析（65页珍藏版）》请在装配图网上搜索。

1、1第十四章 複相關與複迴歸分析 陳順宇 教授成功大學統計系2 第十二章兩因子變異數分析是討論 兩因一果 基本上兩個因是分類的離散型變數，上一章簡單線性迴歸是探討 一因一果 (都是計量的連續型變數)，很自然地，也會想到連續型的多因單果問題。3變異數分析與迴歸分析 都是討論因果關係，相同的是”果”都是連續型的計量資料 不同的是變異數分析”因”是離散型資料，但迴歸所談的”因”是連續型資料 4因果關係列表 )()()()()(複迴歸多因簡單線性迴歸單因連續多因子多因一因子單因離散因自變數ANOVAANOVA 應變數(果)單一連續型計量變數 514.1複相關係數複相關係數 簡單相關係數是討論一個準則變數

2、與 一個預測變數之間的關聯，6複相關複相關 但如果預測變數有好幾個變數時，如何量測準則變數與這組預測變數之間的關聯性有多高呢？當預測變數有多個時，量測準則變數y與預測變數x1,.,xp之間的相關稱為複相關複相關7例例14.1、想了解大學入學考試的數學成績(x1)與英文成績(x2)對大一微積分成績(y)的影響有多高 學生 數學成績 英文成績 大一微積分 序號 x1 x2 y 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 50 42 61 35 50 39 53 28 23 22 70 76 43 40 38 70 89 47 48 58 42 71 49 42 59 9

3、1 62 53 59 61 86 77 86 63 83 62 85 70 63 72 84 85 78 71 79 8第一種想法:先計算相關再求平均先計算相關再求平均 x1,y的相關係數r1=0.7611 x2,y的相關係數r2=0.5661 再算此兩相關係數的平均值為0.6636 9第二種想法是:先求平均再計算相關先求平均再計算相關 221121*xxx10 入學考試英數與大一微積分成績 英數平均*x 大一微積分 y 60.0 65.5 54.0 41.5 54.0 40.5 62.0 38.5 32.5 40.5 80.5 69.0 47.5 49.5 49.5 86 77 86 63

4、83 62 85 70 63 72 84 85 78 71 79 11 大學入學考試英數平均成績與 大一微積分成績的相關係數為 r=0.7801 12一般的加權平均21*bxaxx),(max),1626.03569.0(7997.021,21ybxaxryxxrba1315.2複迴歸分析簡介複迴歸分析簡介 複迴歸分析是探討變數之間的關係式，我們將變數分成兩類，一類是自變數自變數 一類是應變數應變數 複迴歸是探討自變數有兩個或以上時，自變數如何影響應變數的問題 14 應變數 自 變 數 y x1 x2 y1 y2.yn x11 x21 x12 x22.x1n x2n 15複迴歸模式 iiiix

5、xy22110，i=1,2,n(15.1)其中),0(2Niidi 16最小平方法最小平方法 niiiixxyQ1222110)(17正規方程式 niiniiniixxny12211101(15.2)niiiniiniiniiixxxxyx1212121111011(15.3)niiniiiniiniiixxxxyx1222121112012 (15.4)18迴歸式公式21222112121221SSSSSSSyy 21222111122112SSSSSSSyy(15.7)22110 xxy(15.8)22110 xxy1914.3各種方法計算複迴歸的係數各種方法計算複迴歸的係數 介紹四種方法

6、求迴歸係數i的估計值。20表表14.3 15名學生成績八行合計 序號 x1 x2 y x2 y x1 y 21x 22x x1 x2 1 50 70 86 4300 6020 2500 4900 3500 2 42 89 77 3234 6853 1764 7921 3738 3 61 47 86 5246 4042 3721 2209 2867 4 35 48 63 2205 3024 1225 2304 1680 5 50 58 83 4150 4814 2500 3364 2900 6 39 42 62 2418 2604 1521 1764 1638 7 53 71 85 4505 6

7、035 2809 5041 3763 8 28 49 70 1960 3430 784 2401 1372 9 23 42 63 1449 2646 529 1764 966 10 22 59 72 1584 4248 484 3481 1298 11 70 91 84 5880 7644 4900 8281 6370 12 76 62 85 6460 5270 5776 3844 4712 13 43 53 78 3354 4134 1849 2809 2279 14 40 59 71 2840 4189 1600 3481 2360 15 38 61 79 3002 4819 1444 3

8、721 2318 合計 670 901 1144 52587 69772 33406 57285 41761 211.解正規方程式解正規方程式 正規方程式：210210210572854176190169772417613340667052587901670151144 22迴歸式 1626.03569.05593.50210迴歸式為 211626.03569.05593.50 xxy 23以公式求i估計 67.44156701x Syy=1098.93 S1y=1488.33 07.60159012x S11=3479.33 S2y=1055.73 27.76151144y S22=3164

9、.93 S12=1516.33 3569.04.87125782.31096256.22992561101183516008352.4710460)33.1516(93.316433.347933.148833.151633.148893.3164122122211212122SSSSSSSyy241626.04.87125786.14164336.2299256110118354.22567993673233)33.1516(93.316433.347933.148833.151673.105533.3479222122211112211SSSSSSSyy5593.5022110 xxy迴歸

10、式為 y=50.5593+0.3569x1+0.1626x2 253.以電腦軟體以電腦軟體(1).ANOVA表 Model:MODEL1 Dependent Variable:Y Analysis of Variance Source DF Sum of Squares Mean Square F Value ProbF Model 2 702.83921 351.41960 10.647 0.0022 Error 12 396.09413 33.00784 C Total 14 1098.93333 Root MSE 5.74525 R-square 0.6396 Dep Mean 76.2

11、6667 Adj R-sq 0.5795 C.V.7.53310 (2)參數估計表 Parameter Estimates Variable DF Parameter Estimate Standard Error T for H0:Parameter=0 Prob|T|INTERCEP 1 50.559314 6.54646182 7.723 0.0001 X1 1 0.356912 0.10950077 3.259 0.0068 X2 1 0.162574 0.11481085 1.416 0.1822 26表表14.4 大一微積分成績對聯考數學、英文成績複迴歸擬合值與殘差值 序號 聯考數

12、學 聯考英文 大一微積分 擬合值 殘差值 OBS X1 X2 Y p e 1 50 70 86 79.7851 6.21490 2 42 89 77 80.0187-3.01870 3 61 47 86 79.9719 6.02806 4 35 48 63 70.8548-7.85479 5 50 58 83 77.8342 5.16579 6 39 42 62 71.3070-9.30700 7 53 71 85 81.0184 3.98159 8 28 49 70 68.5190 1.48102 9 23 42 63 65.5964-2.59640 10 22 59 72 68.0032

13、3.99676 11 70 91 84 90.3374-6.33740 12 76 62 85 87.7642-2.76423 13 43 53 78 74.5230 3.47704 14 40 59 71 74.4277-3.42766 15 38 61 79 74.0390 4.96101 27檢定 0,0:210H28647.1000784.334196.351)315(2SSESSRF29 在ANOVA表中P值=0.0022，表示入學考試數學英文成績對微積分 有顯著影響，這是說這兩科成績中 至少有一科對微積分有影響，但並不表示這兩科都對微積分有影響 30檢定 0:10H31 t 值=1

14、788.2259.3025.0,12111095.03569.0tS 32 參數估計表中P值=0.0068 F Model 3 950.16621 316.72207 19.112 0.0018 Error 6 99.43379 16.57230 C Total 9 1049.60000 Root MSE 4.07091 R-square 0.9053 Dep Mean 45.20000 Adj R-sq 0.8579 C.V.9.00644 (2)參數估計表 Parameter Estimates Variable DF Parameter Estimate Standard Error T

15、 for H0:Parameter=0 Prob|T|INTERCEP 1 17.144250 7.10954388 2.411 0.0525 X1 1 0.129250 0.05846640 2.211 0.0691 X2 1 4.672170 1.81558182 2.576 0.0420 X3 1-0.325541 0.48814219-0.667 0.5296 40(a)檢定全部三個自變數是否對y 有預測能力？即檢定 0:0:13210都等於不是所有iHH41表示這三個自變數組合對y預測有貢獻，但並不表示每一個自變數都有預測能力 29.3112.191.0,6.35723.167220

16、7.316FMSEMSRF42擬合值與殘差值 序號 房子坪數 擬合值 殘差值 殘差平方 OBS Y Y e e2 1 2 3 4 5 6 7 8 9 10 32 34 52 48 44 42 64 36 60 40 31.772 32.021 44.390 48.243 44.102 45.352 62.358 39.799 61.186 42.777 0.22808 1.97922 7.61009-0.24287-10197-3.35207 1.64165-3.79905-1.18641-2.77667 0.0520 3.9173 57.9134 0.0590 0.0104 11.2364

17、2.6950 14.4328 1.4076 7.7099 合 計 452 452 0 99.4338 43檢定 x1,x2 已在模式內時，x3 是否需要放入模式內的問題，即檢定 0:0:3130HH44由參數估計表可以看出檢定3=0的P值為0.5296，表示若迴歸模式中已放入 x1,x2，那 x3 可以不放入迴歸模式內。45y對x1,x2的迴歸式 Analysis of Variance Source DF Sum of Squares Mean Square F Value ProbF Model 2 942.79562 471.39781 30.896 0.0003 Error 7 106

18、.80438 15.25777 C Total 9 1049.60000 Root MSE 3.90612 R-square 0.8982 Dep Mean 45.20000 Adj R-sq 0.8692 C.V.8.64186 Parameter Estimates Variable DF Parameter Estimate Standard Error T for H0:Parameter=0 Prob|T|INTERCEP 1 13.479157 4.32770352 3.115 0.0170 X1 1 0.109900 0.04870360 2.257 0.0586 X2 1 5.

19、313880 1.48092619 3.588 0.0089 4614.4 複迴歸預測複迴歸預測 47例例14.3、(14.2續)試求收入103萬、人口數3人、大學畢業的家庭之房子坪數y 95%信賴區間與預測區間？48信賴區間與預測區間 擬合值 殘差 信賴區間 預測區間 OBS X1 X2 X3 Y P E L95M U95M L95 U95 1 66 2 10 32 31.772 0.22808 25.9338 37.6101 20.2260 43.3178 2 78 2 14 34 32.021 1.97922 26.3399 37.7016 20.5536 43.4880 3 135 3

20、 13 52 44.390 7.61009 39.6196 49.1602 33.3454 55.4344 4 111 4 6 48 48.243-0.24287 41.8798 54.6060 36.4228 60.0629 5 84 4 8 44 44.102-0.10197 37.3906 50.8134 32.0908 56.1131 6 150 3 16 42 45.352-3.35207 38.8393 51.8648 33.4508 57.2534 7 168 6 14 64 62.358 1.64165 53.2873 71.4294 48.8858 75.8309 8 102

21、 3 14 36 39.799-3.79905 35.1531 44.4450 28.8077 50.7904 9 180 5 8 60 61.186-1.18641 53.3190 69.0538 48.4931 73.8797 10 120 3 12 40 42.777-2.77667 39.0250 46.5284 32.1324 53.4209 11 103 3 16.39.277.32.8803 45.6742 27.4389 51.1155 4914.5多項式迴歸多項式迴歸 2210 xxy112210ppxxxy50例例14.4、速度x與耗油量y的關係 次序 車速 耗油量 次序

22、車速 耗油量 次序 車速 耗油量 OBS X Y OBS X Y OBS X Y 1 60 45 9 80 64 17 100 48 2 60 43 10 80 62 18 100 45 3 65 48 11 85 60 19 105 44 4 65 47 12 85 61 20 105 42 5 70 52 13 90 55 21 110 40 6 70 53 14 90 54 22 110 38 7 75 56 15 95 56 8 75 58 16 95 52 51圖圖14.1 汽車耗油量y對車速x的散佈圖 耗 油 量 3642485460665565758595105115 速 度 5

23、2線性迴歸 Analysis of Variance Source DF Sum of Squares Mean Square F Value ProbF Model 1 103.64091 103.64091 1.906 0.1826 Error 20 1087.31364 54.36568 C Total 21 1190.95455 Root MSE 7.37331 R-square 0.0870 Dep Mean 51.04545 Adj R-sq 0.0414 C.V.14.44459 53 Parameter Estimates Variable DF Parameter Estim

24、ate Standard Error T for H0:Parameter=0 Prob|T|INTERCEP 1 62.713636 8.59580735 7.296 0.0001 X 1-0.137273 0.09942167-1.381 0.1826 54 由 P值=0.1826或 由=0.0870 都顯示線性迴歸不佳 55圖圖14.2 汽車耗油量y對車速x的線性迴歸殘差圖 殘 差 值-14-10-6-22610145565758595105115車 速 56二次迴歸 Analysis of Variance Source DF Sum of Squares Mean Square F

25、Value ProbF Model 2 1056.92821 528.46410 74.917 0.0001 Error 19 134.02634 7.05402 C Total 21 1190.95455 Root MSE 2.65594 R-square 0.8875 Dep Mean 51.04545 Adj R-sq 0.8756 C.V.5.20309 Parameter Estimates Variable DF Parameter Estimate Standard Error T for H0:Parameter=0 Prob|T|INTERCEP 1-145.235664 1

26、8.15408006-8.000 0.0001 X 1 4.931026 0.43745039 11.272 0.0001 XX 1-0.029814 0.00256460-11.625 0.0001 57圖圖14.3 汽車耗油量y 對車速x的二次迴歸式殘差圖 殘 差 圖-6-4-202465565758595105115 車 速 58第十四章第十四章 摘要摘要 591.了解複相關係數的意義是 求兩組變數之間的(線性)相關性，其中一組只有一個變數，而另一組有多個變數 602.學習以最小平方法 求複迴歸係數的參數估計 613.介紹求解迴歸式的各種方法，包括 (1)解聯立方程式(2)代公式()x xx y1(3)利用統計套裝軟體 624.了解複迴歸式的解釋能力2R，以及2R與F值之關係 635.了解檢定個別迴歸係數0i之 t 值(參數估計表)與檢定所有迴歸係數021 p之F值(ANOVA 表)之差異 646.知道如何由複迴歸式做預測 657.學習多項式迴歸的使用，並了解多項式次數愈高，則擬合程度愈好(愈大)，但付出的代價是模式愈複雜，且解釋愈困難