实验13_回归分析.pdf

《实验13_回归分析.pdf》由会员分享，可在线阅读，更多相关《实验13_回归分析.pdf（14页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、数学实验 回归分析 化工系 分 0 毕啸天 2010011811 1 实验 13 回归分析 化工系 分 0 毕啸天 2010011811【实验目的】1.了解回归分析的基本原理，掌握 MATLAB 实现的方法；2.练习用回归分析解决实际问题。【实验内容】题目一 用切削机床加工时，为实时地调整机床需测定刀具的磨损程度，每隔一小时测量刀具的厚度得到以下的数据（见下表），建立刀具厚度对于切削时间的回归模型，对模型和回归系数进行检验，并预测 7.5h 和 15h 后刀具的厚度，用（30）和（31）式两种办法计算预测区间，解释计算结果。时间/h 0 1 2 3 4 5 6 7 8 9 10 刀具厚度/cm

2、 30.6 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5 1.1 模型分析 此题是一个给出数据，确定回归并预测结果的基础题目。可以首先作图观察二者的走势。x1=0:10;y=30.6 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5;plot(x1,y,*)xlabel(时间/h)ylabel(刀具厚度/cm)title(时间与刀具厚度的关系)01234567891026.52727.52828.52929.53030.531时 间/h刀具厚度/cm时 间 与 刀 具 厚 度 散 点 图数学

3、实验 回归分析 化工系 分 0 毕啸天 2010011811 2 由上图可以看出，除了最初几个点偏离较大，刀具厚度 y 与时间 x 大致为线性关系。因此确定回归模型为：xy10 1.2 程序代码 n=11;X=ones(n,1),x1;b,bint,r,rint,s=regress(y,X);rcoplot(r,rint)输出结果如下：b=29.545 -0.32909 bint=28.977 30.114 -0.4252 -0.23298 r=1.0545 -0.11636 -0.48727 -0.45818 -0.22909 -0.2 -0.070909 -0.041818 0.08727

4、3 0.21636 0.24545 rint=0.79381 1.3153 -1.046 0.81326 -1.3782 0.40364 -1.3873 0.47094 -1.2267 0.76848 -1.2067 0.80674 -1.0836 0.94177 -1.04 0.9564 -0.88264 1.0572 -0.70174 1.1345 -0.61524 1.1062 s=0.86957 60.002 2.8614e-005 0.19855 数学实验 回归分析 化工系 分 0 毕啸天 2010011811 3 回归结果整理成表格如下：回归系数 回归系数估计值 回归系数置信区间

5、0 29.545 28.977,30.114 1-0.32909-0.4252,-0.23298 2=0.86957，F=60.002，p=2.8614e-005，2=0.19855 从这个拟合结果看，p 值十分接近 0；finv(0.95,1,9)=5.1174，小于 F=60.002；置信区间不包含零点。故而回归模型完全成立。但是2=0.86957，实际上拟合精度一般。从残差及其置信区间图上可以明显看出问题所在。在残差及置信区间的图中，第一个点的残差的置信区间不包含零点，以红色标出。残差应该服从均值为 0 的正态分布，可以认为这个数据是异常的，偏离了数据整体的变化趋势，给模型的有效性的精度

6、带来不利影响，应予以剔除。1.3 剔除后计算 x1=1:10;y=29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5;n=10 X=ones(n,1),x1;b,bint,r,rint,s=regress(y,X);rcoplot(r,rint)输出结果表示如下：回归系数 回归系数估计值 回归系数置信区间 0 29.053 28.833,29.273 1-0.25879-0.29423,-0.22335 2=0.97256，F=283.56，p=1.5672e-007，2=0.019485 1234567891011-1-0.500.51Resi

7、dual Case Order PlotResidualsCase Number数学实验 回归分析 化工系 分 0 毕啸天 2010011811 4 此回归结果已经明显优于上者，但是作出残差图则会发现又有了新的问题。剔除后计算，仍然发现了第二个残差的置信区间也不包括零点，仍该视为异常点。应剔除再次计算。1.4 再次剔除计算 直接输出计算结果如下：回归系数 回归系数估计值 回归系数置信区间 0 28.867 28.78，28.954 1-0.23333-0.24666，-0.22001 2=0.99593，F=1715，p=1.2484e-009，2=0.0019048 12345678910-

8、0.4-0.3-0.2-0.100.10.20.3Residual Case Order PlotResidualsCase Number123456789-0.1-0.0500.050.1Residual Case Order PlotResidualsCase Number数学实验 回归分析 化工系 分 0 毕啸天 2010011811 5 当再次剔除异常数据后，残差置信区间全部覆盖了零点。而且相比之前，置信度进一步提高，F 检验值变大，置信区间缩小，精度提高。显然，异常点的剔除有利于更好的建立合理的模型。此时可以说，效果比较好的回归模型是 xy23333.0867.28 1.5 作图观察

9、 x1=0:10;y=30.6 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5;t=0:0.1:10;y1=b(1)+b(2).*t;plot(x1,y,*,t,y1)已经得到了回归公式，则预测 7.5h 与 15h 后的刀具厚度可直接代入回归直线计算：y3=b(1)+b(2)*7.5;y4=b(1)+b(2)*15;得到结果如下：y3=27.117 y4=25.367 即 7.5h 后，预测刀具磨损后的厚度 27.117cm，15h 后为 25.367cm。01234567891026.52727.52828.52929.53030.531

10、数学实验 回归分析 化工系 分 0 毕啸天 2010011811 6 【本题小结】本题虽然比较简单，但是其中体现了许多基本的原理。首先是模型的建立，作出散点图后可以大致观察数据的走向。可以看出，后期的点的走势呈现明显的线性递减，但是最初的几个点厚度偏大，不在直线上。因此可以预计，剔除前面几个点，此后的刀具厚度走向可以用线性函数来拟合，即磨损速度是一个定值。其次是模型有效性的检验。检验一个模型主要有如下几个指标：拟合变量的置信区间应当不含零点，否则此时没有显著证据证明真实的不为0，应修改模型；p值应小于，此时可以拒绝原假设，认为的回归是合理的；F检验临界值大于F分布的理论值。这三条决定了是否应该

11、拒绝原假设，即回归模型是否成立。从以上可以得到一个结论，即异常点的存在并不能从根本上动摇和改变合理的模型，而不合理的模型也不会通过几个异常点的剔除就变得合理。R2应当接近1，这说明拟合的精度高，它表明回归结果有多少把握预测实际情况。残差置信区间的显著性水平和模型检验的显著性水平并没有关系，它们是相互独立的。这也表明不能剔除不合理点来使不合理模型变合理。本题中先发现一个异常点，剔除后计算又发现了一个异常点，再剔除后计算则得到满意的结果。最初的散点图上可以明显看出前两个点都不在后面点所确定的直线上。在第一次回归计算时，拟合效果不好，置信区间较大，勉强将第二个点包括在了里面。而剔除了第一个点后，第二

12、个点的异常性就暴露出来，因为此时的置信区间变小了。而剔除第二个点后，置信区间变得更小，模型有效性大大提高。从实际生产中看，可能是最初刀具还没有稳定工作，导致开始大幅度磨损，稳定后，磨损速度恒定，变成一个线性模型。题目二 电影院调查电视广告费用和报纸广告费用对每周收入的影响，得到下面的数据（见下表），建立回归模型并进行检验，诊断异常点的存在并进行处理。每周收入 96 90 95 92 95 95 94 94 电视广告费用 1.5 2.0 1.5 2.5 3.3 2.3 4.2 2.5 报纸广告费用 5.0 2.0 4.0 2.5 3.0 3.5 2.5 3.0 2.1 模型分析 本题研究电视广告

13、费用与报纸广告费用对电影收入的影响。首先显然这二者均对电影收入有促进作用，否则没必要做广告；其次，二者对收入的影响程度不同，通常来说电视的广告效果会更明显。我们首先尝试线性回归，由 R2值判断回归模型是否合理。如果不合理，再采取其他方法进行回归分析。设电视广告费用为 x1，报纸广告费用为 x2，每周电影院收入为 y。建立如下模型：22110 xxy 2.2 程序代码 y=96,90,95,92,95,95,94,94;x1=1.5,2,1.5,2.5,3.3,2.3,4.2,2.5;x2=5,2,4,2.5,3,3.5,2.5,3;n=8;数学实验 回归分析 化工系 分 0 毕啸天 20100

14、11811 7 m=2;X=ones(8,1),x1,x2;b,bint,r,rint,s=regress(y,X)输出结果如下：b=83.212 1.2985 2.3372 bint=78.806 87.617 0.4007 2.1962 1.486 3.1883 r=-0.8451 -0.48285 0.49206 -0.30066 0.49199 0.62187 -0.50805 0.53076 rint=-1.3972 -0.29297 -1.5076 0.54186 -1.0654 2.0495 -2.0268 1.4254 -1.1162 2.1002 -1.0631 2.3068

15、 -1.4814 0.46533 -1.2146 2.2761 s=0.90889 24.941 0.0025053 0.48969 整理成表格如下：回归系数 回归系数估计值 回归系数置信区间 0 83.2116 78.8058，87.6174 1 1.2985 0.4007，2.1962 2 2.3372 1.486，3.1883 2=0.9089，F=24.9408，p=0.0025，2=0.4897 数学实验 回归分析 化工系 分 0 毕啸天 2010011811 8 在残差及置信区间的图中，第一个点的残差的置信区间不包含零点，以红色标出。残差应该服从均值为 0 的正态分布，可以认为这个

16、数据是异常的，偏离了数据整体的变化趋势，给模型的有效性的精度带来不利影响，应予以剔除。2.3 剔除点后重新计算 除去第一个点后重新计算，将输出结果同样以表格表示。回归系数 回归系数估计值 回归系数置信区间 0 81.488 78.788，84.188 1 1.2877 0.79635，1.779 2 2.9766 2.3281，3.625 2=0.97685，F=84.384，p=0.00053603，2=0.12568 12345678-2-1.5-1-0.500.511.52Residual Case Order PlotResidualsCase Number数学实验 回归分析 化工系

17、分 0 毕啸天 2010011811 9 剔除第一个异常点后，R2=0.97685，相比之前有了增加，拟合的线性性有了提高；相比之前的模型，p 值也有了明显的减少，远小于显著性水平，这表示置信概率大大提高了；s2也有了减小，说明了偏差减小。编写命令 finv(0.95,1,n-2)，得到结果 ans=6.6079，即表示 F(1,n-2),1-0.05=6.6079F=84.384，在这一点上说明是有效的。综合以上几点，说明这个二元线性的模型比较合理，回归效果很好。拟合公式为219766.22877.1488.81xxy 【本题小结】本题是一个较为直观的线性回归题，在它的计算中同样出现了异常点

18、。剔除后计算可以得到一个回归效果相当好的模型。题目十 下表列出了某城市 18 位 35 岁44 岁经理的年平均收入1x千元，风险偏好度2x和人寿保险额y千元的数据，其中风险偏好度是根据发给每个经理的问卷调查表综合评估得到的，它的数值越大，就越偏爱高风险，研究人员想研究此年龄段中的经理所投保的人寿保险额与年收入及风险偏好度之间的关系。研究者预计，经理的年均收入和人寿保险额之间存在着二次关系，并有把握地认为风险偏好度对人寿保险额有线性效应，但对风险偏好度对人寿保险额是否有二次效应以及两个自变量是否对人寿保险额有交互效应，心中没底。请你通过表中的数据来建立一个合适的回归模型，验证上面的看法，并给出进

19、一步的分1234567-1-0.500.51Residual Case Order PlotResidualsCase Number数学实验 回归分析 化工系 分 0 毕啸天 2010011811 10 析。通过下表中的数据来建立一个合适的回归模型，验证上面的看法，并给出进一步的分析。序号 保险额 y 收入 x1 风险 x2 序号 保险额 y 收入 x1 风险 x2 1 196 66.290 7 10 49 37.408 5 2 63 40.964 5 11 105 54.376 2 3 252 72.996 10 12 98 46.186 7 4 84 45.010 6 13 77 46.1

20、30 4 5 126 57.204 4 14 14 30.366 3 6 14 26.852 5 15 56 39.060 5 7 49 38.122 4 16 245 79.380 1 8 49 35.840 6 17 133 52.766 8 9 266 75.796 9 18 133 55.916 6 10.1 模型分析 通过常理的分析可知，经理的人寿保险额应该随经理人的收入的提升而提高，与该经理人的风险偏好度有着直接的关系。我们可以通过作图初步判定这些关系。这里我们记人寿保险额 y(千元)，年平均收入 x1（千元），风险偏好度 x2.10.2 观察趋势 10.2.1 人寿保险额与年收入

21、 先用二次多项式进行 x1 与 y 的回归。编写程序如下：x1=66.290 40.964 72.996 45.010 57.204 26.852 38.122 35.840 75.796 37.408 54.376 46.186 46.130 30.366 39.060 79.380 52.766 55.916;y=196 63 252 84 126 14 49 49 266 49 105 98 77 14 56 245 133 133;p=polyfit(x1,y,2)输出结果如下：p=0.030246 1.7886 -60.524 再编写如下程序，可画出 x1 与 y 的散点图，大致可以

22、观察到二次函数的趋势。t=0:0.1:85;y1=p(1).*t.2+p(2).*t+p(3);plot(x1,y,*,t,y1)xlabel(年收入)ylabel(人寿保险额)title(年收入与人寿保险额的关系)数学实验 回归分析 化工系 分 0 毕啸天 2010011811 11 通过以上分析，基本已经验证人寿保险额与年均收入的二次关系，可以考虑用二次函数拟合。10.2.2 人寿保险额与风险偏好度 y=196 63 252 84 126 14 49 49 266 49 105 98 77 14 56 245 133 133;x2=7 5 10 6 4 5 4 6 9 5 2 7 4 3

23、5 1 8 6;q=polyfit(x3,y,1)输出结果如下：q=13.522 38.743 类似地，可画出 x2 与 y 的散点图。s=0:0.1:15;y2=q(1).*s+q(2);plot(x2,y,*,s,y2)xlabel(风险偏好度)ylabel(人寿保险额)title(风险偏好度与人寿保险额的关系)0102030405060708090-100-50050100150200250300350年 收 入人寿保险额年 收 入 与 人 寿 保 险 额 的 关 系数学实验 回归分析 化工系 分 0 毕啸天 2010011811 12 但是并没有在此观察到明显的线性性。故此项可以考虑由

24、线性、或者二次函数构造。10.3 回归计算 综合上面的分析，如不考虑两个自变量之前的交互效应，可建立如下的回归模型：21322110 xxxy 如考虑保险额与风险偏好度的二次关系关系以及两个自变量之间的交互效应，则模型为：22514213221102xxxxxxy 10.3.1 无交互模型回归计算 x1=66.290 40.964 72.996 45.010 57.204 26.852 38.122 35.840 75.796 37.408 54.376 46.186 46.130 30.366 39.060 79.380 52.766 55.916;x2=7 5 10 6 4 5 4 6 9

25、 5 2 7 4 3 5 1 8 6;x3=x1.2;x0=ones(18,1);x=x0 x1 x2 x3;y=196 63 252 84 126 14 49 49 266 49 105 98 77 14 56 245 133 133;b,bint,r,rint,stats=regress(y,x,0.05)输出结果如下：b=-62.349 0.83959 5.6846 051015050100150200250300风 险 偏 好 度人寿保险额风 险 偏 好 度 与 人 寿 保 险 额 的 关 系数学实验 回归分析 化工系 分 0 毕啸天 2010011811 13 0.037082 bi

26、nt=-73.503 -51.195 0.39515 1.284 5.2604 6.1089 0.033006 0.041157 s=0.99958 11070 7.4095e-024 3.2518 将输出结果整理成表格如下：回归系数 回归系数估计值 回归系数置信区间 0-62.349-73.503，-51.195 1 0.83959 0.39515,1.284 2 5.6846 5.2604,6.1089 30.037082 0.03306,0.041157 2=0.99958，F=11070，p=7.4095e-024，2=3.2518 10.3.2 回归分析 R2=0.99958，已经非

27、常非常接近 1 了，说明拟合的 99.958%可由自变量确定，模型精度极高；而 p 值非常非常接近 0，远小于；利用 finv(0.95,1,16)算出的结果为 4.494，同样远小于 F 的检验临界值；四者的置信区间均不包含零点。由以上几点可以看出，这个模型的回归效果非常好。回归公式为 2121037082.06846.583959.0349.62xxxy 10.3.3 交互二次模型计算 x1=66.290 40.964 72.996 45.010 57.204 26.852 38.122 35.840 75.796 37.408 54.376 46.186 46.130 30.366 39

28、.060 79.380 52.766 55.916;x2=7 5 10 6 4 5 4 6 9 5 2 7 4 3 5 1 8 6;x3=x1.2;x4=x1.*x2;x5=x2.2 y=196 63 252 84 126 14 49 49 266 49 105 98 77 14 56 245 133 133;x=ones(18,1)x1 x2 x3 x4 x5;b,bint,r,rint,s=regress(y,x)输出结果如下：直接整理成表格如下：回归系数 回归系数估计值 回归系数置信区间 0-65.386-78.727,-52.045 1 1.0172 0.52025,8.1558 2

29、5.2174 2.2785,8.1558 30.035787 0.031016,0.040559 4-0.019592-0.050055,0.010871 数学实验 回归分析 化工系 分 0 毕啸天 2010011811 14 50.16616-0.095631,0.42794 2=0.99966，F=7110.2，p=2.1634e-020，2=3.0381 10.3.4 回归分析 此回归的公式为:21222121019592.016616.0035787.02174.50172.1386.65xxxxxxy R2=0.99966，可以看出此模型拟合的精度比前者还要高；同样的 p 值也几乎为

30、 0，远小于；finv(0.95,1,16)为 4.494，同样远小于 F 的检验临界值；但是此模型中，x2 二次项与交互项的置信区间包含了零点。F 统计的原假设是所有系数都为 0，此时 0 属于4、5这两个量的置信区间，这表明估计的系数显著性不足。也就是说，其实我们没有显著证据证明真实的4、5不为 0。原题目中说研究者对风险偏好度对人寿保险额是否有二次效应以及两个自变量之间是否有交互效应心中没底，我们这个模型的计算结果也正证实了这一点，我们的确不能确定这两个量究竟有作用。综上所述，比较好的回归公式为：2121037082.06846.583959.0349.62xxxy 【实验总结】本实验主

31、要学习了回归分析的基本原理，主要掌握了多项式回归的 polyfit 指令以及主要的回归函数 regress。通过对以上几个题目的练习，我掌握了回归分析的基本方法与思路，即先以散点图看出数据的大致走向，然后确定模型形式（可能有多种）。以不同的模型形式进行回归计算，以 F、p、置信区间、R2等量来比较模型的好坏。有时候在回归计算中，可能出现异常点，如残差置信区间不包含 0 的。这种异常点一般应考虑剔除后重新计算。事实表明，去掉异常点后，拟合效果会有提高，但是剔除的点越多，统计数据量越少，统计意义降低，也不一定完全是好事。当然，本次数学实验的题目中，变量还比较理想。三道题目的自变量均不超过两个，导出的回归模型也比较简单方便。比如第三题中的保险行业，投保人的身体健康状况对其投保额的多少就有很大的影响，但是本模型只有两个参变量，相对比较粗糙，不能很好地反应现实问题，只能为现实问题提供粗略的估计。但是本题的计算中体现的思想性，则是回归分析中普适的。