浅谈回归分析精选文档.ppt
浅谈回归分析本讲稿第一页,共七十九页2023/4/71实验目的实验目的实验内容实验内容2、掌握用数学软件求解回归分析问题。、掌握用数学软件求解回归分析问题。1、直观了解回归分析基本内容。、直观了解回归分析基本内容。1 1、回归分析的基本理论回归分析的基本理论。3 3、实验作业。实验作业。2、用数学软件求解回归分析问题。用数学软件求解回归分析问题。本讲稿第二页,共七十九页2023/4/72一元线性回归一元线性回归多元线性回归多元线性回归回归分析回归分析数数学学模模型型及及定定义义*模模型型参参数数估估计计*检检验验、预预测测与与控控制制可可线线性性化化的的一一元元非非线线性性回回归归(曲曲线线回回归归)数数学学模模型型及及定定义义*模模型型参参数数估估计计*多多元元线线性性回回归归中中的的检检验验与与预预测测逐逐步步回回归归分分析析本讲稿第三页,共七十九页2023/4/73一、数学模型一、数学模型例例1 测16名成年女子的身高与腿长所得数据如下:以身高x为横坐标,以腿长y为纵坐标将这些数据点(xI,yi)在平面直角坐标系上标出.散点图解答本讲稿第四页,共七十九页2023/4/74一元线性回归分析的主要任务主要任务是:返回返回本讲稿第五页,共七十九页2023/4/75二、模型参数估计二、模型参数估计1、回归系数的最小二乘估计、回归系数的最小二乘估计本讲稿第六页,共七十九页2023/4/76返回返回本讲稿第七页,共七十九页2023/4/77三、检验、预测与控制三、检验、预测与控制1、回归方程的显著性检验、回归方程的显著性检验本讲稿第八页,共七十九页2023/4/78()F检验法检验法()t检验法检验法本讲稿第九页,共七十九页2023/4/79()r检验法检验法本讲稿第十页,共七十九页2023/4/7102、回归系数的置信区间、回归系数的置信区间本讲稿第十一页,共七十九页2023/4/7113、预测与控制、预测与控制(1)预测)预测本讲稿第十二页,共七十九页2023/4/712(2)控制)控制返回返回本讲稿第十三页,共七十九页2023/4/713四、可线性化的一元非线性回归四、可线性化的一元非线性回归(曲线回归)(曲线回归)例例2出钢时所用的盛钢水的钢包,由于钢水对耐火材料的侵蚀,容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验,测得的数据列于下表:解答本讲稿第十四页,共七十九页2023/4/714散点图此即非线性回归非线性回归或曲线回归曲线回归问题(需要配曲线)配曲线的一般方法是:配曲线的一般方法是:本讲稿第十五页,共七十九页2023/4/715通常选择的六类曲线如下:返回返回本讲稿第十六页,共七十九页2023/4/716一、数学模型及定义一、数学模型及定义返回返回本讲稿第十七页,共七十九页2023/4/717二、模型参数估计二、模型参数估计本讲稿第十八页,共七十九页2023/4/718返回返回本讲稿第十九页,共七十九页2023/4/719三、多元线性回归中的检验与预测三、多元线性回归中的检验与预测()F检验法检验法()r检验法检验法(残差平方和)残差平方和)本讲稿第二十页,共七十九页2023/4/7202、预测、预测(1)点预测)点预测(2)区间预测)区间预测返回返回本讲稿第二十一页,共七十九页2023/4/721四、逐步回归分析四、逐步回归分析(4)“有进有出”的逐步回归分析。(1)从所有可能的因子(变量)组合的回归方程中选择最优者;(2)从包含全部变量的回归方程中逐次剔除不显著因子;(3)从一个变量开始,把变量逐个引入方程;选择“最优”的回归方程有以下几种方法:“最最优优”的的回回归归方方程程就是包含所有对Y有影响的变量,而不包含对Y影响不显著的变量回归方程。以第四种方法,即逐步回归分析法逐步回归分析法在筛选变量方面较为理想.本讲稿第二十二页,共七十九页2023/4/722 这个过程反复进行,直至既无不显著的变量从回归方程中剔除,又无显著变量可引入回归方程时为止。逐步回归分析法逐步回归分析法的思想:从一个自变量开始,视自变量Y作用的显著程度,从大到地依次逐个引入回归方程。当引入的自变量由于后面变量的引入而变得不显著时,要将其剔除掉。引入一个自变量或从回归方程中剔除一个自变量,为逐步回归的一步。对于每一步都要进行Y值检验,以确保每次引入新的显著性变量前回归方程中只包含对Y作用显著的变量。返回返回本讲稿第二十三页,共七十九页2023/4/723统计工具箱中的回归分析命令统计工具箱中的回归分析命令1、多元线性回归、多元线性回归2、多项式回归、多项式回归3、非线性回归、非线性回归4、逐步回归、逐步回归返回返回本讲稿第二十四页,共七十九页2023/4/724多元线性回归多元线性回归 b=regress(Y,X)1、确定回归系数的点估计值:确定回归系数的点估计值:本讲稿第二十五页,共七十九页2023/4/7253、画出残差及其置信区间:画出残差及其置信区间:rcoplot(r,rint)2、求回归系数的点估计和区间估计、并检验回归模型:求回归系数的点估计和区间估计、并检验回归模型:b,bint,r,rint,stats=regress(Y,X,alpha)回归系数的区间估计残差用于检验回归模型的统计量,有三个数值:相关系数r2、F值、与F对应的概率p置信区间 显著性水平(缺省时为0.05)本讲稿第二十六页,共七十九页2023/4/726例例1解:解:1、输入数据:输入数据:x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164;X=ones(16,1)x;Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2、回归分析及检验:回归分析及检验:b,bint,r,rint,stats=regress(Y,X)b,bint,statsTo MATLAB(liti11)题目本讲稿第二十七页,共七十九页2023/4/7273、残差分析,作残差图:、残差分析,作残差图:rcoplot(r,rint)从残差图可以看出,除第二个数据外,其余数据的残差离零点均较近,且残差的置信区间均包含零点,这说明回归模型 y=-16.073+0.7194x能较好的符合原始数据,而第二个数据可视为异常点.4、预测及作图:、预测及作图:z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)返回返回To MATLAB(liti12)本讲稿第二十八页,共七十九页2023/4/728多多项项式式回回归归(一)一元多项式回归(一)一元多项式回归(1)确定多项式系数的命令:p,S=polyfit(x,y,m)(2)一元多项式回归命令:polytool(x,y,m)1、回归:、回归:y=a1xm+a2xm-1+amx+am+12、预测和预测误差估计:、预测和预测误差估计:(1)Y=polyval(p,x)求polyfit所得的回归多项式在x处 的预 测值Y;(2)Y,DELTA=polyconf(p,x,S,alpha)求polyfit所得 的回归多项式在x处的预测值Y及预测值的显著性为1-alpha的置信区间Y DELTA;alpha缺省时为0.5.本讲稿第二十九页,共七十九页2023/4/729法一法一 直接作二次多项式回归:直接作二次多项式回归:t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;p,S=polyfit(t,s,2)To MATLAB(liti21)得回归模型为:本讲稿第三十页,共七十九页2023/4/730法二法二化为多元线性回归:化为多元线性回归:t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1)t(t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22)得回归模型为:Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r)预测及作图预测及作图To MATLAB(liti23)本讲稿第三十一页,共七十九页2023/4/731(二)多元二项式回归(二)多元二项式回归命令:rstool(x,y,model,alpha)nm矩阵显著性水平(缺省时为0.05)n维列向量本讲稿第三十二页,共七十九页2023/4/732例例3 设某商品的需求量与消费者的平均收入、商品价格的统计数 据如下,建立回归模型,预测平均收入为1000、价格为6时 的商品需求量.法一法一 直接用多元二项式回归:x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2;rstool(x,y,purequadratic)本讲稿第三十三页,共七十九页2023/4/733 在画面左下方的下拉式菜单中选”all”,则beta、rmse和residuals都传送到Matlab工作区中.在左边图形下方的方框中输入1000,右边图形下方的方框中输入6。则画面左边的“Predicted Y”下方的数据变为88.47981,即预测出平均收入为1000、价格为6时的商品需求量为88.4791.本讲稿第三十四页,共七十九页2023/4/734在Matlab工作区中输入命令:beta,rmseTo MATLAB(liti31)为剩余标准差,表示应变量Y值对于回归直线的离散程度。本讲稿第三十五页,共七十九页2023/4/735结果为:b=110.5313 0.1464 -26.5709 -0.0001 1.8475 stats=0.9702 40.6656 0.0005法二法二To MATLAB(liti32)返回返回将 化为多元线性回归:本讲稿第三十六页,共七十九页2023/4/736非线性回非线性回归归(1)确定回归系数的命令:beta,r,J=nlinfit(x,y,model,beta0)(2)非线性回归命令:nlintool(x,y,model,beta0,alpha)1、回归:、回归:残差Jacobian矩阵回归系数的初值是事先用m-文件定义的非线性函数估计出的回归系数输入数据x、y分别为 矩阵和n维列向量,对一元非线性回归,x为n维列向量。2、预测和预测误差估计:、预测和预测误差估计:Y,DELTA=nlpredci(model,x,beta,r,J)求nlinfit 或nlintool所得的回归函数在x处的预测值Y及预测值的显著性为1-alpha的置信区间Y DELTA.本讲稿第三十七页,共七十九页2023/4/737例例4 对第一节例2,求解如下:2、输入数据:x=2:16;y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76;beta0=8 2;3、求回归系数:beta,r,J=nlinfit(x,y,volum,beta0);beta得结果:beta=11.6036 -1.0641即得回归模型为:To MATLAB(liti41)题目本讲稿第三十八页,共七十九页2023/4/7384、预测及作图:YY,delta=nlpredci(volum,x,beta,r,J);plot(x,y,k+,x,YY,r)To MATLAB(liti42)本讲稿第三十九页,共七十九页2023/4/739例例5财政收入预测问题:财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等因素有关。下表列出了1952-1981年的原始数据,试构造预测模型。解解 设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为x1、x2、x3、x4、x5、x6,财政收入为y,设变量之间的关系为:y=ax1+bx2+cx3+dx4+ex5+fx6使用非线性回归方法求解。本讲稿第四十页,共七十九页2023/4/7401对回归模型建立对回归模型建立M文件文件model.m如下如下:function yy=model(beta0,X)a=beta0(1);b=beta0(2);c=beta0(3);d=beta0(4);e=beta0(5);f=beta0(6);x1=X(:,1);x2=X(:,2);x3=X(:,3);x4=X(:,4);x5=X(:,5);x6=X(:,6);yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;本讲稿第四十一页,共七十九页2023/4/7412.主程序主程序liti6.m如下如下:X=598.00 349.00 461.00 57482.00 20729.00 44.00 .2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00.271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00.564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00.890.00 826.00 810.0;beta0=0.50-0.03-0.60 0.01-0.02 0.35;betafit=nlinfit(X,y,model,beta0)To MATLAB(liti6)本讲稿第四十二页,共七十九页2023/4/742 betafit=0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即y=0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6结果为结果为:返返回回本讲稿第四十三页,共七十九页2023/4/743逐逐步步回回归归逐步回归的命令是:stepwise(x,y,inmodel,alpha)运行stepwise命令时产生三个图形窗口:Stepwise Plot,Stepwise Table,Stepwise History.在Stepwise Plot窗口,显示出各项的回归系数及其置信区间.Stepwise Table 窗口中列出了一个统计表,包括回归系数及其置信区间,以及模型的统计量剩余标准差(RMSE)、相关系数(R-square)、F值、与F对应的概率P.矩阵的列数的指标,给出初始模型中包括的子集(缺省时设定为全部自变量)显著性水平(缺省时为0.5)自变量数据,阶矩阵因变量数据,阶矩阵本讲稿第四十四页,共七十九页2023/4/744例例6 水泥凝固时放出的热量y与水泥中4种化学成分x1、x2、x3、x4 有关,今测得一组数据如下,试用逐步回归法确定一个 线性模 型.1、数据输入:、数据输入:x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;本讲稿第四十五页,共七十九页2023/4/7452、逐步回归:、逐步回归:(1)先在初始模型中取全部自变量:)先在初始模型中取全部自变量:stepwise(x,y)得图Stepwise Plot 和表Stepwise Table图图StepwisePlot中四条直线都是虚线,说中四条直线都是虚线,说明模型的显著性不好明模型的显著性不好从表从表StepwiseTable中看出变量中看出变量x3和和x4的显著性最差的显著性最差.本讲稿第四十六页,共七十九页2023/4/746(2)在图)在图StepwisePlot中点击直线中点击直线3和直线和直线4,移去变量,移去变量x3和和x4移去变量移去变量x3和和x4后模型具有显著性后模型具有显著性.虽然剩余标准差(虽然剩余标准差(RMSE)没有太大)没有太大的变化,但是统计量的变化,但是统计量F的的值明显增大,因此新的回归模型更好值明显增大,因此新的回归模型更好.To MATLAB(liti51)本讲稿第四十七页,共七十九页2023/4/747(3)对变量)对变量y和和x1、x2作线性回归:作线性回归:X=ones(13,1)x1 x2;b=regress(y,X)得结果:b=52.5773 1.4683 0.6623故最终模型为:y=52.5773+1.4683x1+0.6623x2To MATLAB(liti52)返回返回本讲稿第四十八页,共七十九页2023/4/7481、考察温度x对产量y的影响,测得下列10组数据:求y关于x的线性回归方程,检验回归效果是否显著,并预测x=42时产量的估值及预测区间(置信度95%).2、某零件上有一段曲线,为了在程序控制机床上加工这一零件,需要求这段曲线的解析表达式,在曲线横坐标xi处测得纵坐标yi共11对数据如下:求这段曲线的纵坐标y关于横坐标x的二次多项式回归方程.本讲稿第四十九页,共七十九页2023/4/749本讲稿第五十页,共七十九页2023/4/7504、混凝土的抗压强度随养护时间的延长而增加,现将一批混凝土作成12个试块,记录了养护日期x(日)及抗压强度y(kg/cm2)的数据:本讲稿第五十一页,共七十九页2023/4/751本讲稿第五十二页,共七十九页2023/4/752四四 软件开发人员的薪金软件开发人员的薪金问题:问题:一家高技术公司人事部门为研究软件开发人员的薪金与他们的资历、管理责任、教育程度等因素之间的关系,要建立一个数学模型,以便分析公司人士策略的合理性,并作为新聘用人员工资的参考。他们认为目前公司人员的薪金总体上是合理的,可以作为建模的依据,于是调查了46名开发人员的档案资料,如表。其中资历一列指从事专业工作的年数,管理一列中1表示管理人员,0表示非管理人员,教育一列中1表示中学程度,2表示大学程度,3表示更高程度(研究生)本讲稿第五十三页,共七十九页2023/4/753编号薪金资历管理教育编号薪金资历管理教育011387611113198003130211608103141141740103187011131520263413041128310216132314030511767103171284440206208722121813245502071177220219136775030810535201201596551109121952032112366601101231330222213526131114975311231383960212213713122422884612本讲稿第五十四页,共七十九页2023/4/754编号薪金资历管理教育编号薪金资历管理教育251697871136168821202261480380237241701213271740481138159901301282218481339263301312291354880140179491402301446710014125685151331159421002422783716123223174101343188381602332378010124417483160134254101112451920717023514861110146193462001开发人员的薪金与他们的资历、管理责任、教育程度本讲稿第五十五页,共七十九页2023/4/755分析与假设:分析与假设:按照常识,薪金自然按照资历(年)的增长而增加,管理人员的薪金高于非管理人员,教育程度越高薪金越高。薪金记作,资历(年)记作,为了表示是否为管理人员定义1,管理人员0,非管理人员为了表示三种教育程度,定义1,中学0,其它1,大学0,其它这样,中学用表示,大学用表示,研究生则用表示。本讲稿第五十六页,共七十九页2023/4/756为了简单起见,我们假定资历(年)对薪金的作用是线性的,即资历每加一年,薪金的增长是常数;管理责任、教育程度、资历诸因素之间没有交互作用,建立线性回归模型。基本模型:基本模型:薪金与资历,管理责任,教育程度之间的多元线性回归模型为其中,是待估计的回归系数,是随机误差。利用MATLAB的系统工具箱可以得到回归系数及其置信区间(置信水平 )、检验统计量的结果,见表。本讲稿第五十七页,共七十九页2023/4/757参数参数估计值置信区间1103210258 11807546484 60868836248 7517-2994-3826 -2162148-636 931本讲稿第五十八页,共七十九页2023/4/758结果分析:结果分析:从表中,即因变量(薪金)的95.7%可由模型确定,值超过检验的临界值,远小于,因而模型从整体来看是可用的。比如,利用模型可以估计(或估计)一个大学毕业、有2年资历、管理人员的薪金为模型中各个回归系数的含义可初步解释如下:的系数为546,说明资历每增加一年,薪金增长546;的系数为6883,说明管理人员的薪金比非管理人员多6883;的系数为-2994,说明中学程度的薪金比研究生少2994;的系数为148,说明大学程度的薪金比研究生多148,但是应该注意到的置信区间包含零点,所以这个系数的解释是不可靠的。注意:上述解释是就平均值来说的,并且,一个因素改变引起的因变量的变化量,都是在其它因素不变的条件下才成立的。本讲稿第五十九页,共七十九页2023/4/759进一步讨论:进一步讨论:的置信区间包含零点,说明上述基本模型存在缺点。为了寻找改进的方向,常用残差分析法(残差指薪金的实际值与模型估计的薪金之差,是基本模型中随机误差的估计值,这里用同一个符号)。我们将影响因素分成资历与管理教育组合两类,管理-教育组合定义如表。组合1 23456管理010101教育112233管理管理教育组合教育组合本讲稿第六十页,共七十九页2023/4/760为了对残差进行分析,下图给出与资历的关系,及与管理-教育组合间的关系。与资历的关系与组合的关系从左图看,残差大概分成3个水平,这是由于6种管理教育组合混在一起,在模型中未被正确反映的结果;从右图看,对于前4个管理教育组合,残差或者全为正,或者全为负,也表明管理-教育组合在模型中处理不当。在模型中,管理责任和教育程度是分别起作用的,事实上,二者可能起着交互作用,如大学程度的管理人员的薪金会比二者分别的薪金之和高一点。本讲稿第六十一页,共七十九页2023/4/761以上分析提示我们,应在基本模型中增加管理更好的模型:更好的模型:与教育的交互项,建立新的回归模型。增加与的交互项后,模型记作利用MATLAB的统计工具箱得到的结果如表:本讲稿第六十二页,共七十九页2023/4/762参数参数估计值置信区间1120411044 11363497486 50870486841 7255-1727-1939 -1514-348-545 -152-3071-3372 -276918361571 2101本讲稿第六十三页,共七十九页2023/4/763由上表可知,这个模型的做该模型的两个残差分析图,可以看出,已经消除了不正常现象,这也说明了模型的适用性。和值都比上一个模型有所改进,并且所有回归系数的置信区间都不含零点,表明这个模型完全可用。与的关系与组合的关系本讲稿第六十四页,共七十九页2023/4/764从上图,还可以发现一个异常点:具有10年资历、大学程度的管理人员(编号33)的实际薪金明显低于模型的估计值,也明显低于与他有类似经历的其他人的薪金。这可能是由我们未知的原因造成的。为了使个别数据不致影响整个模型,应该将这个异常数据去掉,对模型重新估计回归系数,得到的结果如表。残差分析见图。可以看到,去掉异常数据后结果又有改善。本讲稿第六十五页,共七十九页2023/4/765参数参数估计值置信区间1120011139 11261498494 50370416962 7120-1737-1818 -1656-356-431 -281-3056-3171 -294219971894 2100本讲稿第六十六页,共七十九页2023/4/766与的关系与组合的关系模型的应用:模型的应用:对于第二个模型,用去掉异常数据(33号)后估计出的系数得到的结果是满意的。模型的应用之一,可以用来“制订”6种管理教育组合人员的“基础”薪金(即资历为零的薪金),这是平均意义上的。利用第二个模型和去掉异常数据后得到的回归系数,可以得到如下结果:本讲稿第六十七页,共七十九页2023/4/767组合管理教育系数“基础”薪金10194632111344830210844412198825031120061318241本讲稿第六十八页,共七十九页2023/4/768可以看出,大学程度的管理人员薪金比研究生程度管理人员薪金高,而大学程度的非管理人员薪金比研究生程度非管理人员薪金略低。当然,这是根据这家公司实际数据建立的模型得到的结果,并不具普遍性。评注:评注:从建立回归模型的角度,通过这个问题的求解我们学习了:1)对于影响因变量的定性因素(管理、教育),可以引入 01变量来处理,01变量的个数比定性因素的水平少 1(如教育程度有3个水平,引入2个01变量)。2)用残差分析法可以发现模型的缺陷,引入交互作用项常 常可以得到改善。3)若发现异常值应剔除,有助于结果的合理性。思考:思考:在这里我们由简到繁,先分别引进管理和教育因素,再引入交互项。试直接对6种管理-教育组合引入5个01变量,建立模型,看结果如何。本讲稿第六十九页,共七十九页2023/4/769五五 教学评估教学评估为了考评教师的教学质量,教学研究部门设计了一个教学评估表,对学生进行一次问卷调查,要求学生对12位教师的15门课程(其中3为教师有两门课程)按以下7项内容打分,分值为15分(5分最好,1分最差):问题:问题:课程内容组织的合理性;主要问题展开的逻辑性;回答学生问题的有效性;课下交流的有助性;教科书的帮助性;考试评分的公正性;对教师的总体评价。本讲稿第七十页,共七十九页2023/4/770收回问卷调查表后,得到了学生对12为教师、15门课程各项评分的平均值,见表。教师编号课程编号12014.464.424.234.104.564.374.1122244.113.823.293.603.993.823.3833013.583.313.243.764.393.753.1743014.424.374.344.403.634.274.3953014.624.474.534.674.634.574.69本讲稿第七十一页,共七十九页2023/4/771教师编号课程编号63093.183.823.923.623.504.143.2573112.472.793.583.502.843.842.8483114.293.924.053.762.764.113.9593124.414.364.274.754.594.114.18103124.594.344.244.392.644.384.44113334.554.454.434.574.454.404.47124244.674.644.524.393.484.214.6133513.713.413.394.184.064.063.1744114.284.454.104.073.764.434.1594244.244.384.354.484.154.504.33本讲稿第七十二页,共七十九页2023/4/772不一定每项都对教师总体评价有显著影响,并且各项内容之间也可能存在很强的相关性,他们希望得到一个总体评价与各项具体内容之间的模型,模型应尽量简单和有效,并且由此能给教师一些合理的建议,以提高总体评价。准备知识:准备知识:逐步回归这个问题给出了6个自变量,但我们希望从中选出对因变量影响显著的那些来建立回归模型。变量选择的标准应该是将所有对因变量影响显著的自变量都选入模型,而影响不显著的自变量都不选入模型,从便于应用的角度,应使模型中的自变量个数尽量少。逐步回归就是一种从众多自变量中有效的选择重要变量的方法。教学研究部门认为,所列各项具体内容本讲稿第七十三页,共七十九页2023/4/773逐步回归的基本思路是,先确定一个包含若干自变量的初始集合,然后每次从集合外的变量中引入一个对因变量影响最大的,再对集合中的变量进行检验,从变得不显著的变量中移出一个影响最小的,依次进行,直到不能引入和移出为止。引入和移出都以给定的显著性水平为标准。利用MATLAB系统工具箱中的逐步回归命令stepwise可以实现逐步回归。Stepwise提供人机交互式画面,可以在画面上自由引入和移出变量,进行统计分析。具体用法参见MATLAB丛书回归模型的建立与求解:回归模型的建立与求解:我们利用MATLAB命令得到各个变量的回归系数,置信区间,及剩余标准差(RMSE),决定系数(R-square),值,值。见表。本讲稿第七十四页,共七十九页2023/4/774参数参数估计值置信区间10.51620.01546 0.0192-0.05469-0.853 0.7436 30.6706-0.03795 1.37940.1245-0.462 0.67515-0.04335-0.2514 0.164760.1363-0.6958 0.9684RMSER-squareFp0.11250.980667.292.071e-006可以看到,除外其他自变量的回归系数置信区间都包含零点在临界状态,将一一移去(与次序无关),当模型中仅含时结果见下表。本讲稿第七十五页,共七十九页2023/4/775参数参数估计值置信区间10.50990.326 0.69382-0.1137-0.689 0.4616 30.7678-0.5124 1.02340.0833-0.2767 0.44335-0.018-0.1565 0.120560.1109-0.5594 0.7811RMSER-squareFp0.10.977254.71.487e-010可以看到,仅含模型的回归系数置信区间远离零点,对的影响是显著的,与上个结果比较,剩余标准差由0.1125减少到0.1,虽然略有下降,但值大大提高。这些表明仅含模型是合适的。但MATLAB命令并未给出回归模型的常数项。我们由以下方法计算得到:本讲稿第七十六页,共七十九页2023/4/776终得到的模型为在最终模型里回归变量只有其中,分别是的平均值。利用逐步回归最模型解释:模型解释:,是一个简单易用的模型,据此可把课程内容组织的合理性()和回答学生问题的有效性()列入考评的重点。上式表明,的分值每增加一分,对教师的总体评价就增加约0.5分;的分值每增加一分,对教师的总体评价就增加约0.77分。应建议教师注重这两方面的工作。为了分析其它变量没有进入最终模型的原因,可以计算的相关系数,利用MATLAB系统工具箱中的corrcoef命令直接得到这7个变量的相关系数矩阵:本讲稿第七十七页,共七十九页2023/4/7771.00000.90080.67520.73610.29100.64710.89730.90081.00000.85040.73990.27750.80260.93630.67520.85041.00000.74990.08080.84900.91160.73610.73990.74991.00000.43700.70410.82190.29100.27750.08080.43701.00000.18720.17830.64710.80260.84900.70410.18721.00000.82460.89730.93630.91160.82190.17830.82461.0000一般认为,两个变量的相关系数超过0.85时才具有显著的相关关系。由上面的结果知,与相关关系显著的只有而未进入最终模型,是由于它与的相关系数显著(相关系数),可以说,模型中有了以后本讲稿第七十八页,共七十九页2023/4/778变量如果初步看来影响因变量的因素较多,并得到了大量的数据。为了建立一个有效的、便于应用的模型,可以利用逐步回归只选择那些影响显著的变量“入围”。如果怀疑原有变量的平方项、交叉项等也会对变量有显著影响也可以将这些项作为新的自变量加入到候选行列,用逐步回归来处理。是多余的,应该去掉。评注:评注:本讲稿第七十九页,共七十九页2023/4/779