第二古典回归模型.pptx

一、回归分析和回归模型（一）相关分析和回归分析 1.相关分析 变量性质：都是随机变量且关系对等。分析方法：图表法和相关系数。分析目的：判定变量之间相关的方向和关系的密切程度。第一节 古典回归模型第1页/共98页2.回归分析变量性质：自变量与因变量的关系不对等。分析方法：建立回归方程。分析目的：变量之间的数量依存关系，并根据 自变量的数值变化去推测因变量数值变化。第一节 古典回归模型确定性变量随机变量第2页/共98页 举例说明：假设一个总体由60户家庭组成，为了研究家庭消费支出Y与家庭收入X之间的关系，将这60户家庭按人均月收入划分成组内收入水平大致相同的10个组。表2-1列出了每组各个家庭的人均月消费支出和收入情况。第一节 古典回归模型第3页/共98页 表表2-1 2-1 某总体的家庭收支情况某总体的家庭收支情况 单位：元/月人均月收入人均月收入X X人均月消费支出人均月消费支出Y Y条件均值条件均值E(Y)E(Y)180180155 160 165 170 175 155 160 165 170 175 165165200200165 170 174 180 185 188165 170 174 180 185 188177177220220179 184 190 194 198179 184 190 194 198189189240240180 193 195 203 208 213 215180 193 195 203 208 213 215201201260260202 207 210 216 218 225202 207 210 216 218 225213213280280210 215 220 230 235 240210 215 220 230 235 240225225300300220 236 240 244 245220 236 240 244 245237237320320235 237 240 252 257 260 262235 237 240 252 257 260 262249249340340237 245 255 265 275 289237 245 255 265 275 289261261360360250 252 275 278 280 285 291250 252 275 278 280 285 291273273第一节 古典回归模型第4页/共98页 图图2-1 2-1 不同收入水平的家庭消费支出散点分布图不同收入水平的家庭消费支出散点分布图消费支出收入总体回归函数第一节 古典回归模型第5页/共98页 从图2-1的散点分布可以看出，虽然各个家庭的消费支出存在着差异，但各组家庭的平均消费支出随着收入水平的提高也在不断增加。第一节 古典回归模型 回归模型 1、总体回归模型 第6页/共98页 利用图2-1中的直线可以分析家庭消费支出与家庭收入之间的相关关系。这条直线（即解释变量x取各个给定值时y均值的轨迹）称为总体回归直线，所对应的方程E(yi)=(xi)=a+bxi 第一节 古典回归模型 称为总体回归方程，常数a、b称为总体回归参数（或回归系数）。第7页/共98页 回归分析的主要任务就是设法求出总体回归参数的具体数值，进而利用总体回归方程描述和分析总体的平均变化规律。第一节 古典回归模型 2、样本回归模型 总体和样本的关系如下：第8页/共98页第一节 古典回归模型总体是我们研究的目的，但是不能知道总体的全部数据用总体中的一部分（样本）来推断总体的性质。总体样本样本样本第9页/共98页X180 200 220 240 260 280 300 320 340 360Y175 170 190 195 210 215 220 240 255 285 例如，从表2-1的总体中随机抽取一个样本列入表2-2：表表2-22-2 总体中的一个样本总体中的一个样本 根据这10组观察值绘制成散点图（图2-2）如下：第一节 古典回归模型第10页/共98页图图2-22-2总体回归直线与样本回归直线总体回归直线与样本回归直线总体回归函数样本回归函数第一节 古典回归模型第11页/共98页 从图2-2的散点分布可以看出，散点分布仍然呈现出明显的线性趋势；现设法确定一条直线来较好地拟合这些样本观察值，称这条直线为样本回归直线，其对应的方程：称为样本回归方程，分别为总体回归参数a、b的估计。第一节 古典回归模型第12页/共98页 如果估计误差较小，即估计值与真实值比较接近，则可以用样本回归方程近似地代替总体回归方程，即利用样本回归方程近似地描述总体的平均变化规律。注：在参数（或变量）字母上面加上符号“”，表示是该参数（或变量）的估计值或估计量，以后将一直采用这种习惯表示方法。第一节 古典回归模型第13页/共98页 因此，回归分析的主要内容可以概括成：n根据样本观察值确定样本回归方程；n检验样本回归方程对总体回归方程的近似程度；n利用样本回归方程分析总体的平均变化规律。第一节 古典回归模型第14页/共98页二、回归模型的随机设定 （一）随机误差项 从表2-1和图2-1都可以看出，单个家庭的消费支出yi与平均消费支出E(yi)之间存在着一定的离差，用i表示，即：iyiE(yi)yi(abxi)第一节 古典回归模型第15页/共98页 相应地，若样本回归方程为 ，则实际值yi与估计值 的离差用ei表示，即：其中i是一个不可观测的、可正可负的随机变量，称为随机误差项。yiE(yi)iabxii 称为总体回归模型的随机设定形式。第一节 古典回归模型第16页/共98页 称ei为残差（或拟合误差），它可以作为随机误差i的估计。而方程：称为样本回归方程的随机设定形式。第一节 古典回归模型第17页/共98页（二）随机误差产生的原因 n客观现象本身的随机性。n模型本身的局限性。n模型函数形式的设定误差。n数据的测量与归并误差。n随机因素的影响（如自然灾害等）第一节 古典回归模型第18页/共98页三、古典回归模型的基本假定 1解释变量x为非随机变量。2零均值假定：E(i)=0 3同方差假定：D(i)=2（常数）4非自相关假定：Cov(i,j)=0（ij）5解释变量与随机误差项不相关假定：Cov(xi,i)=0（或E(xii)=0）第一节 古典回归模型第19页/共98页 6无多重共线性假定；7i服从正态分布，即i N(0，2)，yiN(a+bxi,2)。第一节 古典回归模型第20页/共98页课外练习题及参考资料一、练习题1、总体回归方程与样本回归方程的区别。2、随机误差产生的原因。3、古典回归模型的基本假定包括哪些。二、参考资料1、经济计量学李长风编著，上海财大出版社，1997年版2、经济计量学张保法编著，经济科学出版社，2000年版第21页/共98页一、最小二乘估计（OLSOLS）二、一元线性回归模型的参数估计三、多元线性回归模型的参数估计四、最小二乘估计的性质 五、系数的估计误差与置信区间 返回第二节 回归模型的参数估计第22页/共98页一、最小二乘估计（OLSOLS）对于一元线性回归模型：yiabxii 假设从总体中获取了n组观察值（x1，y1），（x2，y2），（xn，yn）。对于平面中的这n个点，可以使用无数条曲线来拟合。选择最佳拟合曲线的标准可以确定为：使总的拟合误差（即总残差）达到最小。第二节 回归模型的参数估计第23页/共98页 描述这一标准最常用的是普通最小二乘法（Ordinary Least Square，OLS）：所选择的回归模型应该使所有观察值的残差平方和达到最小。即：=最小第二节 回归模型的参数估计第24页/共98页二、一元线性回归模型的参数估计由于 是关 于 的二次函数并且非负，所以存在最小值。利用微分学中求极值的方法，可以求得 的值。根据 第二节 回归模型的参数估计第25页/共98页从而得到：第二节 回归模型的参数估计解正规方程组可得：正规方程组(2-1)第26页/共98页其中，由于式（2-1）是根据（普通）最小二乘法得到的，所以称 为参数的最小二乘估计，简记成OLS估计。第二节 回归模型的参数估计第27页/共98页 【例1 1】我国税收预测模型。表2-3列出了我国19851998年期间税收收入Y和国内生产总值X的统计资料（时间序列数据），试利用EViews软件建立一元线性回归模型。第二节 回归模型的参数估计第28页/共98页 表2-3 我国税收与GDP统计资料 单位：亿元 年份税收YGDP年份税收YGDP1985204189641992329726638198620911020219934255346341987214011963199451274675919882391149281995603858478198927271690919966910678851990282218548199782347446319912990216181998926379396第二节 回归模型的参数估计第29页/共98页（1 1）建立工作文件：第二节 回归模型的参数估计 启动EViews,点击FileNewWorkfile，弹出工作文件对话框（图2-3），选择数据的时间频率、起始期和终止期。时间频率年度半年季度月度周日非时序数据起始期终止期第30页/共98页 命令方式：在EViews命令窗口中键入 CREATE时间频率类型起始期终止期例如：CREATE A 85 98 （2）输入统计资料：在命令窗口键入数据输入/编辑命令 DATA Y X 将显示数组窗口（图2-4），此时可以按全屏幕编辑方式输入每个变量的统计资料。第二节 回归模型的参数估计第31页/共98页图图2-42-4 数组窗口数组窗口 第二节 回归模型的参数估计第32页/共98页（3 3）估计回归模型：数组窗口中点击ProcsMake equation，定义方程，点击OK，则弹出有关估计结果（右图）。我国税收模型的估计式为：常数和解释变量参数标准差T统计量值双侧概率判定系数调整的判定系数回归方程的标准差残差平方和似然函数的对数德宾-瓦森统计量被解释变量均值被解释变量标准差赤池信息准则施瓦兹信息准则F统计量F统计量的概率参数估计值第二节 回归模型的参数估计第33页/共98页 命令方式，键入：LS 被解释变量 C 解释变量 例如：LS Y C X 【例2】中国城镇居民消费函数。表2-5列出了我国城镇居民家庭1998年平均每人全年消费性支出Y和可支配收入X的统计资料（横截面数据，单位：元/年），试利用EViews软件，通过在命令窗口中直接键入命令的方式建立城镇居民消费函数。常数第二节 回归模型的参数估计第34页/共98页表表2-52-5我国城镇居民家庭我国城镇居民家庭19981998年收支情况年收支情况 收入等级收入等级人均消费支出人均消费支出Y Y人均可支配收入人均可支配收入X X困难户困难户2214.472198.88最低收入户最低收入户2397.62476.75低收入户低收入户2979.273303.17中等偏下户中等偏下户3503.244107.26中等收入户中等收入户4179.645118.99中等偏上户中等偏上户4980.886370.59高收入户高收入户6003.217877.69最高收入户最高收入户7593.9510962.16第二节 回归模型的参数估计第35页/共98页依次键入：建立工作文件：CREATE U 8 输入统计资料：DATA Y X估计回归模型：LS Y C X操作演示 右图是输出结果，我国城镇居民的消费函数为：第二节 回归模型的参数估计第36页/共98页三、多元线性回归模型的参数估计 对于多元线性回归模型 利用OLS法，有：第二节 回归模型的参数估计第37页/共98页第二节 回归模型的参数估计 分别求关于模型参数的一阶偏导数，并令其等于零，得到：第38页/共98页整理得：（2-2）同样称（2-2）式为正规方程组。第二节 回归模型的参数估计第39页/共98页第二节 回归模型的参数估计若定义矩阵：则正规方程组（2-2）式可以用矩阵表示成：所以，参数的最小二乘估计为：第40页/共98页 【例3 3】我国国有独立核算工业企业生产函数。根据生产函数理论，生产函数的基本形式为：Y=（t，L，K，）。其中，L、K分别为生产过程中投入的劳动与资金，时间变量t反映了技术进步的影响。具体统计资料见教材P37。试利用EViews软件建立线性生产函数：Y=b0+b1t+b2L+b3K+第二节 回归模型的参数估计第41页/共98页在Eviews的命令窗口中输入以下命令:（1）建立工作文件：CREATE A 78 94（2）输入统计资料：DATA Y L K（3）生成时间变量t：GENR T=TREND(77)（4）建立回归模型：LS Y C T L 操作演示 回归方程窗口如下图所示：第二节 回归模型的参数估计第42页/共98页我国国有独立工业企业的生产函数为：第二节 回归模型的参数估计第43页/共98页课外练习1、如何理解OLS估计。2、如何利用OLS法估计多元线性回归模型参 数，写出推导过程。3、下次上机练习本节例题1、2、3。熟悉和掌握Eviews软件的使用。第44页/共98页1、经济计量学教程贺铿编著，中国统计大出版社，2000年版2、计量经济分析软件包使用指南刘建国等编，清华大学出版社，1991年版3、回归分析与经济数据建模，中国人民大学出版社，1997年版。参考文献第45页/共98页第二节 回归模型的参数估计四、最小二乘估计的性质（一）参数估计量的评价标准 无偏性：E()=有效性（最小方差性）：D()最小。一致性：第46页/共98页（二）高斯马尔可夫定理 在古典回归模型的若干假定成立的情况下，最小二乘估计是所有线性无偏估计量中的有效估计量。即即OLSOLS估计为估计为“最佳线性无偏估计量最佳线性无偏估计量”（Best Linear Unbiased Estimator BLUE）。第二节 回归模型的参数估计第47页/共98页证明（以一元线性回归模型为例）：1.线性 即参数估计量是 的线性函数。其中：第二节 回归模型的参数估计第48页/共98页2.无偏性 由 的定义容易证得：从而有：第二节 回归模型的参数估计第49页/共98页则 同理可得所以 第50页/共98页3.有效性（最小方差性）先推导 的方差：（i与j不相关假定）（同方差假定）第51页/共98页设 是b的另一个线性无偏估计量，由于则有而且第二节 回归模型的参数估计第52页/共98页所以（注意yi也是互不相关的）（D(yi)=D(i)=2）第二节 回归模型的参数估计第53页/共98页五、系数的估计误差与置信区间 1、OLS估计的概率分布 则由于 假定第二节 回归模型的参数估计第54页/共98页2系数的估计误差 平均误差（平方）=其中，i的方差2采用无偏估计量：参数估计量的平均误差为：来估计2,第二节 回归模型的参数估计第55页/共98页并且用符号 表示系数b的估计误差：同理a的估计误差为：,也称系数的标准误差（标准差）。第二节 回归模型的参数估计第56页/共98页3系数的置信区间 可以证明，统计量 所以，对于给定的置信度1-，由t分布表可以查得临界值t/2，使得：P(|t|F，拒绝H0，模型的线性关系是显著的；若F t/2，拒绝H0，xi 对y有显著影响；若|t|t/2，接受H0，认为xi 对y影响不显著，应考虑将xi 从模型中剔除，重新建模。第三节 回归模型的统计检验第68页/共98页 【例4】(见教材P50)操作演示 在EViews软件输出的回归分析结果中，在每个t统计量值ti的右端还列出了一个概率值p（又称为p值），它表示:P（|t|ti）p 即给出了所谓“精确的显著水平”。第三节 回归模型的统计检验第69页/共98页一、可线性化模型 二、不可线性化模型 三、回归模型的比较 练习题及参考资料 返回 第四节 非线性回归模型第70页/共98页一、可线性化模型 1倒数变换模型（双曲函数模型）设：即可变换为线性。模型应用：平均固定成本曲线、商品成长曲线 菲利普斯曲线等第四节 非线性回归模型第71页/共98页2双对数模型（幂函数模型）则转换成线性回归模型：设:模型其中：弹性第四节 非线性回归模型第72页/共98页3半对数模型 模型 y=a+blnx+(对数函数模型)lny=a+bx+(指数函数模型)对数函数模型中，指数函数模型中，第四节 非线性回归模型第73页/共98页4 4多项式模型 对于模型 设:则:模型转化成多元线性回归模型。第四节 非线性回归模型第74页/共98页 【例5】为了分析某行业的生产成本情况，从该行业中选取了10家企业，表2-10中列出了这些企业总产量Y（吨）和总成本X（万元）的有关资料，试建立该行业的总成本函数和边际成本函数。表2-10 某行业产量与总成本统计资料总成本Y19.3 22.6 24.0 24.2 25.7 26.0 27.4 29.7 35.0 42.0总产量X 10 20 30 40 50 60 70 80 90 100第四节 非线性回归模型第75页/共98页 根据边际成本的U型曲线理论，总成本函数可以用产量的三次多项式近似表示，即：设:EViews的命令操作：GENRX1=XGENRX2=X2GENRX3=X3LSYCX1X2X3变换即可操作演示第四节 非线性回归模型第76页/共98页 对总成本函数求导数，得到边际成本函数的估计式为：得到总成本函数估计式：第四节 非线性回归模型第77页/共98页二、不可线性化模型 采用：高斯牛顿迭代法1迭代估计法 模型 估计过程如下：（1）根据经济理论和所掌握的资料，先确定一组数a0,b0,c0作为参数a,b,c的初始估计值；（2）将模型在点（a0,b0,c0）处展开成泰勒级数，并取一阶近似值；第四节 非线性回归模型第78页/共98页（3）作变量变换，转化成线性回归模型,以利用OLS法估计模型，得到参数的第一组估计值（4）将 代入线性回归模型取代参数的上一组估计值，计算出一组新观察值，进而得到a、b、c的第二组估计值。（5）重复第（4）步，逐次估计，直到第t+1次估计值的估计误差小于事先取定的误差精度时为止。并以第t+1次的计算结果作为参数a、b、c的估计值。第四节 非线性回归模型第79页/共98页2 2迭代估计法的EViewsEViews软件实现 (1)设定待估参数的初始值方式1：PARAM命令，格式为：PARAM 1 初始值1 2 初始值2 方式2：在工作文件窗口中双击序列C，并在序列窗口中直接输入参数的初始值(2)估计非线性模型 【命令方式】键入命令：NLS 被解释变量=非线性函数表达式第四节 非线性回归模型第80页/共98页如，对于非线性回归模型y=a(x-b)/(x-c)+，则 NLS Y=C(1)*(X-C(2)/(X-C(3)【菜单方式】（1）在数组窗口中点击ProcsMake Equation；（2）在弹出的方程描述对话框中输入模型具体形式：Y=C(1)*(X-C(2)/(X-C(3)；（3）选择估计方法为最小二乘法后点击OK。注：可设置最大迭代次数和误差精度，初始值和精度得设定会影响估计结果。第四节 非线性回归模型第81页/共98页 【例6 6】我国国有工业企业生产函数（例4续）。例4中曾估计出我国国有独立核算工业企业的线性生产函数，现建立C-D（Cobb-Dauglas）生产函数：第四节 非线性回归模型第82页/共98页（1）转化成线性模型进行估计 lny=lnA+lnL+lnK+键入以下命令：GENR LNY=log(Y)GENR LNL=log(L)GENR LNK=log(K)LS LNY C LNL LNK 得到C-D生产函数的估计式为：操作演示即:第四节 非线性回归模型第83页/共98页（2）利用迭代法直接估计非线性模型：输入命令：Param 1 1 2 1 3 1 在主窗口中点击ObjectsNew Object，并选择Equation；输入非线性模型的方程表达式：Y=C(1)*LC(2)*KC(3)如果要修改迭代次数或收敛的误差精度,可点击Options按钮进行设置。第四节 非线性回归模型第84页/共98页点击OK后，系统将自动进行迭代运算并输出估计结果：操作演示报告迭代了13次后收敛对应A，第四节 非线性回归模型第85页/共98页三、回归模型的比较 1图形观察分析（1）观察趋势图 变量的发展趋势是否一致？解释变量能否反映被解释变量的波动变化情况？变量发展过程中是否有异常点等问题。（2）观察相关图 直观地判断两者的相关程度和相关类型。第四节 非线性回归模型第86页/共98页2模型估计结果观察分析（1）回归系数的符号、值的大小。（2）改变模型形式之后是否使判定系数的值明显提高。（3）各个解释变量t检验的显著性。（4）系数的估计误差较小。（5）自相关检验第四节 非线性回归模型第87页/共98页 在方程窗口点击View Actual,Fitted,Residual Tabe（或Graph），观察：（1）各期残差是否大都落在 的虚线框内；（2）残差分布是否具有某种规律性，即是否存在着系统误差；（3）近期残差的分布情况。注意：当模型侧重于预测，则应关注F,R2,当模型侧重于因素分析，则应关注t。3残差分布观察分析第四节 非线性回归模型第88页/共98页【例7 7】我国税收预测模型的比较分析（例1续）。（1）相关图分析：操作演示 键入 SCAT X Y(3.1版)，结果如图第四节 非线性回归模型第89页/共98页（2）估计模型：GENR LNY=Log(Y)GENR LNX=Log(X)GENR X2=X2 LS LNY C X （指数函数模型）LS Y C X X2 （二次函数模型）LS LNY C LNX （双对数模型）第四节 非线性回归模型第90页/共98页指数模型的估计结果如下：R2值调整的R2值F统计量的值第四节 非线性回归模型第91页/共98页二次函数模型的估计结果如下：R2值调整的R2值F统计量的值第四节 非线性回归模型第92页/共98页双对数模型的估计结果如下：R2值调整的R2值F统计量的值第四节 非线性回归模型第93页/共98页（3）残差分布分析 指数函数二次函数第四节 非线性回归模型第94页/共98页（4）拟合预测分析 对于二次函数模型，在方程窗口中直接点击Forcast按纽，就可以得到其在样本期的拟合预测值，设命名为Y2。而对于指数函数模型，需要先在方程窗口中由Forcast按纽得到lnY的预测值，设命名为LNYF，然后再计算Y的预测值Y1，即：GENR Y1=EXP（LNYF）然后打入命令：PLOT Y Y1 PLOT Y Y2 即可得到模型1、2的拟合预测图（见下图）：第四节 非线性回归模型第95页/共98页指数函数拟合预测图二次函数拟合预测图第四节 非线性回归模型第96页/共98页1、说明双曲线模型、双对数模型及半对数模型参数的意义。2、利用例题3/4数据，熟悉和掌握Eviews软件的使用，画出相关图、残差分布表等。课外练习第97页/共98页感谢您的观看！第98页/共98页