计量经济学-2章：一元线性回归模型资料.ppt

《计量经济学-2章：一元线性回归模型资料.ppt》由会员分享，可在线阅读，更多相关《计量经济学-2章：一元线性回归模型资料.ppt（54页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、计量经济学-2章：一元线性回归模型l对变量间统计依赖关系的考察主要是通过对变量间统计依赖关系的考察主要是通过相关分析相关分析(cotion analysis)或回归分析或回归分析(regression analysis)来完成的来完成的2、相关分析与回归分析、相关分析与回归分析11/22/20222/60重庆工商大学经济贸易学院-张文爱l注意注意不线性相关并不意味着不相关。有相关关系并不意味着一定有因果关系。回归分析/相关分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。相关分析相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。回归分析回归分析对变量

2、的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量）：前者是随机变量，后者不是。11/22/20223/60重庆工商大学经济贸易学院-张文爱l回归分析回归分析(regression analysis)(regression analysis)是研究一个变量关于另一个（些）变量的依赖关系的理论和计算方法。其目的其目的在于通过后者的已知或设定值，去估计和（或）预测前者的（总体）均值。l被解释变量被解释变量（Explained Variable）或应应变量变量（Dependent Variable）。l解释变量解释变量（Explanatory Variable）或自自变量变量（In

3、dependent Variable）。回归分析回归分析概念概念11/22/20224/60重庆工商大学经济贸易学院-张文爱l回归分析构成计量经济学的方法论基础，其主回归分析构成计量经济学的方法论基础，其主要内容包括：要内容包括：（1）根据样本观察值对经济计量模型参数进行估计，求得回归方程；（2）对回归方程、参数估计值进行显著性检验；（3）利用回归方程进行分析、评价及预测。11/22/20225/60重庆工商大学经济贸易学院-张文爱二、总体回归函数二、总体回归函数l回归分析回归分析关心的是根据解释变量的已知或给定值，考察被解释变量的总体均值，即当解释变量取某个确定值时，与之统计相关的被解释变量

4、所有可能出现的对应值的平均值。11/22/20226/60重庆工商大学经济贸易学院-张文爱l例例2.1：一个假想的社区有100户家庭组成，要研究该社区每月家庭消费支出家庭消费支出Y与每月家庭可家庭可支配收入支配收入X的关系。即如果知道了家庭的月收入，能否预测该社区家庭的平均月消费支出水平。为达到此目的，将该100户家庭划分为组内收入差不多的10组，以分析每一收入组的家庭消费支出。11/22/20227/60重庆工商大学经济贸易学院-张文爱11/22/20228/60重庆工商大学经济贸易学院-张文爱l由于不确定因素的影响，对同一收入水平X，不同家庭的消费支出不完全相同；l但由于调查的完备性完备性

5、，给定收入水平X的消费支出Y的分布是确定的，即以X的给定值为条件的Y的条件条件分布分布（Conditional distribution）是已知的，例如：P(Y=561|X=800）=1/4。l因此，给定收入X的值Xi，可得消费支出Y的条件均条件均值值（conditional mean）或条件期望条件期望（conditional expectation）：E(Y|X=Xi)。l该例中：11/22/20229/60重庆工商大学经济贸易学院-张文爱11/22/202210/60重庆工商大学经济贸易学院-张文爱 由对全体居民的收入和支出的调查结果，我们知由对全体居民的收入和支出的调查结果，我们知道处

6、于不同收入阶层的居民有一个平均的支出水平，道处于不同收入阶层的居民有一个平均的支出水平，这一支出水平与收入大致呈线性关系。这一支出水平与收入大致呈线性关系。l描出散点图发现：随着收入的增加，消费“平平均地说均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线总体回归线。l概念：在给定解释变量Xi条件下被解释变量Yi的期望轨迹称为总体回归线总体回归线（population regression line），或更一般地称为总体回归曲总体回归曲线线（population regression curve）。11/22/202211称为总体回归函数总体回归函数（popula

7、tion regression function,PRF）。总体回归结对应的函数：l回归函数（PRF）说明被解释变量Y的平均状态（总体条件期望）随解释变量X变化的规律。函数形式：函数形式：可以是线性或非线性的。例2.1中，将居民消费支出看成是其可支配收入的线性函数时:为线性函数。线性函数。其中，0，1是未知参数，称为回归系数回归系数（regression coefficients）。11/22/202212/60重庆工商大学经济贸易学院-张文爱三、随机误差项三、随机误差项l总体回归函数说明在给定的收入水平Xi下，该社区家庭平均的消费支出水平。l但对某一个别的家庭，其消费支出可能与该平均水平有偏

8、差。l称为观察值围绕它的期望值的离差离差（deviation），是一个不可观测的随机变量，又称为随机干扰项（随机干扰项（stochastic disturbance）或随机误差项（随机误差项（stochastic error）。11/22/202213/60重庆工商大学经济贸易学院-张文爱l例2.1中，给定收入水平Xi,个别家庭的支出可表示为两部分之和：（1）该收入水平下所有家庭的平均消费支出E(Y|Xi)，称为系统性（系统性（systematic）或确确定性（定性（deterministic)部分；部分；（2）其他随机随机或非确定非确定性性（nonsystematic)部分部分 i。11/2

9、2/202214/60重庆工商大学经济贸易学院-张文爱l称为总体回归函数（PRF）的随机设定形式。l表明被解释变量除了受解释变量的系统性影响外，还受其他因素的随机性影响。由于方程中引入了随机项，成为计量经济学模型，因此也称为总体回归模型。11/22/202215/60重庆工商大学经济贸易学院-张文爱l随机误差项主要包括下列因素：随机误差项主要包括下列因素：在回归模型中被省略的因素的影响；经济变量之间的合并误差变量观测值的观测误差的影响；模型关系的设定误差的影响；其他随机因素的影响。11/22/202216/60重庆工商大学经济贸易学院-张文爱四、样本回归函数（四、样本回归函数（SRF）l问题：

10、问题：能从一次抽样中获得总体的近似的信息吗？如果可以，如何从抽样中获得总体的近似信息？l例例2.2：在例2.1的总体中有如下一个样本，能否从该样本估计总体回归函数PRF？回答：能11/22/202217/60重庆工商大学经济贸易学院-张文爱 该样本的该样本的散点图散点图散点图散点图（scatter diagram)scatter diagram)：l 画一条直线以尽好地拟合该散点图，由于样本取自总体，可以该直线近似地代表总体回归线。该直线称为样本回归线样本回归线（sample regression lines）。）。11/22/202218/60重庆工商大学经济贸易学院-张文爱l 记样本回归线

11、的函数形式为：称为样本回归函数（样本回归函数（sample regression function，SRF）。11/22/202219/60重庆工商大学经济贸易学院-张文爱样本回归函数的随机形式（样本回归模型）样本回归函数的随机形式（样本回归模型）同样地，样本回归函数也有如下的随机形式：由于方程中引入了随机项，成为计量经济模型，因此也称为样本回归模型（样本回归模型（sample regression model）。式中，ie称为（样本）残差（样本）残差（或剩余剩余）项项（residual），代表了其他影响iY的随机因素的集合，可看成是im的估计量im。11/22/202220 回归分析的主要目

12、的：根据样本回归函数SRF，估计总体回归函数PRF。即，根据 估计11/22/202221/60重庆工商大学经济贸易学院-张文爱总体总体回归回归模型模型样本样本回归回归模型模型 总体回归模型总体回归模型YX5511001400 140 160800样本回归模型样本回归模型一元多元(k元)一元多元(k元)回归模型类类型回归模型类类型11/22/202222一、基本假定一、基本假定1、零均值。随机扰动项、零均值。随机扰动项ui的均值为零。即，的均值为零。即，E(ui|Xi)=02、同方差。随机扰动项、同方差。随机扰动项ui的方差相等。即的方差相等。即 Var(ui|Xi)=E(ui-E(ui)|X

13、i2 =E(ui2|Xi2=23、无自相关。各个扰动项无自相关。即：、无自相关。各个扰动项无自相关。即：考虑回归模型：考虑回归模型：2.2 一元线性回归模型的参数估计一元线性回归模型的参数估计11/22/2022234、随机扰动项、随机扰动项ui解释变量解释变量Xi不相关。即不相关。即 Cov（ui，Xi）=Eui-EuiXi-EXi=0 i=1，2，n5、ui服从正态分布，即服从正态分布，即 uiN（0，2），），i=1，2，n上述基本假设也叫线性回归模型的经典假设经典假设或高高斯（斯（Gauss）假设）假设；满足上述基本假设的模型称为经典线性回归模型经典线性回归模型（classical l

14、inear regression model,CLRM)注：“假设”只是为了运用；并非不满足假设就不能估计！11/22/202224二、参数的普通最小二乘估计（二、参数的普通最小二乘估计（OLSOLS）给定一组样本观测值（Xi,Yi）（i=1,2,n）要求样本回归函数尽可能好地拟合这组值.普通最小二乘法普通最小二乘法（Ordinary least squares,OLS）给出的判断标准是：残差平方和最小残差平方和最小对于11/22/202225/60重庆工商大学经济贸易学院-张文爱方程组（*）称为正规方程组（正规方程组（normal equations）。11/22/202226记上述参数估计

15、量可以写成：称为OLS估计量的离差形式（离差形式（deviation form）。）。由于参数的估计结果是通过最小二乘法得到 的，故称为普通普通最小二乘估计量（最小二乘估计量（ordinary least squares estimators）。11/22/202227几个常几个常用结果用结果11/22/202228 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。一个用于考察总体的估计量，可从如下几个方面考察其优劣性：（1）线性性）线性性，即它是否是另一随机变量的线性函数；.3最小二乘估计量的性质最小二乘估计量的性质11/22/202

16、229/60重庆工商大学经济贸易学院-张文爱（2）无偏性）无偏性，即它的均值或期望值是否等于总体的真实值；（3）有效性）有效性，即它是否在所有线性无偏估计量中具有最小方差。l 这三个准则也称作估计量的小样本性质。小样本性质。拥有这类性质的估计量称为最佳线性无偏估计最佳线性无偏估计量量（best liner unbiased estimator,BLUE）。11/22/202230/60重庆工商大学经济贸易学院-张文爱（4）渐渐近近无无偏偏性性，即样本容量趋于无穷大时，是否它的均值序列趋于总体真值；（5）一一致致性性，即样本容量趋于无穷大时，它是否依概率收敛于总体的真值；（6）渐渐近近有有效效性

17、性，即样本容量趋于无穷大时，是否它在所有的一致估计量中具有最小的渐近方差。当不满足小样本性质时，需进一步考察估计量的大样本或渐近性质：大样本或渐近性质：11/22/202231高斯高斯马尔可夫定理马尔可夫定理(Gauss-Markov theorem)在给定经典线性回归的假定下，最小在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估二乘估计量是具有最小方差的线性无偏估计量计量,即即OLSE是是BLUE（Best Linear Unbiased Estimator）。）。11/22/202232 （1）线性性：一、最小二乘估计量的性质一、最小二乘估计量的性质 （2）无偏性：最小

18、二乘估计 的数学期望值分别等于总体回归系数的值 （3）最小方差性：OLS估计量 在所有线性无偏估计量中，具有最小方差。即11/22/202233二、最小二乘估计的方差二、最小二乘估计的方差11/22/20223411/22/2022352.4 2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验 一、一、拟合优度检验拟合优度检验 二、二、变量的显著性检验变量的显著性检验 三、三、参数的置信区间参数的置信区间 11/22/202236重庆工商大学经济贸易学院-张文爱一、拟合优度检验一、拟合优度检验 拟合优度检验拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。度量拟合优度的指标

19、：判定系数判定系数（可决系数可决系数）R2 2 问题问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？11/22/202237/60重庆工商大学经济贸易学院-张文爱 1 1、总离差平方和的分解、总离差平方和的分解 已知由一组样本观测值（Xi,Yi），i=1,2,n得到如下样本回归直线 11/22/20223811/22/202239 如果Yi=i 即实际观测值落在样本回归“线”上，则拟合最好拟合最好。可认为，“离差”全部来自回归线，而与“残差”无关。11/22/202240/60重庆工商大学经济贸易学院-张文爱 对于所有样本点，则需考虑这些点与样本均

20、值离差的平方和,可以证明：11/22/202241TSS=RSS+ESS记11/22/202242 Y的观测值围绕其均值的总离差的观测值围绕其均值的总离差(total variation)可分解为两部分：一部可分解为两部分：一部分来自回归线分来自回归线(ESS)，另一部分则来自随机，另一部分则来自随机势力势力(RSS)。l在给定样本中，TSS不变，l如果实际观测点离样本回归线越近，则RSS在TSS中占的比重越大，因此l拟合优度：回归平方和拟合优度：回归平方和RSS占占Y的总离差平方和的总离差平方和TSS的的比例。比例。11/22/202243/60重庆工商大学经济贸易学院-张文爱2、可决系数、

21、可决系数R2 2统计量统计量 称 R2 为（样本）可决系数（样本）可决系数/判定系数（判定系数（coefficient of determination)。可决系数可决系数的取值范围取值范围：0，1 R2 2越接近越接近1 1，说明实际观测点离样本线越近，说明实际观测点离样本线越近，拟合优度越高拟合优度越高。11/22/202244二、变量的显著性检验二、变量的显著性检验 回归分析回归分析是要判断解释变量解释变量X是否是被解释变被解释变量量Y的一个显著性的影响因素。在一元线性模型一元线性模型中，就是要判断X是否对Y具有显著的线性性影响。这就需要进行变量的显著变量的显著性检验。性检验。变量的显著

22、性检验所应用的方法是数理统计学变量的显著性检验所应用的方法是数理统计学中的假设检验中的假设检验。计量经济学中，主要是针对变量的参数真值是计量经济学中，主要是针对变量的参数真值是否为零来进行显著性检验的。否为零来进行显著性检验的。11/22/202245/60重庆工商大学经济贸易学院-张文爱2.变量的显著性检验变量的显著性检验 t检验 即是看解释变量对被解释变量有无显著影响。也即变量前的回归系数是否为0。统计上等于0，则不显著；统计上不等于0，则显著；11/22/20224611/22/202247 变量显著性检验步骤（检验步骤（t检验步骤）检验步骤）：（1）对总体参数提出假设 H0：1=0，H

23、1：10（2）以原假设H0构造t统计量，并由样本计算其值（3）给定显著性水平，查t分布表得临界值t/2(n-2)(4)比较，判断 若|t|t/2(n-2)，则拒绝H0，接受H1,即变量是显著的；若|t|t/2(n-2)，则拒绝H1，接受H0,即变量是不显著的.11/22/202248 对于一元线性回归方程中的0，同理可构造如下t统计量进行显著性检验：11/22/202249t统计量的计算结果分别为：给定显著性水平=0.05，查t分布表得临界值 t 0.05/2(8)=2.306|t1|2.306，说明家庭可支配收入在95%的置信度下显著，即是消费支出的主要解释变量；|t2|2.306,表明在9

24、5%的置信度下，无法拒绝截距项为零的假设。11/22/202250 对于一元线性回归模型 给定样本以外的解释变量的观测值X0，可以得到被解释变量的预测值 0 0，可以此作为其条件均条件均值值E(Y|X=X0)或个别值个别值Y0的一个近似估计。严格地说，这只是被解释变量的预测值的估计值，而不是预测值。说说 明明2.6 2.6 一元线性回归分析的应用：预一元线性回归分析的应用：预测问题测问题 11/22/202251 一、一、点点预测预测对总体回归函数总体回归函数E(Y|X=X0)=0+1X，X=X0时 E(Y|X=X0)=0+1X0于是可可见见，0是条件均值是条件均值E(Y|X=X0)的无偏估计。的无偏估计。11/22/202252对总体回归模型总体回归模型Y=0+1X+，当X=X0时于是11/22/202253此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢