第二章 一元线性回归模型电子课件计量经济学.pptx

《第二章 一元线性回归模型电子课件计量经济学.pptx》由会员分享，可在线阅读，更多相关《第二章 一元线性回归模型电子课件计量经济学.pptx（47页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第二章 一元线性回归模型电子课件计量经济学第二章 一元线性回归模型2.1 回归分析概述回归分析概述2.1.1回归分析的基本概念“回归”这一概念是19世纪80年代由英国统计学家高尔顿在研究父代身高和子代身高之间的关系时提出来的。他发现在同一族群中，子代的平均身高介于其父代的身高和族群的平均身高之间，即：高个子父亲的儿子的身高有低于其父亲身高的趋势，而矮个子父亲的儿子的身高则有高于其父亲的趋势；也就是说，子代的身高有向族群平均身高“回归”的趋势。这就是统计学上“回归”的最初含义。如今，回归已经成为社会科学定量研究方法中最基本、应用最广泛的一种数据分析技术。它既可以用来描述自变量与因变量之间的数量关

2、系，也可以基于自变量的取值变化对因变量的取值变化进行预测，更可以用来揭示自变量与因变量之间的因果关系。2.1 回归分析概述回归分析概述2.1.1回归分析的基本概念在计量经济学中，回归分析方法是研究某一变量关于另一（些）变量间数量依赖关系的一种方法，即通过后者观测值或预设值来估计或预测前者的（总体）均值。前一个变量称为被解释变量(explainedvariable)或因变量(dependentvariable)，后一个变量称为解释变量(explanatoryvariable)或自变量(independentvariable)。回归分析方法是计量经济学理论的基础方法，其主要内容包括：（1）根据样本

3、观察值对计量经济学模型参数进行估计，求得回归方程（2）对回归方程、参数估计值进行显著性检验；（3）利用回归方程进行分析、评价及预测。2.1 回归分析概述回归分析概述2.1.2回归模型一个应用计量经济分析一般是从这样的假设前提开始的：y和x是两个代表某个总体的变量，我们感兴趣的是“用x来解释y”，或“研究y如何随x而变化”。例如：y是消费支出，x是收入；y是工资，x是受教育年数。在构建x与y关系间的模型时，需要考虑以下三个问题。首先，除了x影响因素外，是否还有其他影响y的影响因素，如果有，我们将如何考虑？其次，y和x的函数关系形式我们将如何设定？再者，若假设其他条件不变，如何刻画x和y间关系？我

4、们不妨将x和y之间的关系表达式写成如下形式：这样我们就定义了变量x和y之间的一个简单线性回归模型，也称为两变量或一元线性回归模型。其线性的含义表示无论变量x的取值如何，它的任何一单位变化都对变量y产生相同的影响。在实践中，在方程（2.1.1）中，变量u称为随机误差项（stochasticerror）或随机干扰项（stochasticdisturbance），表示除影响因素x以外，其他所有影响y的因素，包括可观测或不可观测的影响因素。而0、1是模型的估计参数，由样本数据估计而得，即1表示斜率参数，是研究者主要关注的；0表示截距项参数，也称为常数项。表2.1.1总结了这些术语。其中，因变量和自变量

5、的叫法在计量经济学中使用较多；而被解释和解释变量这两个词是最具描述性的；同时响应和控制常出现在实验性科学中，代表着变量x在实验者的控制之下。例2.1.1：一个简单的工资方程（2.1.2）上述函数关系描述了受教育年限和其他不可观测因素 与工资之间的关系。1衡量的是，在其他因素(包含在误差项u里面）不变的情况下，多接受一年教育，可以增加多少工资。而其他因素则包括：劳动力市场经验、内在的能力、目前所从事工作的工龄、职业道德，以及其他许多因素。有了以上的设定，现在我们给出总体回归模型的定义。在一个总体中，影响每个个体y的影响因素有x，建立计量经济学模型：不妨假定u的数学期望为零，如果它不为零，则可以合

6、并到 0中。（2.1.3）式称为总体回归模型。(|)=0+1 称为总体回归函数。（2.1.3）我们假设有关于总体一次抽样的样本数据、（i=1,2,n），样本回归模型可以写为：=0+1+（2.1.4）则当给定时，的期望可以写为(|)=0+1（2.1.5）（2.1.6）其中e称为残差项（residual），它可以看成是 的估计量。由于方程中引入了随机项，成为计量经济学模型，而样本回归函数为：（2.1.7）回归分析的主要目的，就是根据样本回归函数，估计总体回归函数。但在实际研究中，我们无法得到总体的回归方程，只能通过样本数据对总体参数0和1进行估计。当利用样本统计量和代替总体回归方程中的0和1，就得

7、到了样本回归函数：这样我们得到了(|)的估计量，同样地，样本回归模型有如下随机形式：2.2 一元线性回归模型的基本假设一元线性回归模型的基本假设 方程（2.1.1）给出了y和x之间的函数关系，以及用u表示影响y除x以外的其他因素。现在最大的疑问是：模型（2.1.1）是否真的能让我们得到关于x如何在其他条件不变的情况下影响y的结论？“计量经济学是设法对经济关系进行定量估计和预测的学科。经济理论常常影响函数形式的选择，但经济理论很少能告诉我们一个模型的随机设定，这通常依赖于经验分析。计量经济学的一个主要任务就是为给定情形确定一个最好的估计量。而干扰的随机结构对此有极重要的影响。”因此，我们必须对无

8、法观测的u与解释变量x之间的关系加以约束，才能从一个随机数据样本中获得可靠的0和1估计值。为了通过样本回归函数尽可能准确地估计总体回归函数，为保证得到可靠的参数估计及良好的统计性质，需要对模型提出若干基本假设。2.2 一元线性回归模型的基本假设一元线性回归模型的基本假设2.2.1对回归模型设定的假设假设假设1：回归模型是正确设定的。模型的正确设定主要包括两方面的内容：（1）模型选择了正确的变量；（2）模型选择了正确的函数形式。计量经济模型应用于现实经济问题时，因果关系必须有经济理论为其依据，函数关系也必须要有可靠的依据。模型选择了正确的变量指既没有遗漏重要的相关变量，也没有多选无关变量且有经济

9、理论支持该因果关系。当假设1满足时，称模型没有设定偏误，否则模型存在设定偏误。假设假设1：线性回归模型回归模型对变量不一定是线性的，但对参数是线性的。在计量经济学里说到的线性回归都是指关于参数是线性的。要注意的是回归模型的估计原理不依赖于y和x的定义，但系数的解释依赖于它们的定义。2.2 一元线性回归模型的基本假设一元线性回归模型的基本假设2.2.2对解释变量的假设假设假设2：解释变量X是确定性变量，不是随机变量，在重复抽样中取固定值。在很多情形中，X往往也是随机的，通过假定X是确定性变量，能够简化对参数估计性质的讨论。假设假设3：解释变量X在所抽取的样本中具有变异性，而且随着样本容量的无限增

10、加，解释变量X的样本方差趋于一个非零的有限常数，回归分析的目的就是用X的变化来解释Y的变化，因此，解释变量X要有足够的变异性，否则无法回答这个问题。2.2 一元线性回归模型的基本假设一元线性回归模型的基本假设2.2.3对随机干扰项的假设假设假设4：随机误差项u具有给定x条件下的零均值、同方差以及无序列相关。随机误差项u的零条件均值假设意味着u的期望不依赖于x的变化而变化，且总为0。该假设表明u与x不存在任何形式的相关性，因此该假设成立时也称x为外生解释变量，否则称x为内生解释变量。这是一个最关键的假设，我们后面会证明，这个假设不成立的话，我们无法得到参数的无偏估计。零条件均值假设可以推导出两个

11、结论：E（u）=0，COV(x,u)=0随机误差项u的条件同方差假设意味u的方差不依赖于x的变化而变化，且总为常数。随机误差项u的条件无序列相关性表明在给定解释变量任意两个不同值时，对应的随机误差项不相关。假设假设5：随机误差项服从零均值、同方差的正态分布。假设5是为了统计推断的需要而提出的，尤其在小样本下，这个假设非常必要。在大样本下，因为中心极限定理，正态性假设可以放松。以上5个假设也称为线性回归模型的经典假设，满足该假设的线性回归模型称为经典线性回归模型。而前4个假设称为高斯-马尔可夫假设，这些假设能保证估计方法有良好的统计性质。2.3 一元线性回归模型的参数估计一元线性回归模型的参数估

12、计2.3.1普通最小二乘法普通最小二乘法对于所研究的经济问题，通常真实的回归直线是观测不到的。收集样本的目的就是要对这条真实的回归直线做出估计。普通最小二乘法(OrdinaryLeastSquares,OLS)由德国数学家高斯提出，在高斯-马尔可夫假设下，它有非常良好的统计性质，从而使之成为回归分析中最有功效和最为流行的方法之一。已知一组样本观测值(，):=1,2,，OLS要求通过样本回归函数尽可能准确地估计总体回归函数，其中Q=，通过最小化Q，确定这条直线，即确定0和1的估计值。以0和1为变量，把Q看作是0和1的函数，这是一个求极值的问题在微积分中，多元函数达最小必须满足一阶条件和二阶条件，

13、二阶条件为二阶偏导形成的海塞矩阵为正定，容易验证Q的海塞矩阵为正定。所以，最小化Q只需求满足一阶条件的解，即求Q对0和1的偏导数并令其为零，得正规方程。（2.3.2）（2.3.3）2.3 一元线性回归模型的参数估计一元线性回归模型的参数估计2.3.1普通最小二乘法由（2.3.2）、（2.3.3）式得：（2.3.4）（2.3.5）（2.3.4）式两边除以n，并整理得，（2.3.6）把（2.3.6）式代入（2.3.5）式并整理，得，（2.3.7）2.3 一元线性回归模型的参数估计一元线性回归模型的参数估计2.3.1普通最小二乘法（2.3.8）（2.3.9）因为，分别在（2.3.9）式的分子和分母上

14、减和得，2.3 一元线性回归模型的参数估计一元线性回归模型的参数估计2.3.2最小二乘估计量的统计性质(1)线性性这里指和分别是的线性函数。令，代入上式得可见是的线性函数，是1的线性估计量。同理0也具有线性特性。2.3 一元线性回归模型的参数估计一元线性回归模型的参数估计2.3.2最小二乘估计量的统计性质(2)无偏性利用上式(3)有效性0,1的OLS估计量的方差在线性无偏估计类中方差达最小。我们给出的b1估计量的方差，这里要利用到同方差的假设，而有效性的证明过程我们省略。2.3 一元线性回归模型的参数估计一元线性回归模型的参数估计2.3.2最小二乘估计量的统计性质Gauss-MarkovGau

15、ss-Markov定定理理：若ui满足E(ui|x)=0，Var(ui|x)=2，那么用OLS法得到的估计量就具有最佳线性无偏性。估计量被称为最佳线性无偏估计量。最佳线性无偏估计特性保证估计值最大限度的集中在真值周围，估计值的置信区间最小。(4)一致性回归系数的最小二乘估计依概率收敛到实际参数值。2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验计量经济学模型是通过分析样本数据来量化经济关系，因此我们必须考虑结论的可靠性。而假设检验决定了从样本中能够获得哪些关于现实世界的信息。得出的结论会不会是偶然得到的呢？使用从样本中得到的结论能否拒绝已有的理论？如果理论是正确的，则这一特定样本被

16、观测到的概率有多大？本章讨论的假设检验是针对回归模型的，也会简要回顾概率统计的基本知识。在实践中人们想知道他们所关心的理论能否被实际观测样本中得到的估计结果所支持，但要证明已经给出的假设是否正确几乎是不可能的。唯一能说明的是，特定的样本符合特定的假设。即使假设检验不能证实一个给定的结论，却能在一定的显著性水平下拒绝它。在这种情况下，研究者认为在理论假设正确的时候，抽样结果很难被观测到。2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.1假设检验显著性检验显著性检验是一种利用样本结果来证实一个虚拟假设真伪的检验程序。它的关键思想在于一个检验统计量及其它在虚拟假设下的抽样分布。它

17、根据样本数据计算出的检验统计量值来判断是否接受H0。虚拟假设虚拟假设（也称原假设，nullhypothesis）通常表述为研究者不希望出现的结果，记为H0，它是不希望出现结果的数值范围。例如，我们不希望某个解释变量对被解释变量是没有影响的，即影响等于0，那么原假设可以表述为：H0：=0（不希望出现的数值）对立假设对立假设（alternativehypothesis）通常是对研究者希望出现的结果的表述，记为H1，它是希望出现的结果的数值范围。例如继续前面的例子，如果希望出现一个非0的影响，则对立假设为：H1：0（希望出现的数值）上述检验是双侧检验，其对立假设的取值位于原假设的两侧。还有一种是单侧

18、检验，其对立假设的值只位于原假设的一侧。在实践中，经济学家总是将其所期望的结果置于对立假设中，这样便可以有充分的理由来拒绝原假设。要注意的是，当没有充分理由来拒绝原假设的时候，不能说接受原假设，更严谨的说法是不能拒绝原假设。2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.1假设检验“就像法庭宣布裁决时用无罪而不是无辜的表述一样，统计检验的结论为不能拒绝而不是接受。”Jan Kmenta假设检验的基本思想是先对总体参数提出一个假设，然后利用样本信息来判断这一假设是否成立。它通过数据来确认原假设的合理性，一般总是将期望结果的反面作为原假设，即原假设确定了一个与我们期望不符的参数

19、值。其原理是概率性质的反证法，小概率事件原理，即小概率事件在1次试验中几乎是不可能发生。2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.2回归系数的显著性检验2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.2回归系数的显著性检验如果真实的2未知，而用它的无偏估计量替代时，可以证明2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.2回归系数的显著性检验现在我们能检验有关1的假设，在多数应用中，我们主要的兴趣在于检验原假设（nullhypothesis):H0：1=0这个假设是什么含义？它表示在原假设成立下，解释变量x对y的局部效应为0，即

20、在其他条件不变的情况,x对y没有影响。我们用来检验这个假设的统计量被称作1的t统计量或所谓的t比率(tratio)。并被定义为：2.4 一元线性回归模型的统计检验一元线性回归模型的统计检验2.4.2回归系数的显著性检验t统计量度量了估计系数和0的距离有多少个标准误。在原假设成立的情况下，该统计量服从自由度为n-2的t分布。该检验的对立假设是：H1：102.5 应用应用例例2.5.1对资本资产定价模型（对资本资产定价模型（CAPM）的实证分析）的实证分析资本资产定价模型是金融领域一个非常重要的模型，它解释了某个证券收益率的变化是有效市场投资组合（通常是包含所有上市股票的市场投资组合）的收益率的函

21、数。任何投资的收益率都可以用它的机会成本来衡量，也就是无风险资产的收益率。与无风险资产收益率的差异称为风险溢价，它作为风险投资的回报或惩罚。CAPM认为，证券资产i的风险溢价与市场投资组合的风险溢价成比例，即：=()其中r和r分别是资产i的回报率和无风险资产回报率，rm是市场投资组合的回报率，是股票i的beta值。一个股票的beta值对投资者是很重要的，因为它表明股票的波动性。它衡量股票i的回报率对整个股票市场变化的敏感性。如果beta值大于1，则意味它是活跃的股票；beta小于1意味该股票是“保守”的，因为它的变化小于市场的变化。投资者在购买股票前往往会评估该股票的beta值。在实际运用资产

22、定价模型时，我们通常将其设定为：=i+()+u2.5 应用应用使用stata16打开在目录“D:stata16shujuchap02”中的“0201.dta”数据文件，命令如下：useD:stata16shujuchap020201.dta,clear然后对数据进行处理，在Command窗口输入如下命令：gen RI=rit_mt-0.001gen RM=rmt-0.001下面以贵州茅台为例进行资本资产定价模型的初步实证研究，来估计这只股票的beta系数。rf是无风险收益率，在研究中常以一年期存款或贷款利率、3个月短期国债利率、同业银行拆借利率等为代理指标，其频率一般为周、月度数据。为了简化模

23、型估计，这里简单将其设定为0.1%，其时间频率采用日间数据。通过选取2017/1/4-2018/12/28样本区间内的数据进行分析，其中RI是贵州茅台的日收益率减去无风险收益率，RM是上证综指的日收益率减去无风险收益率。2.5 应用应用新生成后的变量RI和RM如下图所示:2.5 应用应用然后对生成的变量RI和RM进行普通最小二乘回归，在Command窗口输入回归命令如下：regress RI RM regress代表回归命令，stata中的命令可以缩写，如regress可以缩写为reg，一般查看帮助时，命令可缩写的部分，底边标有横线。RI和RM分别的被解释变量和解释变量，一般将被解释变量置于最

24、前边，将解释变量置于被解释变量的后面。Stata与其他计量软件有所不同，默认回归中具有常数项，后续我们会进行不含常数项的回归。Stata中对命令的大小写具有识别性，对于大写的命令，若用小写的命令进行回归，是会出现报错提示，但对变量的大小写没有识别性。具体的可见下图。2.5 应用应用回归的结果如下图2.5.3所示：图图2.5.3 带有常数项模型的估计结果带有常数项模型的估计结果根据上述的估计结果，可以得到如下的回归方程：(2.60)(13.95)显然上述估计结果还可以采用更合理的无风险利率，周收益率或月收益率进行改进，从而更加精确的验证CAPM模型。2.5 应用应用估计结果中可以看出，贵州茅台的

25、日风险溢价和市场组合风险溢价成正比，估计出的 系数为1.11，大于1，t统计量通过了显著性检验，值不为0。而截距项的估计值为0.002，也通过显著性检验，但值比较小，接近于0。CAPM可以认为基本成立。一般回归模型结果的标准格式报告包含其回归方程的估计系数值，并且估计值下边应该对应的列出t统计量或标准误差，另外还应包含估计方程的拟合优度数值。根据理论知识，t统计量与系数的符号相同，标准误差值恒为正数。我们再对其进行无常数项的普通最小二乘回归，在Command界面输入命令如下：regRIRM,noconstant如前文所述，Stata中默认是包含常数项，当不含常数项，须在后面附加noconsta

26、nt命令。2.5 应用应用上述回归的结果如下图2.5.4所示：图图2.5.3 不带有常数项模型的估计结果不带有常数项模型的估计结果根据上述常数项去掉后的估计结果，可以得到如下的回归方程：(13.64)2.5 应用应用例2.5.2 中国人均食品消费的实证分析表2.5.1给出了2018年中国各省（市、自治区）城镇居民人均可支配收入与人均食品支出的数据。此表格统计了同一年份不同地区的两个变量，故为横截面数据。19世纪德国统计学家恩格尔根据统计资料，对消费结构的变化得出一个规律：一个家庭收入越少，家庭收入中（或总支出中）用来购买食物的支出所占的比例就越大，随着家庭收入的增加，家庭收入中（或总支出中）用

27、来购买食物的支出比例则会下降。为了考察我国各地区城镇居民人均可支配收入与人均食品支出是否满足这种关系，可以通过拟建立一元线性回归模型来判断。2.5 应用应用在stata导入数据0202.xlsx，在命令窗口输入：.rename 人均可支配收入 x.rename 人均食品消费 y将人均可支配收入变量名改为x,将人均食品消费变量名改为y。在命令窗口输入：.scatter y x得到人均可支配收入与人均食品消费散点图图2.5.4。图图2.5.4 人均可支配收入与人均食品消费散点图人均可支配收入与人均食品消费散点图2.5 应用应用假设城镇居民人均可支配收入X与人均食品支出Y之间满足一元线性回归模型：在

28、命令窗口输入：.reg y x回归结果如图2.5.5。图图2.5.5 回归结果回归结果2.5 应用应用由上述回归结果可以得到回归分析结果：（3.51）（5.98）从回归结果可以看出，该模型的拟合效果良好，城镇居民人均食品支出变化的55.25%能够由人均可支配收入解释。再看t检验值，可以看出t值都大于临界值，或等价地，所有t统计量的p值都小于0.05，表明参数在显著性水平5%下都不显著为零，也证明了人均可支配收入确实对人均食品支出有影响，人均可支配收入每增加1元，人均食品消费则增加0.117元。由此可以看出，人均可支配收入的增加对人均食品支出有正向促进作用。但当人均可支配收入增加时，在食品支出上

29、的开销增加得较小，即随着家庭收入的增加，家庭收入中（或总支出中）用来购买食物的支出比例会下降。为了检验这个经济规律，我们以人均可支配收入为36000元作为分界线，把数据分为高和低人均可支配收入两组。在stata命令窗口输入：.scatter y x if x36000.scatter y x if x360002.5 应用应用就得到两组的散点图。图2.5.6为低收入组人均可支配收入与人均食品消费的散点图，图2.5.7为高收入组人均可支配收入与人均食品消费的散点图。图图2.5.6 低收入组的散点图低收入组的散点图 图图2.5.7 高收入组的散点图高收入组的散点图2.5 应用应用在stata命令窗

30、口输入：.reg y x if x36000就得到两组的回归结果。图2.5.8为低收入组的回归结果，图2.5.9为高收入组的回归结果。可见，低收入组收入增加1元中用于食品消费0.3616141元，而高收入组收入增加1元中用于食品消费才0.0874791元。明显，随着家庭收入的增加，家庭收入中用来购买食物的支出比例会下降。图图2.5.8 低收入组的回归结果低收入组的回归结果2.5 应用应用图图2.5.9 高收入组的回归结果高收入组的回归结果若我们想知道某地区城镇居民人均可支配收入达到80000元时，其在食品消费中的支出是多少，则可以利用高收入组的回归结果，通过预测得到预测值的估计值，当作食品支出

31、的估计值：4225.602+0.0874791*80000=11223.93可见，当城镇居民人均可支配收入为80000元时，人均食品支出为11223.93元,95%的置信区间预测为：634.4951+0.0135109*80000,7816.708+0.1614473*80000=1715.3671,20732.4922.5 应用应用例例2.5.3中国出口贸易的实证分析中国出口贸易的实证分析为了研究中国出口总额与国内生产总值之间的关系，由经济理论分析知，国内生产总值是影响出口总额的主要因素，出口总额y与国内生产总值x之间存在着密切的关系，出口总额随着国内生产总值的增加而增加。表2.5.2为19

32、90-2018年中国出口总额与国内生产总值。资料来源：中国统计年鉴（2019）2.5 应用应用在stata导入数据0203.xlsx，在命令窗口输入：.scatter y x得到中国出口总额与国内生产总值散点图图2.5.10。2.5 应用应用从图2.5.10可以看出，出口总额与国内生产总值之间存在线性关系，因此可建立一元线性回归模型：其中y为出口总额，x为国内生产总值。在命令窗口输入：.regyx回归结果如图2.5.11。图图2.5.11 中国出口总额回归结果中国出口总额回归结果2.5 应用应用由上述回归结果可以得到回归分析结果：（0.86）（21.37）从回归结果可以看出，该模型的拟合效果良

33、好，中国出口总额变化的94.42%能够由国内生产总值解释。再看t检验值，可以看出斜率的t值大于临界值，或等价地，斜率的t统计量21.37的p值0.000.05，表明斜率在显著性水平5%下不显著为零，也证明了国内生产总值确实对出口总额有影响，国内生产总值每增加1亿元，出口总额则增加0.0317766亿美元。但截距项在显著性水平5%下显著为零，为此，再进行没有截距项的回归。在命令窗口输入：.reg y x,noc 2.5 应用应用回归结果如图2.5.12。图2.5.12没有截距项的回归结果由上述回归结果可以得到回归分析结果：（32.50）2.5 应用应用若我们想知道中国国内生产总值达到1000000亿元时，出口总额是多少？则可以利用回归结果，通过预测得到预测值的估计值，当作出口总额的估计值：0.032712*1000000=32712亿美元可见，当中国国内生产总值达到1000000亿元时，出口总额为32712亿美元,95%的置信区间预测为：0.03065*1000000,0.034774*1000000=30650,34774（亿美元）本章到此结束