计量经济学第三章多元线性回归优秀课件.ppt

《计量经济学第三章多元线性回归优秀课件.ppt》由会员分享，可在线阅读，更多相关《计量经济学第三章多元线性回归优秀课件.ppt（42页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、计量经济学第三章多元线性回归第1页，本讲稿共42页第三章第三章 多元线性回归模型多元线性回归模型 第一节：模型的建立及其假定条件第二节：最小二乘法第三节：最小二乘估计量的特性第四节：可决系数第五节：显著性检验与置信区间第六节：预测第七节：案例分析第2页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件1.为什么要引入多元线性回归模型？在实际经济问题中，一个经济变量往往不只受到一个经济因素的影响，而是受到多个经济因素的影响。如，商品的需求量不但受到商品本身价格的影响，还会受到消费者偏好、消费者收入以及其它相关商品价格、预期价格等因素的影响。引入多元线性回归模型，为我们深入

2、探究某经济问题如何被多个经济因素所影响提供了可能，并有助于我们解析出经济问题背后存在的内在规律。多元线性回归模型是一元线性回归模型的推广，其基本原理和方法同一元模型完全相似。第3页，本讲稿共42页 设 是对总体 的n次独立样本观测值，则第一节第一节 模型的建立及其假定条件模型的建立及其假定条件2.多元线性回归模型与一元模型的形式有什么不同？多元总体线性回归方程，简称总体回归方程。是样本数据结构形式的多元总体线性回归模型，由n个方程、k+1个未知参数 组成的一个线性方程组。第4页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？被解

3、释向量被解释向量=解释变量矩阵解释变量矩阵未知参数向量未知参数向量+随机误差向量随机误差向量第5页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？第6页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件4.多元线性回归模型的样本估计形式？样本回归样本回归模型模型 矩阵形式为：矩阵形式为：样本回归样本回归方程方程 矩阵形式为：矩阵形式为：表示残差（随机误差项估计值）的列向量第7页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件假定假定1：E(ui)=0

4、i1,2n这样，被解释变量这样，被解释变量Yi的期望值的期望值为为：E(Yi)=0+1X1 i+2X2i +kX ki 第8页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件假定假定2：Var(ui)=Eui-E(ui)2=E(ui)2=2 i1,2,n 这样，这样，Yi的方差也相同，且等于的方差也相同，且等于 2，即：，即：Var(Yi)=2 i1,2,n假定3：Cov(ui,uj)=E(ui-E(ui)(uj-E(uj)=E(ui,uj)=0 (i j)i，j1,2,n即：随机误差项无序列相关。第9页，本讲稿共42页第一节第一节 模型

5、的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件假定2和假定3可以由下列矩阵表示：第10页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件假定2和假定3可以由下列矩阵表示：上式称为随机误差向量上式称为随机误差向量u的的方差方差协方差矩阵协方差矩阵。第11页，本讲稿共42页第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件即样本观测值矩阵X必须是满秩矩阵，应满足：假定假定4：Cov(uj,Xij)=0i1,2k；i，j1,2n 即 ui 与Xi 彼此不相关。rankrank（X X

6、）=k=k1 1nn假定假定5：解释变量：解释变量X1,X2,X k之间不存在完全的线性关系，之间不存在完全的线性关系，假定6：随机误差项服从正态分布，即uiN（0,2）同时，被解释变量也服从正态分布同时，被解释变量也服从正态分布YiN(0+1X1 i+2X2i+kXki,2)第12页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第一步 构建最小二乘函数：第13页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第二步 应用极值定理，对参数求导：第14页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第二步 应用极值

7、定理，对参数求导：化简第15页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第二步 应用极值定理，对参数求导：写成矩阵形式第16页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第三步 解方程组：因为：第17页，本讲稿共42页第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计 第三步 解方程组：所以：于是：就是 的最小二乘估计量。第18页，本讲稿共42页第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则其中，第19页，本讲稿共42页第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则对矩阵求 向量的微分，得整

8、理，得于是可见，矩阵微分法与解方程组法的结果是一样的。第20页，本讲稿共42页第二节第二节 最小二乘法最小二乘法例 3.1 由经济理论知，在市场上某种商品的需求量 主要取决于该商品的价格 和消费者的收入 。试建立该种商品的需求量与商品价格和消费者平均收入之间的线性回归模型。第一步：确立研究问题；第二步：搜集研究数据；第21页，本讲稿共42页第二节第二节 最小二乘法最小二乘法例 3.1第三步：构建计量经济学模型；第22页，本讲稿共42页第二节第二节 最小二乘法最小二乘法例 3.1 第三步：构建计量经济学模型；第23页，本讲稿共42页M是一个 n 阶对称幂等矩阵，即第二节第二节 最小二乘法最小二乘

9、法3.随机误差项的方差 的估计量第24页，本讲稿共42页第二节第二节 最小二乘法最小二乘法3.随机误差项的方差 的估计量则注：符号 tr 表示矩阵的迹，它等于矩阵主对角线上元素之和.第25页，本讲稿共42页第二节第二节 最小二乘法最小二乘法3.随机误差项的方差 的估计量于是有，可见，随机误差项的方差可见，随机误差项的方差2 的无偏估计量为：的无偏估计量为：第26页，本讲稿共42页残差平方和 的计算方法如下：第二节第二节 最小二乘法最小二乘法3.随机误差项的方差 的估计量请计算例3.1中误差项方差的回归标准差。第27页，本讲稿共42页 所谓线性性是指最小二乘估计量所谓线性性是指最小二乘估计量 是

10、被解释变量的观测值是被解释变量的观测值 的线性函数：的线性函数：已知已知 令令 则则 ，A是一个非随机是一个非随机(k+1)n阶常数矩阵。阶常数矩阵。2.无偏性无偏性 由由 知知第三节第三节 最小二乘估计量的特性最小二乘估计量的特性1.线性性 第28页，本讲稿共42页由知令则 ，因 b 是 的无偏估计量，所以从而有第三节第三节 最小二乘估计量的特性最小二乘估计量的特性3.最小方差性（有效性）第29页，本讲稿共42页第三节第三节 最小二乘估计量的特性最小二乘估计量的特性高斯高斯马尔科夫定理马尔科夫定理如果基本假设如果基本假设(1)(5)成立，则最小二乘估计量成立，则最小二乘估计量是是的的最优线性

11、无偏估计量（最优线性无偏估计量（BLUE），即），即的所有线性无偏估的所有线性无偏估计量中，计量中，具有最小方差性。具有最小方差性。例例3.3试计算例试计算例3.1中中和和的标准差的估计值。的标准差的估计值。解：解：第30页，本讲稿共42页第四节第四节 可决系数可决系数1.总离差平方和的分解 多元回归模型同一元回归模型相似，总离差平方和也可分解为：其中即总离差平方和总离差平方和=回归平方和回归平方和+残差平方和残差平方和 TSS=RSS+ESS第31页，本讲稿共42页第四节第四节 可决系数可决系数2.多元样本的可决系数 修正的多元样本可决系数第32页，本讲稿共42页第四节第四节 可决系数可决系

12、数 在实际应用时，和 越大，模型拟合得越好。和 仅仅说明了在给定的样本条件下，估计的回归方程对于样本观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标准。我们并不能仅以 和 的大小来选择模型，有时为了使有重要经济意义的解释变量保留在模型中，宁可牺牲一点拟合优度。例3.4 计算例3.1的可决系数第33页，本讲稿共42页第五节第五节 显著性检验与置信区间显著性检验与置信区间 1.回归方程的显著性检验（F 检验）回归方程的显著性检验是指，在一定的显著水平下，从总体上对模型中被解释变量与解释变量之间的线性关系是否显著成立进行的一种统计检验。对于多元回归模型提出原假设备择假设为当H0成立时第34页，本

13、讲稿共42页第五节第五节 显著性检验与置信区间显著性检验与置信区间 1.回归方程的显著性检验（F 检验）例3.5 试对例3.1中的估计的回归方程进行显著性检验。解：从Eviews的输出结果中，也能够直接看出第35页，本讲稿共42页第五节第五节 显著性检验与置信区间显著性检验与置信区间 2.解释变量的显著性检验（t 检验）多元线性回归模型同一元线性回归模型一样，检验未知参数的显著性也可用 t 统计量：已知 ，其中有记 ，若假设H0成立则可得 第36页，本讲稿共42页第五节第五节 显著性检验与置信区间显著性检验与置信区间 2.解释变量的显著性检验（t 检验）例3.6 试对例3.1的回归系数 ，进行

14、显著性检验。解：第37页，本讲稿共42页第五节第五节 显著性检验与置信区间显著性检验与置信区间 3.回归系数的置信区间 已知 所以，有例3.7 试对例3.1中的回归系数建立置信度为95%的置信区间。解：基于Eviews的输出结果可得 和 的置信区间为第38页，本讲稿共42页第六节第六节 预测预测 1.点预测 点预测：就是将解释变量点预测：就是将解释变量X1,X2,Xk的一组特定值：的一组特定值：X0=(1,X10,X20,Xk0)代入估计的回归方程中，计算出被解释变量代入估计的回归方程中，计算出被解释变量Y0的点预测值：的点预测值：即：即：与一元情形一样，对与一元情形一样，对 有两种解释：有两

15、种解释：（1）看作）看作Y的条件期望的条件期望E(Y0|X0)的点估计的点估计（2）看作）看作Y的个别值（真值）的个别值（真值）Y0的点估计的点估计第39页，本讲稿共42页第六节第六节 预测预测 2.区间预测 （1）的预测区间 因此，是 的无偏估计量。即第40页，本讲稿共42页第六节第六节 预测预测 2.区间预测 （1）的预测区间 第41页，本讲稿共42页第六节第六节 预测预测 2.区间预测 （1）的预测区间 得 的预测区间为 （2）的预测区间 例3.8 对于例3.1中建立的估计得回归方程，假设商品的价格为X10=8.5，消费者的平均收入X20=140，试求 和 的预测区间（）。解：见教材。第42页，本讲稿共42页