计量经济学第三章多元线性回归精选PPT.ppt

计量经济学第三章多元线性回归第1页，此课件共42页哦第三章第三章 多元线性回归模型多元线性回归模型 第一节：模型的建立及其假定条件第一节：模型的建立及其假定条件第二节：最小二乘法第二节：最小二乘法第三节：最小二乘估计量的特性第三节：最小二乘估计量的特性第四节：可决系数第四节：可决系数第五节：显著性检验与置信区间第五节：显著性检验与置信区间第六节：预测第六节：预测第七节：案例分析第七节：案例分析第2页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件1.为什么要引入多元线性回归模型？为什么要引入多元线性回归模型？在实际经济问题中，一个经济变量往往不只受到一个经在实际经济问题中，一个经济变量往往不只受到一个经济因素的影响，而是受到多个经济因素的影响。如，商品的济因素的影响，而是受到多个经济因素的影响。如，商品的需求量不但受到商品本身价格的影响，还会受到消费者偏好、需求量不但受到商品本身价格的影响，还会受到消费者偏好、消费者收入以及其它相关商品价格、预期价格等因素的影响。消费者收入以及其它相关商品价格、预期价格等因素的影响。引入多元线性回归模型，为我们深入探究某经济问题如何被引入多元线性回归模型，为我们深入探究某经济问题如何被多个经济因素所影响提供了可能，并有助于我们解析出经济问题多个经济因素所影响提供了可能，并有助于我们解析出经济问题背后存在的内在规律。背后存在的内在规律。多元线性回归模型是一元线性回归模型的推广，其基本原理多元线性回归模型是一元线性回归模型的推广，其基本原理和方法同一元模型完全相似。和方法同一元模型完全相似。第3页，此课件共42页哦 设设 是对总体是对总体 的的n次独立样本观测值，则次独立样本观测值，则第一节第一节 模型的建立及其假定条件模型的建立及其假定条件2.多元线性回归模型与一元模型的形式有什么不同？多元线性回归模型与一元模型的形式有什么不同？多元总体线性回归方程，简称多元总体线性回归方程，简称总体回归方程总体回归方程。是样本数据结构形式的多元总体线性回归模型，由是样本数据结构形式的多元总体线性回归模型，由n个个方程、方程、k+1个未知参数个未知参数 组成的一个线性方程组成的一个线性方程组。组。第4页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？多元线性回归模型的方程组与矩阵形式？被解释向量被解释向量=解释变量矩阵解释变量矩阵未知参数向量未知参数向量+随机误差向量随机误差向量第5页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件3.多元线性回归模型的方程组与矩阵形式？多元线性回归模型的方程组与矩阵形式？第6页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件4.多元线性回归模型的样本估计形式？多元线性回归模型的样本估计形式？样本回归样本回归模型模型 矩阵形式为：矩阵形式为：样本回归样本回归方程方程 矩阵形式为：矩阵形式为：表示表示残差（随机误差项估计值）的列向量残差（随机误差项估计值）的列向量第7页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定1：E(ui)=0i1,2n这样，被解释变量这样，被解释变量Yi的期望值的期望值为为：E(Yi)=0+1X1 i+2X2i +kX ki 第8页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定2：Var(ui)=Eui-E(ui)2=E(ui)2=2 i1,2,n 这样，这样，Yi的方差也相同，且等于的方差也相同，且等于 2，即：，即：Var(Yi)=2 i1,2,n假定假定3：Cov(ui,uj)=E(ui-E(ui)(uj-E(uj)=E(ui,uj)=0(i j)i，j1,2,n即：随机误差项无序列相关。即：随机误差项无序列相关。第9页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定2和假定和假定3可以由下列矩阵表示：可以由下列矩阵表示：第10页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件假定假定2和假定和假定3可以由下列矩阵表示：可以由下列矩阵表示：上式称为随机误差向量上式称为随机误差向量u的的方差方差协方差矩阵协方差矩阵。第11页，此课件共42页哦第一节第一节 模型的建立及其假定条件模型的建立及其假定条件5.多元线性回归模型的假定条件多元线性回归模型的假定条件即样本观测值矩阵即样本观测值矩阵X必须是满秩矩阵，应满足：必须是满秩矩阵，应满足：假定假定4：Cov(uj,Xij)=0i1,2k；i，j1,2n 即 ui与与Xi彼此不相关彼此不相关。rankrank（X X）=k=k1 1nn假定假定5：解释变量：解释变量X1,X2,X k之间不存在完全的线性关系，之间不存在完全的线性关系，假定假定6：随机误差项服从正态分布，即：随机误差项服从正态分布，即uiN（0,2）同时，被解释变量也服从正态分布同时，被解释变量也服从正态分布YiN(0+1X1 i+2X2i+kXki,2)第12页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第一步第一步构建最小二乘函数：构建最小二乘函数：第13页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第二步第二步应用极值定理，对参数求导：应用极值定理，对参数求导：第14页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第二步第二步应用极值定理，对参数求导：应用极值定理，对参数求导：化化简简第15页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第二步第二步应用极值定理，对参数求导：应用极值定理，对参数求导：写成矩阵形式写成矩阵形式第16页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第三步第三步解方程组：解方程组：因为：因为：第17页，此课件共42页哦第二节第二节 最小二乘法最小二乘法1.参数的最小二乘估计参数的最小二乘估计第三步第三步解方程组：解方程组：所以：所以：于是：于是：就是就是 的最小二乘估计量。的最小二乘估计量。第18页，此课件共42页哦第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则最小二乘估计的矩阵微分法则其中，其中，第19页，此课件共42页哦第二节第二节 最小二乘法最小二乘法2.最小二乘估计的矩阵微分法则最小二乘估计的矩阵微分法则对矩阵求对矩阵求 向量的微分，得向量的微分，得整理，得整理，得于是于是可见，矩阵微分法与解方程组法的结果是一样的。可见，矩阵微分法与解方程组法的结果是一样的。第20页，此课件共42页哦第二节第二节 最小二乘法最小二乘法例例3.1由经济理论知，在市场上某种商品的需求量由经济理论知，在市场上某种商品的需求量主要主要取决于该商品的价格取决于该商品的价格和消费者的收入和消费者的收入。试建立该。试建立该种商品的需求量与商品价格和消费者平均收入之间的线种商品的需求量与商品价格和消费者平均收入之间的线性回归模型。性回归模型。第一步：确立研究问题；第一步：确立研究问题；第二步：搜集研究数据；第二步：搜集研究数据；第21页，此课件共42页哦第二节第二节 最小二乘法最小二乘法例例3.1第三步：构建计量经济学模型；第三步：构建计量经济学模型；第22页，此课件共42页哦第二节第二节 最小二乘法最小二乘法例例3.1第三步：构建计量经济学模型；第三步：构建计量经济学模型；第23页，此课件共42页哦M是一个是一个 n 阶对称幂等矩阵，即阶对称幂等矩阵，即第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量第24页，此课件共42页哦第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量则则注：符号注：符号 tr 表示矩阵的迹，它等于矩阵主对角线上元素之和表示矩阵的迹，它等于矩阵主对角线上元素之和.第25页，此课件共42页哦第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量于是有，于是有，可见，随机误差项的方差可见，随机误差项的方差2 的无偏估计量为：的无偏估计量为：第26页，此课件共42页哦残差平方和残差平方和 的计算方法如下：的计算方法如下：第二节第二节 最小二乘法最小二乘法3.随机误差项的方差随机误差项的方差的估计量的估计量请计算例请计算例3.1中误差项方差的回归标准差。中误差项方差的回归标准差。第27页，此课件共42页哦 所谓线性性是指最小二乘估计量所谓线性性是指最小二乘估计量 是被解释变量的观测值是被解释变量的观测值 的线性函数：的线性函数：已知已知 令令 则则 ，A是一个非随机是一个非随机(k+1)n阶常数矩阵。阶常数矩阵。2.无偏性无偏性 由由 知知第三节第三节 最小二乘估计量的特性最小二乘估计量的特性1.线性性线性性 第28页，此课件共42页哦由由知知令令则则 ，因，因 b 是是 的无偏估计量，所以的无偏估计量，所以从而有从而有第三节第三节 最小二乘估计量的特性最小二乘估计量的特性3.最小方差性（有效性）最小方差性（有效性）第29页，此课件共42页哦第三节第三节 最小二乘估计量的特性最小二乘估计量的特性高斯高斯马尔科夫定理马尔科夫定理如果基本假设如果基本假设(1)(5)成立，则最小二乘估计量成立，则最小二乘估计量是是的的最优线性无偏估计量（最优线性无偏估计量（BLUE），即），即的所有线性无偏估的所有线性无偏估计量中，计量中，具有最小方差性。具有最小方差性。例例3.3试计算例试计算例3.1中中和和的标准差的估计值。的标准差的估计值。解：解：第30页，此课件共42页哦第四节第四节 可决系数可决系数1.总离差平方和的分解总离差平方和的分解多元回归模型同一元回归模型相似，总离差平多元回归模型同一元回归模型相似，总离差平方和也可分解为：方和也可分解为：其中其中即即总离差平方和总离差平方和=回归平方和回归平方和+残差平方和残差平方和 TSS=RSS+ESS第31页，此课件共42页哦第四节第四节 可决系数可决系数2.多元样本的可决系数多元样本的可决系数修正的多元样本可决系数修正的多元样本可决系数第32页，此课件共42页哦第四节第四节 可决系数可决系数在实际应用时，在实际应用时，和和越大，模型拟合得越好。越大，模型拟合得越好。和和仅仅说明了在给定的样本条件下，估计的回归方程对于样本仅仅说明了在给定的样本条件下，估计的回归方程对于样本观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标准。我们并不能仅以准。我们并不能仅以和和的大小来选择模型，有时为了的大小来选择模型，有时为了使有重要经济意义的解释变量保留在模型中，宁可牺牲一点使有重要经济意义的解释变量保留在模型中，宁可牺牲一点拟合优度。拟合优度。例例3.4计算例计算例3.1的可决系数的可决系数第33页，此课件共42页哦第五节第五节 显著性检验与置信区间显著性检验与置信区间1.回归方程的显著性检验（回归方程的显著性检验（F检验）检验）回归方程的显著性检验是指，在一定的显著水平下，从总体上对回归方程的显著性检验是指，在一定的显著水平下，从总体上对模型中被解释变量与解释变量之间的线性关系是否显著成立进行的模型中被解释变量与解释变量之间的线性关系是否显著成立进行的一种统计检验。一种统计检验。对于多元回归模型对于多元回归模型提出原假设提出原假设备择假设为备择假设为当当H0成立时成立时第34页，此课件共42页哦第五节第五节 显著性检验与置信区间显著性检验与置信区间1.回归方程的显著性检验（回归方程的显著性检验（F检验）检验）例例3.5 试对例试对例3.1中的估计的回归方程进行显著性检验。中的估计的回归方程进行显著性检验。解：从解：从Eviews的输出结果中，也能够直接看出的输出结果中，也能够直接看出第35页，此课件共42页哦第五节第五节 显著性检验与置信区间显著性检验与置信区间2.解释变量的显著性检验（解释变量的显著性检验（t检验检验）多元线性回归模型同一元线性回归模型一样，检验未知参数的显著多元线性回归模型同一元线性回归模型一样，检验未知参数的显著性也可用性也可用 t 统计量：统计量：已知已知 ，其中，其中有有记记 ，若假设，若假设H0成立成立则可得则可得 第36页，此课件共42页哦第五节第五节 显著性检验与置信区间显著性检验与置信区间2.解释变量的显著性检验（解释变量的显著性检验（t检验检验）例例3.6试对例试对例3.1的回归系数的回归系数，进行显著性检验。进行显著性检验。解：解：第37页，此课件共42页哦第五节第五节 显著性检验与置信区间显著性检验与置信区间3.回归系数的置信区间回归系数的置信区间已知已知所以，有所以，有例例3.7试对例试对例3.1中的回归系数建立置信度为中的回归系数建立置信度为95%的置信区间。的置信区间。解：基于解：基于Eviews的输出结果可得的输出结果可得和和的置信区间为的置信区间为第38页，此课件共42页哦第六节第六节 预测预测1.点预测点预测点预测：就是将解释变量点预测：就是将解释变量X1,X2,Xk的一组特定值：的一组特定值：X0=(1,X10,X20,Xk0)代入估计的回归方程中，计算出被解释变量代入估计的回归方程中，计算出被解释变量Y0的点预测值：的点预测值：即：即：与一元情形一样，对与一元情形一样，对 有两种解释：有两种解释：（1）看作）看作Y的条件期望的条件期望E(Y0|X0)的点估计的点估计（2）看作）看作Y的个别值（真值）的个别值（真值）Y0的点估计的点估计第39页，此课件共42页哦第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 因此，因此，是是 的无偏估计量。的无偏估计量。即即第40页，此课件共42页哦第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 第41页，此课件共42页哦第六节第六节 预测预测2.区间预测区间预测（1）的预测区间的预测区间 得得 的预测区间为的预测区间为 （2）的预测区间的预测区间 例例3.8 对于例对于例3.1中建立的估计得回归方程，假设商品的价格为中建立的估计得回归方程，假设商品的价格为X10=8.5，消费者的平均收入，消费者的平均收入X20=140，试求，试求 和和 的预测区间（的预测区间（）。）。解：解：见教材。见教材。第42页，此课件共42页哦