计量经济学(庞浩)第三章_多元线性回归模型(1).pptx
《计量经济学(庞浩)第三章_多元线性回归模型(1).pptx》由会员分享,可在线阅读,更多相关《计量经济学(庞浩)第三章_多元线性回归模型(1).pptx(54页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、多元线性回归模型多元线性回归模型计量经济学计量经济学第三章第三章2引子引子:中国已成为世界汽车产销第一大国中国已成为世界汽车产销第一大国 2009年,为应对国际金融危机、确保经济平稳较快增长,国家出台了一系列促进汽车消费的政策,有效刺激了汽车消费市场,汽车产销呈高增长态势,首次成为世界汽车产销第一大国。2009年,汽车产销分别为1379.1万辆和1364.5万辆,同比增长48.3%和46.15%。 是什么因素导致中国汽车数量的增长是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的,经济增长、影响中国汽车行业发展的因素并不是单一的,经济增长、消费趋势、市场行情、业界心态、
2、能源价格、道路发展、内消费趋势、市场行情、业界心态、能源价格、道路发展、内外环境,都会使中国汽车行业面临机遇和挑战。外环境,都会使中国汽车行业面临机遇和挑战。3分析中国汽车行业未来的趋势分析中国汽车行业未来的趋势,应具体分析这样一些问题:应具体分析这样一些问题:中国汽车市场发展的状况如何?中国汽车市场发展的状况如何?(用销售量观测)(用销售量观测)影响中国汽车销量的主要因素是什么?影响中国汽车销量的主要因素是什么? (如收入、价格、费用、道路状况、能源、政策环境等)(如收入、价格、费用、道路状况、能源、政策环境等)各种因素对汽车销量影响的性质怎样?各种因素对汽车销量影响的性质怎样?(正、负)(
3、正、负)各种因素影响汽车销量的具体数量关系是什么?各种因素影响汽车销量的具体数量关系是什么?所得到的数量结论是否可靠?所得到的数量结论是否可靠?中国汽车行业今后的发展前景怎样?应当如何制定汽车的中国汽车行业今后的发展前景怎样?应当如何制定汽车的产业政策?产业政策?很明显,只用一个解释变量已很难分析汽车产业的发展很明显,只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。还需要寻求有更多个解释变量情况的回归分析方法。 怎样分析多种因素的影响?怎样分析多种因素的影响?4 本章主要讨论本章主要讨论: : 多元线性回归模型及古典假定多元线性回归模型及古典假定 多元
4、线性回归模型的估计多元线性回归模型的估计 多元线性回归模型的检验多元线性回归模型的检验 多元线性回归模型的预测多元线性回归模型的预测5 第一节第一节 多元线性回归模型及古典假定多元线性回归模型及古典假定 一、多元线性回归模型的意义一、多元线性回归模型的意义 一般形式:对于有一般形式:对于有K-1个解释变量的线性回归模型个解释变量的线性回归模型 注意:注意:模型中的模型中的 (j=1,2,-k)是是偏回归系数偏回归系数 样本容量为样本容量为n 偏回归系数偏回归系数: 控制其它解释量不变的条件下,第控制其它解释量不变的条件下,第j j个个解释变量的单位变动对被解释变量平均值的影响,即对解释变量的单
5、位变动对被解释变量平均值的影响,即对Y Y平均值平均值“直接直接”或或“净净”的影响。的影响。 ikikiiiuXXXY33221j(1,2,)in56 多元线性回归中的多元线性回归中的“线性线性”指对各个回归系数而言是指对各个回归系数而言是“线性线性”的,对变量则可的,对变量则可以是线性的,也可以是非线性的以是线性的,也可以是非线性的例如:生产函数例如:生产函数取对数取对数这也是多元线性回归模型,只是这时变量为这也是多元线性回归模型,只是这时变量为lnY、lnL、lnKuKALYuKLAYlnlnlnlnln7 多元总体回归函数多元总体回归函数 条件期望表现形式:条件期望表现形式:将将Y Y
6、的总体条件期望表示为多个解释变量的函数,如的总体条件期望表示为多个解释变量的函数,如: :注意:这时注意:这时Y总体条件期望的轨迹是总体条件期望的轨迹是K维空间的一条线维空间的一条线个别值表现形式:个别值表现形式:引入随机扰动项引入随机扰动项或表示为或表示为 kikiikiiiiXXXXXXYE3322132),(ikikiiiuXXXY33221(1,2,)in(1,2,)in23(,)iiiiikiuYE Y XXX8 多元样本回归函数多元样本回归函数 Y 的样本条件均值可表示为多个解释变量的函数的样本条件均值可表示为多个解释变量的函数 或回归剩余(残差):或回归剩余(残差): 其中其中
7、iiieYY12323ikiikiYXXX12323kiiikiiYXXXe1,2,in9多个解释变量的多元线性回归模型的多个解释变量的多元线性回归模型的n组样本观测值,可组样本观测值,可表示为表示为 用矩阵表示用矩阵表示 1131321211uXXXYkk2232322212uXXXYkknknknnnuXXXY33221nkknnkknuuuXXXXXXYYY21212222121211111n1n1kknNoImageXYu910总体回归函数总体回归函数 或或样本回归函数样本回归函数 或或 其中:其中: 都是有都是有n个元素的列向量个元素的列向量 是有是有k 个个 元素的列向量元素的列向
8、量 ( k = 解释变量个数解释变量个数 + 1 ) 是第一列为是第一列为1的的nk阶解释变量阶解释变量数据矩阵数据矩阵 , (截距项可视为解释变量总是取值为截距项可视为解释变量总是取值为1) ,Y = X+ u(E Y)= XY,Y,u,e矩阵表示方式Y = XY = X+eX11 假定假定1:零均值假定零均值假定 ( i=1,2,-n) 或 E(u)=0 假定假定2和假定和假定3:同方差和无自相关假定同方差和无自相关假定: 或用方差或用方差-协方差矩阵表示为协方差矩阵表示为: 0)(iuE)()(),(jijjiijiuuEEuuEuuEuuCov2(i=j)(ij)01 11212122
9、22212()()()100()()()010()()()001nnnnnnE u uE u uE u uE u uE u uE u uE u uE u uE u uI( ,)( )()()ijiijjCov u uE uE uuE uEuu(1,2,1,2,)injn假定假定5: 无多重共线性假定无多重共线性假定 (多元中增加的多元中增加的) 假定各解释变量之间不存在线性关系,或各个解假定各解释变量之间不存在线性关系,或各个解释变量观测值之间线性无关。或解释变量观测值释变量观测值之间线性无关。或解释变量观测值 矩阵矩阵X的秩为的秩为K(注意注意X为为n行K列列)。 Ran(X)= k Rak
10、(XX)=k 即即 (XX) 可逆可逆 假定假定6:正态性假定正态性假定), 0(2Nui2( ,)Nu0I12假定假定4:随机扰动项与解释变量不相关随机扰动项与解释变量不相关(,)0(2,3, )jiiCov Xujk一、普通最小二乘法一、普通最小二乘法(OLSOLS)原则:原则:寻求寻求剩余平方和最小的参数估计式剩余平方和最小的参数估计式 即求偏导,并令其为0 其中即 2212323min:()kiiiikieYXXX2()0ije122332()0iiikikiYXXX122233()20iiikikiiYXXXX12233(20)iiikikkiiYXXXX22min:()iiieYY
11、20iiX e 0ikiX e 0ie 132min:min:min:() ()iee eY-XY-X(1,2,)in(1,2,)jn14 用矩阵表示的正规方程偏导数偏导数因为样本回归函数为因为样本回归函数为 两边左乘两边左乘根据最小二乘原则根据最小二乘原则则正规方程为则正规方程为X X = X Y0001112121222212eXnknkknikiiiieeeXXXXXXeXeXeYXe=+X Y = X X+ X eXX e = 0Xe015 OLS OLS估计式估计式 由正规方程由正规方程 多元回归的多元回归的OLS估计量为估计量为当只有两个解释变量时为:当只有两个解释变量时为:注意:
12、注意: 为为X、Y的离差的离差23123YXX22332322222323()()()()()()()iiiiiiiiiiiy xxy xx xxxx x23222332222323()()()()()()()iiiiiiiiiiiy xxy xx xxxx xX X = X Y(),k k是满秩矩阵 其逆存在X Xx、y-1 = (X X) X Y对比对比简单线性回归中简单线性回归中12YX22iiix yx16 回归线通过样本均值回归线通过样本均值 估计值估计值 的均值等于实际观测值的均值等于实际观测值 的均值的均值 剩余项剩余项 的均值为零的均值为零 被解释变量估计值被解释变量估计值 与
13、剩余项与剩余项 不相关不相关 解释变量解释变量 与剩余项与剩余项 不相关不相关 (j=1,2,-k)23123kkYXXXiYiYie0neeiiiYie(,)0iiCov Y e()0iie yieiX0),(ijieXCov或iYnY1617 1、 线性线性特征 是是Y的线性函数,因的线性函数,因 是非随机或取固是非随机或取固定值的矩阵定值的矩阵 2、 无偏无偏特性 (证明见教材证明见教材P101附录附录3.1) 3、 最小方差最小方差特性 在在 所有的线性无偏估计中,所有的线性无偏估计中,OLS估计估计 具有最小方差具有最小方差 (证明见教材证明见教材P101或附录或附录3.2) 结论:
14、结论:在古典假定下,多元线性回归的在古典假定下,多元线性回归的 OLS估估 计式是最佳线性无偏估计式(计式是最佳线性无偏估计式(BLUE)()KKEKK-1(X X) X-1 = (X X) X Y18 三、三、 OLSOLS估计的分布性质估计的分布性质基本思想基本思想: 是随机变量,必须确定其分布性质才可能进行区是随机变量,必须确定其分布性质才可能进行区间估计和假设检验间估计和假设检验 是服从正态分布的随机变量,是服从正态分布的随机变量,决定了决定了Y Y也是服从正态分布的随机变量也是服从正态分布的随机变量 是是Y Y的线性函数,决定了的线性函数,决定了 也是服从正态分布的也是服从正态分布的
15、随机变量随机变量iuY = X+ u19 的期望的期望 (由无偏性由无偏性) 的方差和标准误差:的方差和标准误差: 可以证明可以证明 的方差的方差协方差矩阵为协方差矩阵为(见下页)(见下页) 这里的这里的 (其中(其中 是矩阵是矩阵 中第中第 j 行第行第 j 列的元素)列的元素) 所以所以 (j=1,2,-k) ( )E = 2Var-Cov( )1()X X2()jjjVarc()jjjSEcjjc1()X X),(2jjjjcN的期望与方差111212122212()kkkkkkccccccccc1X X20( )( )( ) COVEEE()() E11()() EX XX uu X
16、X X11()()()E X XXuu X X X121()() X XXIX X X21()X X1() X XX Y1()() X XXX+ u1()X XX u2()E uuI其中:其中:(由无偏性由无偏性)(由同方差性由同方差性)(由由OLS估计式估计式)20(1,2,)in(1,2,)jn注意注意 是向量是向量的方差的方差- -协方差协方差21 一般未知,可证明多元回归中一般未知,可证明多元回归中 的无偏的无偏 估计为:估计为:(证明见证明见P103附录附录3.3) 或表示为或表示为 将将 作标准化变换:作标准化变换: (0,1)()kkkkkkjjzNSEcknei22222nke
17、 e221对比对比: 一元回归中一元回归中22(2)ien22因因 是未知的,是未知的, 可用可用 代替代替 去估计参数的去估计参数的标准误差标准误差: 当为大样本时,用估计的参数标准误差对当为大样本时,用估计的参数标准误差对 作作标准化变换,所得标准化变换,所得 Z 统计量仍可视为服从正态分统计量仍可视为服从正态分布布当为小样本时,用估计的参数标准误差对当为小样本时,用估计的参数标准误差对 作标作标准化变换,所得的准化变换,所得的 t 统计量服从统计量服从 t 分布:分布:2222* ()()jjjjjjjtt nkcSE2223五、五、 回归系数的区间估计回归系数的区间估计 由于由于给定给
18、定 ,查,查t分布表的自由度为分布表的自由度为 n-k 的临界值的临界值或或或表示为或表示为22()()1jjjjjPtSEtSE )1(kj221jjjjjjjPtctc 2()2()(,)jjn kjjjn kjjtctc* ()()jjjjjjjtt nkcSE)(2knt*22()()1()jjjPtnkttnkSE 2324一、多元回归的拟合优度检验一、多元回归的拟合优度检验 多重可决系数多重可决系数:在多元回归模型中,由各个解释在多元回归模型中,由各个解释 变量联合起来解释了的变量联合起来解释了的Y的变差,在的变差,在Y的总变差中占的总变差中占 的比重,用的比重,用 表示表示 与简
19、单线性回归中可决系数与简单线性回归中可决系数 的区别只是的区别只是 不同不同多元回归中多元回归中多重可决系数可表示为多重可决系数可表示为 ( (注意注意: :红色字体是与一元回归不同的部分红色字体是与一元回归不同的部分) )2RiY2r22222()1()iiiiYTSYeESSRSSRTSSYYTSSSy 12233iiikkiYXXX2425 多重可决系数的矩阵表示多重可决系数的矩阵表示 可用代数式表达为可用代数式表达为 特点特点: :多重可决系数是模型中解释变量个数的不减函多重可决系数是模型中解释变量个数的不减函 数,这给对比不同模型的多重可决系数带来缺陷,数,这给对比不同模型的多重可决
20、系数带来缺陷, 所以需要修正。所以需要修正。 22()iTSSYYnYY Y223322iiiikkiiix yx yx yRy22()iESSYYnY X Y222ESSnYRTSSnY X YY Y26 修正的可决系数修正的可决系数思想:思想:可决系数只涉及变差,没有考虑可决系数只涉及变差,没有考虑自由度自由度。 如果用自由度去校正所计算的变差,可纠如果用自由度去校正所计算的变差,可纠 正解释变量个数不同引起的对比困难。正解释变量个数不同引起的对比困难。回顾回顾: 自由度自由度:统计量的自由度指可自由变化的样本观统计量的自由度指可自由变化的样本观 测值个数,它等于所用样本观测值的个测值个数
21、,它等于所用样本观测值的个 数减去对观测值的约束个数数减去对观测值的约束个数。27 可决系数的修正方法可决系数的修正方法 总变差总变差 TSS 自由度为自由度为 n-1 解释了的变差解释了的变差 ESS 自由度为自由度为 k-1 剩余平方和剩余平方和 RSS 自由度为自由度为 n-k 修正的可决系数为修正的可决系数为 22)(iiyYY2()iYY22()iiiYYe222222()11111(1)(1)iiiienkennRRynnkynk 28 修正的可决系数修正的可决系数 与可决系数与可决系数 的关系的关系 已经导出:已经导出: 注意:注意: 可决系数可决系数 必定非负,但所计算的修正可
22、决系数必定非负,但所计算的修正可决系数 有可能为负值有可能为负值 解决办法:解决办法:若计算的若计算的 ,规定,规定 取值为取值为0 0 knnRR1)1 (1222R2R2R2R2R02R2929基本思想:基本思想: 在多元回归中包含多个解释变量,它们与被解释在多元回归中包含多个解释变量,它们与被解释变量是否有显著关系呢?变量是否有显著关系呢?当然可以分别检验各个解释变量对被解释变量影当然可以分别检验各个解释变量对被解释变量影响的显著性。响的显著性。但是我们首先关注的是所有解释变量联合起来对被但是我们首先关注的是所有解释变量联合起来对被解释变量影响的显著性解释变量影响的显著性, , 或整个方
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 庞浩 第三 多元 线性 回归 模型
限制150内