计量经济学多元线性回归模型精选文档.ppt
《计量经济学多元线性回归模型精选文档.ppt》由会员分享,可在线阅读,更多相关《计量经济学多元线性回归模型精选文档.ppt(87页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、计量经济学多元线性回归模型本讲稿第一页,共八十七页第三章第三章 多元线性回归模型多元线性回归模型 学习目的学习目的 理解多元线性回归模型的矩阵表示,掌握多元理解多元线性回归模型的矩阵表示,掌握多元线性回归模型的参数估计、检验和预测。线性回归模型的参数估计、检验和预测。本讲稿第二页,共八十七页 基本要求基本要求 1)1)理解多元线性回归模型的矩阵表示,了解多元线性回归模型的基本假设;理解多元线性回归模型的矩阵表示,了解多元线性回归模型的基本假设;2)2)掌握多元线性回归模型的普通最小二乘参数估计方法,了解多元线性回归模型的普通最小二掌握多元线性回归模型的普通最小二乘参数估计方法,了解多元线性回归
2、模型的普通最小二乘参数估计量与样本回归线的性质、多元线性回归模型的随机误差项方差的普通最小二乘参数估计;乘参数估计量与样本回归线的性质、多元线性回归模型的随机误差项方差的普通最小二乘参数估计;3)3)学会对多元线性回归模型进行拟合优度检验,对多元线性回归模型的参数进行区间估计,学会对多元线性回归模型进行拟合优度检验,对多元线性回归模型的参数进行区间估计,对多元线性回归模型进行变量显著性检验和方程显著性检验;对多元线性回归模型进行变量显著性检验和方程显著性检验;4)4)学会进行多元线性回归模型被解释变量的总体均值和个别值的预测;学会进行多元线性回归模型被解释变量的总体均值和个别值的预测;5)5)
3、学会利用学会利用EViewsEViews软件进行多元线性回归模型的参数估计、检验和预测。软件进行多元线性回归模型的参数估计、检验和预测。第三章第三章 多元线性回归模型多元线性回归模型本讲稿第三页,共八十七页多元线性回归模型的矩阵表示与基本假设多元线性回归模型的矩阵表示与基本假设多元线性回归模型的参数估计多元线性回归模型的参数估计多元线性回归模型的拟合优度检验多元线性回归模型的拟合优度检验多元线性回归模型的统计推断多元线性回归模型的统计推断第三章第三章 多元线性回归模型多元线性回归模型多元线性回归模型的预测多元线性回归模型的预测本讲稿第四页,共八十七页第一节第一节 多元线性回归模型的多元线性回归
4、模型的 矩阵表示与基本假设矩阵表示与基本假设多元线性回归模型的一般形式是多元线性回归模型的一般形式是 其中,其中,Y为被解释变量,为被解释变量,为解释变量,为解释变量,、为待估参数,即回归系数,为待估参数,即回归系数,为解释变量个数,为解释变量个数,为为随机随机误误差差项项,为观测值为观测值下下标标,为样为样本容量。本容量。待估参数待估参数、,反映其他解释变量保持不变情况下,反映其他解释变量保持不变情况下,对应解释变量每变化一个单位引起的被解释变量的变化,也被称为对应解释变量每变化一个单位引起的被解释变量的变化,也被称为偏回归系数偏回归系数。本讲稿第五页,共八十七页第一节第一节 多元线性回归模
5、型的多元线性回归模型的 矩阵表示与基本假设矩阵表示与基本假设一、多元线性回归模型的矩阵表示一、多元线性回归模型的矩阵表示二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设本讲稿第六页,共八十七页讲课内容讲课内容一、多元线性回归模型的矩阵表示一、多元线性回归模型的矩阵表示二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设本讲稿第七页,共八十七页一、多元线性回归模型的矩阵表示一、多元线性回归模型的矩阵表示(3-1)(3-2)习惯上:把习惯上:把常数常数项项看成为一看成为一虚变虚变量量的系数,该虚的系数,该虚变量的样本观测变量的样本观测值始终取值始终取1。这。这样:样:模型中解释
6、变模型中解释变量的数目为量的数目为(k+1)本讲稿第八页,共八十七页也也被被称称为为总总体体回回归归函函数数的的随随机机表表达达形形式式。它它 的的非非随随机机表表达达式式为为:方程表示:方程表示:各变量各变量X X值固定时,值固定时,Y Y的平均响应的平均响应。j也也被被称称为为偏偏回回归归系系数数,表表示示在在其其他他解解释释变变量量保保持持不不变变的的情情况况下下,Xj每每变变化化1个个单单位位时时,Y的的均均值值E(Y)的变化的变化;或或者者说说j给给出出了了Xj的的单单位位变变化化对对Y均均值值的的“直直接接”或或“净净”(不含其他变量)影响。(不含其他变量)影响。本讲稿第九页,共八
7、十七页记记有有(3-3)多元线性总体回归模型的矩阵形式多元线性总体回归模型的矩阵形式 多元线性总体回归函数可用矩阵形式表示为多元线性总体回归函数可用矩阵形式表示为(3-4)本讲稿第十页,共八十七页样本回归函数样本回归函数:用来估计总体回归函数:用来估计总体回归函数其其随机表示式随机表示式:ei称为称为残差残差或或剩余项剩余项(residuals),可看成是总体,可看成是总体回归函数中随机扰动项回归函数中随机扰动项 i的近似替代。的近似替代。:或或其中:其中:样本回归函数样本回归函数的的矩阵表达矩阵表达:本讲稿第十一页,共八十七页讲课内容讲课内容一、多元线性回归模型的矩阵表示一、多元线性回归模型
8、的矩阵表示二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设本讲稿第十二页,共八十七页二、多元线性回归模型的基本假定二、多元线性回归模型的基本假定 假设假设1,解释变量是非随机的或固定的,解释变量是非随机的或固定的,且各且各X之间之间互不相关互不相关(无多重共线性无多重共线性)。)。假设假设2,随机误差项具有零均值、同方差及不,随机误差项具有零均值、同方差及不序列相关性序列相关性 假设假设3,解释变量与随机项不相关,解释变量与随机项不相关 假设假设4,随机项满足正态分布,随机项满足正态分布 本讲稿第十三页,共八十七页上述假设的上述假设的矩阵符号表示矩阵符号表示 式:式:假设假设1 1
9、,n(k+1)+1)矩阵矩阵X是非随机的,且是非随机的,且X的秩的秩=k+1+1,即,即X矩阵列矩阵列满秩。满秩。假设假设2 2,假设假设3,E(E(X)=0)=0,即,即 本讲稿第十四页,共八十七页假设假设4,向量,向量 有一多维正态分布,即有一多维正态分布,即 假设假设5,回归模型的设定是正确的。,回归模型的设定是正确的。且由第且由第2条假设有条假设有 本讲稿第十五页,共八十七页第二节第二节 多元线性回归模型的多元线性回归模型的 参数估计参数估计 任务任务 方法方法 模型结构参数模型结构参数、的估计的估计 随机随机误误差差项项的方差的方差的估的估计计 普通最小二乘法普通最小二乘法 本讲稿第
10、十六页,共八十七页讲课内容讲课内容一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题本讲稿第十七页,共八十七页一、参数的普通最小二乘估计一、参数的普通最小二乘估计对于多元线性回归模型对于多元线性回归模型(3-7)按照最小二乘法的基本思想,求参数的普通最小二乘估计,就是要求使按照最小二乘法的基本思想,求参数的普通最小二乘估计,就是要求使、达到最小的参数的估计
11、达到最小的参数的估计 。本讲稿第十八页,共八十七页根据最小二乘原理最小二乘原理,参数估计值应该是下列方程组的解 其中本讲稿第十九页,共八十七页于是得到关于待估参数估计值的于是得到关于待估参数估计值的正规方程组正规方程组:本讲稿第二十页,共八十七页正规方程组正规方程组的的矩阵形式矩阵形式即即由于由于XX满秩,故有满秩,故有 本讲稿第二十一页,共八十七页将上述过程用将上述过程用矩阵表示矩阵表示如下:如下:即求解方程组:即求解方程组:得到:得到:于是:于是:本讲稿第二十二页,共八十七页对于对于只含有两个解释变量只含有两个解释变量的多元线性回归模型的多元线性回归模型由式(由式(3-8)可直接求得普通最
12、小二乘估计量为)可直接求得普通最小二乘估计量为 (3-13)(3-12)(3-14)其中其中习题习题P45本讲稿第二十三页,共八十七页例例3.2.1:在在例例2.1.1的的家庭收入家庭收入-消费支出消费支出例中,例中,可求得 于是 本讲稿第二十四页,共八十七页 例:例:在上述家庭可支配收入在上述家庭可支配收入-消费支出例中,对于所抽消费支出例中,对于所抽出的一组样本数,参数估计的计算可通过下面的表出的一组样本数,参数估计的计算可通过下面的表2.2.12.2.1进进行。行。本讲稿第二十五页,共八十七页因此,因此,由该样本估计的回归方程为:由该样本估计的回归方程为:本讲稿第二十六页,共八十七页 *
13、二、最大或然估计二、最大或然估计 对于多元线性回归模型对于多元线性回归模型易知易知 Y的随机抽取的的随机抽取的n组样本观测值的联合概率组样本观测值的联合概率即为变量即为变量Y的的或然函数或然函数 本讲稿第二十七页,共八十七页对数或然函数为对数或然函数为对对数或然函数求极大值,也就是对对对数或然函数求极大值,也就是对 求极小值。求极小值。因此,参数的因此,参数的最大或然估计最大或然估计为为结果与参数的普通最小二乘估计相同结果与参数的普通最小二乘估计相同本讲稿第二十八页,共八十七页*三、矩估计三、矩估计(Moment Method,MM)回回 顾顾本讲稿第二十九页,共八十七页*三、矩估计三、矩估计
14、(Moment Method,MM)OLS估计是通过得到一个关于参数估计值的估计是通过得到一个关于参数估计值的正规方正规方程组程组并对它进行求解而完成的。并对它进行求解而完成的。该该正规方程组正规方程组 可以从另外一种思路来导可以从另外一种思路来导:求期望求期望:本讲稿第三十页,共八十七页称为原总体回归方程的一组称为原总体回归方程的一组矩条件矩条件,表明了原总体回归方程,表明了原总体回归方程所具有的内在特征。所具有的内在特征。由此得到由此得到正规方程组正规方程组 解此正规方程组即得参数的解此正规方程组即得参数的MM估计量。估计量。易知易知MM估计量估计量与与OLS、ML估计量等价。估计量等价。
15、本讲稿第三十一页,共八十七页矩方法矩方法是是工具变量方法工具变量方法(Instrumental Variables,IV)和和广广义矩估计方法义矩估计方法(Generalized Moment Method,GMM)的基的基础础 在在矩方法矩方法中关键是利用了中关键是利用了 E(X)=0 如果某个解释变量与随机项相关,只要能找到如果某个解释变量与随机项相关,只要能找到1个工具变量,个工具变量,仍然可以构成一组矩条件。这就是仍然可以构成一组矩条件。这就是IV。如果存在如果存在k+1个变量与随机项不相关,可以构成一组包含个变量与随机项不相关,可以构成一组包含k+1方程的矩条件。这就是方程的矩条件。
16、这就是GMM。本讲稿第三十二页,共八十七页讲讲 课课 内内 容容一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题本讲稿第三十三页,共八十七页二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质1 1线性性线性性因为因为 记记矩矩阵阵的第的第 j 行第行第 i 列的元素列的元素为为 aji,则则是矩是矩阵阵的的 第第 j+1 行与列矩行与列
17、矩阵阵 Y 的乘积,即的乘积,即这就是说,这就是说,中的任意一个都可以表示中的任意一个都可以表示为为被解被解释变释变量量的的线线性性组组合,合,满足线性性。满足线性性。、本讲稿第三十四页,共八十七页二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质2 2无偏性无偏性因为因为 所以所以本讲稿第三十五页,共八十七页二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质3 3有效性有效性因为因为 的方差的方差-协协方差矩方差矩阵为阵为(3-16)(3-17)记记矩矩阵阵的主的主对对角角线线上上的第的第i个元素为个元素为cii,则,则本讲稿第三十六页,共八十七页讲讲 课
18、课 内内 容容一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题本讲稿第三十七页,共八十七页三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质 1样样本回本回归线归线通通过样过样本均本均值值点,即点(点,即点(,)满满足足 。样本回归函数样本回归函数。3残差和残差和为为零,即零,即 。2被解被解释变释变量的估量的估计计的均的均值值等于被解等于
19、被解释变释变量的均量的均值值,即,即 。4各解各解释变释变量与残差的乘量与残差的乘积积之和之和为为零,即零,即 。5被解被解释变释变量的估量的估计计与残差的乘与残差的乘积积之和之和为为零,即零,即 。本讲稿第三十八页,共八十七页讲讲 课课 内内 容容一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题本讲稿第三十九页,共八十七页四、随机误差项的方差的普通最小
20、二乘估计四、随机误差项的方差的普通最小二乘估计多元线性回归模型的随机误差项的方差的普通最小二乘估计量为多元线性回归模型的随机误差项的方差的普通最小二乘估计量为 (3-18)是一个无偏估计量。是一个无偏估计量。容易看出,多元线性回归模型的随机误差项的方差的普通最小二乘估容易看出,多元线性回归模型的随机误差项的方差的普通最小二乘估计量,与一元线性回归模型的随机误差项的方差的普通最小二乘估计量一致。计量,与一元线性回归模型的随机误差项的方差的普通最小二乘估计量一致。因为在一元线性回归模型中因为在一元线性回归模型中k=1。所以,残差平方和可用矩阵表示为所以,残差平方和可用矩阵表示为(3-19)本讲稿第
21、四十页,共八十七页讲讲 课课 内内 容容一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题本讲稿第四十一页,共八十七页五、样本容量问题五、样本容量问题 样本容量越大,样本观测数据对经济活动的反映越全面,从样本样本容量越大,样本观测数据对经济活动的反映越全面,从样本观测数据中发现规律的可能性就越大,计量经济研究的结果就越可靠。观测数据中发现规律的可能性就越大
22、,计量经济研究的结果就越可靠。参数估参数估计计的最小的最小样样本容量要求是本容量要求是满满足基本要求的足基本要求的样样本容量:本容量:模型的模型的检验检验要求有足要求有足够够大的大的样样本容量,本容量,z 检验检验在在 n 30 时不能使用,时不能使用,因为因为n 30时构造不出用于检验的服从标准正态分布的统计量;时构造不出用于检验的服从标准正态分布的统计量;t 检验在检验在时时才比才比较较有效,因有效,因为为时时 t 分布才比分布才比较稳较稳定。定。一般一般经验认为经验认为,当,当或者至少或者至少时时,才能,才能满满足基本要求。足基本要求。模型的良好性质只有在大样本下才能得到理论上的证明模型
23、的良好性质只有在大样本下才能得到理论上的证明 无多重共线性无多重共线性,秩秩(X)=(X)=k k+1+1本讲稿第四十二页,共八十七页第二节第二节 结束结束一、参数的普通最小二乘估计一、参数的普通最小二乘估计二、参数的普通最小二乘估计量的性质二、参数的普通最小二乘估计量的性质三、普通最小二乘样本回归函数性质三、普通最小二乘样本回归函数性质四、随机误差项的方差的普通最小二乘估计四、随机误差项的方差的普通最小二乘估计五、样本容量问题五、样本容量问题内容回顾内容回顾本讲稿第四十三页,共八十七页第三节第三节 多元线性回归模型的拟合优度检验多元线性回归模型的拟合优度检验一、离差分解一、离差分解二、决定系
24、数二、决定系数三、调整的决定系数三、调整的决定系数本讲稿第四十四页,共八十七页讲讲 课课 内内 容容一、离差分解一、离差分解二、决定系数二、决定系数三、调整的决定系数三、调整的决定系数本讲稿第四十五页,共八十七页一、离差分解一、离差分解所以,在多元线性回归模型中,依然有所以,在多元线性回归模型中,依然有(3-20)即即(3-21)注意:注意:一个有趣的现象一个有趣的现象本讲稿第四十六页,共八十七页讲讲 课课 内内 容容一、离差分解一、离差分解二、决定系数二、决定系数三、调整的决定系数三、调整的决定系数本讲稿第四十七页,共八十七页 可决系数可决系数该统计量越接近于该统计量越接近于1,模型的拟合优
25、度越高。,模型的拟合优度越高。问题:问题:在应用过程中发现,如果在模型中增加一个解释变量,在应用过程中发现,如果在模型中增加一个解释变量,R2往往增大(往往增大(Why?Why?)这就给人这就给人一个错觉一个错觉:要使得模型拟合得好,只要要使得模型拟合得好,只要增加解释变量即可增加解释变量即可。但是,现实情况往往是,由增加解释变量个数引起的但是,现实情况往往是,由增加解释变量个数引起的R R2 2的增大与拟合好坏无关,的增大与拟合好坏无关,R R2 2需调整。需调整。本讲稿第四十八页,共八十七页讲讲 课课 内内 容容一、离差分解一、离差分解二、决定系数二、决定系数三、调整的决定系数三、调整的决
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 多元 线性 回归 模型 精选 文档
限制150内