计量经济学-第2章-简单线性回归模型教学内容.ppt
《计量经济学-第2章-简单线性回归模型教学内容.ppt》由会员分享,可在线阅读,更多相关《计量经济学-第2章-简单线性回归模型教学内容.ppt(102页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、计量量经济学学-第第2 2章章-简单线性回性回归模型模型 1.经济变量间的相互关系经济变量间的相互关系 确定性的函数关系确定性的函数关系 不确定性的统计关系不确定性的统计关系相关关系相关关系 (为随机变量为随机变量)没有关系没有关系 一、回归与相关一、回归与相关 (对统计学的回顾)(对统计学的回顾)22.2.相关关系相关关系相关关系的描述相关关系的描述相关关系最直观的描述方式相关关系最直观的描述方式坐标图坐标图(散布图)散布图)33.3.相关程度的度量相关程度的度量相关系数相关系数 总体线性相关系数总体线性相关系数:其中:其中:X的方差;的方差;Y的方差的方差 X和和Y的协方差的协方差样本线性
2、相关系数样本线性相关系数:其中:其中:和和 分别是变量分别是变量 和和 的样本观测值的样本观测值 和和 分别是变量分别是变量 和和 样本值的平均值样本值的平均值4 和和 都是相互对称的随机变量都是相互对称的随机变量 线线性性相关系数只反映变量间的线性相关程度,不相关系数只反映变量间的线性相关程度,不 能说明非能说明非 线性相关关系线性相关关系 样本相关系数是总体相关系数的样本估计值,由样本相关系数是总体相关系数的样本估计值,由 于抽样波动,样本相关系数是个随机变量,其统于抽样波动,样本相关系数是个随机变量,其统 计显著性有待检验计显著性有待检验 相关系数只能反映线性相关程度,不能确定因果相关系
3、数只能反映线性相关程度,不能确定因果 关系,不能说明相关关系具体接近哪条直线关系,不能说明相关关系具体接近哪条直线 计量经济学关心:计量经济学关心:变量间的因果关系及隐藏在随变量间的因果关系及隐藏在随机性后面的统计规律性,这有赖于回归分析方法机性后面的统计规律性,这有赖于回归分析方法 使用相关系数时应注意使用相关系数时应注意54.4.回归分析回归分析回归的回归的古典意义古典意义:高尔顿遗传学的回归概念高尔顿遗传学的回归概念(父母身高与子女身高的关系父母身高与子女身高的关系)回归的回归的现代意义现代意义:一个应变量对若干解释变量一个应变量对若干解释变量依存关系依存关系的研究的研究回归的回归的目的
4、(实质)目的(实质):由固定的解释变量去由固定的解释变量去估计应变量的平均值估计应变量的平均值6四、回归与回归分析的内容四、回归与回归分析的内容(一)回归分析的基本思想和方法及(一)回归分析的基本思想和方法及“回归回归”名称的由来名称的由来 英国统计学家高尔顿(英国统计学家高尔顿(F.alton,18221911)和他的学生皮尔逊(和他的学生皮尔逊(.Pearson,18561936)在)在研究父母身高与其子女身高的遗传问题时,观察了研究父母身高与其子女身高的遗传问题时,观察了1078对夫妇,以每对夫妇的平均身高作为,而取他们对夫妇,以每对夫妇的平均身高作为,而取他们的一个成年儿子的身高作为,
5、将结果在平面直角坐标的一个成年儿子的身高作为,将结果在平面直角坐标系上绘成散点图,发现趋势近乎一条直线,计算出的系上绘成散点图,发现趋势近乎一条直线,计算出的回归直线方程为回归直线方程为y33.730.516 x这一方程表明:父母平均身高每增减一个单位时,其成年这一方程表明:父母平均身高每增减一个单位时,其成年子女的身高仅平增减子女的身高仅平增减0.516个单位。个单位。的的条件分布条件分布 当当解解释释变变量量 取取某某固固定定值值时时(条条件件),的的值值不不确确定定,的的不不同同取取值值形形成成一一定定的的分分布布,即即 的的条条件分布。件分布。的的条件期望条件期望 对于对于 的每一个取
6、值,的每一个取值,对对 所形成的分布确所形成的分布确 定其期望或均值,称定其期望或均值,称 为为 的条件期望或条的条件期望或条 件均值件均值 注意几个概念注意几个概念8 回归线回归线:对于每一个对于每一个 的取值,的取值,都有都有 的条件期望的条件期望 与之对应,与之对应,代表这些代表这些 的条件期的条件期 望的点的轨迹所形成望的点的轨迹所形成 的直线或曲线,称为的直线或曲线,称为 回归线。回归线。回归线与回归函数回归线与回归函数9 回归函数:回归函数:应变量应变量 的条件期望的条件期望 随解随解释变量释变量 的的变化而有规律的变化,如果把的的变化而有规律的变化,如果把 的条件期望的条件期望
7、表现为表现为 的某种函数的某种函数 这个函数称为回归函数。这个函数称为回归函数。回归函数分为:回归函数分为:总体回归函数和样本回归函数总体回归函数和样本回归函数举例:假如已知举例:假如已知100个家庭构成的总体。个家庭构成的总体。回归线与回归函数回归线与回归函数10 1.1.总体回归函数的概念总体回归函数的概念 前前提提:假假如如已已知知所所研研究究的的经经济济现现象象的的总总体体应应变变量量 和和解解释释变变量量 的的每每个个观观测测值值,可可以以计计算算出出总总体体应应变变量量 的的条条件件均均值值 ,并并将将其其表表现现为为解解释释变量变量 的某种函数的某种函数 这这个个函函数数称称为为
8、总总体体回回归归函函数数(PRF),也也被被称称为为数据生成过程(数据生成过程(DGP)二、总体回归函数二、总体回归函数(PRFPRF)11实实际际的的经经济济研研究究中中总总体体回回归归函函数数通通常常是是未未知知的的,只只能能根根据据经经济济理理论论和和实实践践经经验验去去设设定定。“计计量量”的目的就是寻求的目的就是寻求PRFPRF。总总体体回回归归函函数数中中 与与 的的关关系系可可是是线线性性的的,也也可可是是非线性非线性的。的。对线性回归模型的对线性回归模型的“线性线性”有两种解释有两种解释 就变量而言就变量而言是线性的是线性的 的条件均值是的条件均值是 的线性函数的线性函数 就参
9、数而言就参数而言是线性的是线性的 的条件均值是参数的条件均值是参数 的线性函数的线性函数 3.3.如何理解总体回归函数如何理解总体回归函数12变量、参数均为变量、参数均为变量、参数均为变量、参数均为“线性线性线性线性”参数参数参数参数“线性线性线性线性”,变量,变量,变量,变量”非线非线非线非线性性性性”变量变量变量变量“线性线性线性线性”,参数,参数,参数,参数”非线非线非线非线性性性性”计量经济学中计量经济学中:线性回归模型主要指就参数而言是线性回归模型主要指就参数而言是“线性线性”,因因为只要对参数而言是线性的为只要对参数而言是线性的,都可以用类似的方法估计都可以用类似的方法估计其参数。
10、其参数。“线性线性”的判断的判断13三、随机扰动项三、随机扰动项概念概念:各个各个 值与条件均值值与条件均值 的偏差的偏差 代表代表 排除在模型以外的所有排除在模型以外的所有 因素对因素对 的影响。的影响。性质:性质:是期望为是期望为0有一定分布的随机变量有一定分布的随机变量 重要性:重要性:随机扰动项的性质决定着计量经济方随机扰动项的性质决定着计量经济方法的选择法的选择14 未知未知影响因素的代表影响因素的代表无法取得数据无法取得数据的已知影响因素的代表的已知影响因素的代表众多细小影响因素众多细小影响因素的综合代表的综合代表变量内在变量内在随机性随机性引入随机扰动项的原因引入随机扰动项的原因
11、15四、样本回归函数四、样本回归函数(SRFSRF)样本回归线样本回归线:对于对于 的一定值,取得的一定值,取得 的样本观测值,可计算其条的样本观测值,可计算其条件均值,样本观测值条件均值的轨迹称为样本回归线。件均值,样本观测值条件均值的轨迹称为样本回归线。样本回归函数:样本回归函数:如果把应变量如果把应变量 的样本条件均值表示为解释变量的样本条件均值表示为解释变量 的某的某种函数,这个函数称为样本回归函数(种函数,这个函数称为样本回归函数(SRF)。)。16SRF 的特点的特点每次抽样都能获得一个样本,就可以拟合一条每次抽样都能获得一个样本,就可以拟合一条样本回样本回 归线,所以样本回归线随
12、抽样波动而变归线,所以样本回归线随抽样波动而变化,可以有许多条化,可以有许多条(SRF不唯一)。不唯一)。SRF2SRF117 样本回归函数与总体回归函数的关系 SRF PRF A 18 回归分析的目的回归分析的目的用样本回归函数用样本回归函数SRF去估计总体回归函数去估计总体回归函数PRF。由于样本对总体总是存在代表性误差,由于样本对总体总是存在代表性误差,SRF总会过总会过高或过低估计高或过低估计PRF。要解决的问题:要解决的问题:寻求一种规则和方法,使得到的寻求一种规则和方法,使得到的SRF的参数的参数和和尽可能尽可能“接近接近”总体回归函数中的参数总体回归函数中的参数和和。这样的这样的
13、“规则和方法规则和方法”有多种,最常用的是最小二有多种,最常用的是最小二乘法乘法19 第二节第二节 简单线性回归模型的最小二乘估计简单线性回归模型的最小二乘估计 本节基本内容本节基本内容:简单线性回归的基本假定简单线性回归的基本假定 普通最小二乘法普通最小二乘法 OLSOLS回归线的性质回归线的性质 参数估计式的统计性质参数估计式的统计性质20 一、简单线性回归的基本假定一、简单线性回归的基本假定 1.为什么要作基本假定?为什么要作基本假定?模型中有随机扰动,估计的参数是随机变量,模型中有随机扰动,估计的参数是随机变量,只有对随机扰动的分布作出假定,才能确定只有对随机扰动的分布作出假定,才能确
14、定 所估计参数的分布性质,也才可能进行假设所估计参数的分布性质,也才可能进行假设 检验和区间估计检验和区间估计 只有具备一定的假定条件,所作出的估计才只有具备一定的假定条件,所作出的估计才 具有较好的统计性质。具有较好的统计性质。21 (1 1)对模型和变量的假定对模型和变量的假定如如假定解释变量假定解释变量 是非随机的,或者虽然是随机的,但与扰动是非随机的,或者虽然是随机的,但与扰动项项 是不相关的是不相关的假定解释变量假定解释变量 在重复抽样中为固定值在重复抽样中为固定值假定变量和模型无设定误差假定变量和模型无设定误差2、基本假定的内容、基本假定的内容22又称高斯假定、古典假定又称高斯假定
15、、古典假定假定假定1 1:零均值假定零均值假定 在给定在给定 的条件下的条件下,的条件期望为零的条件期望为零假定假定2 2:同方差假定同方差假定 在给定在给定 的条件下,的条件下,的条件方差为某个常数的条件方差为某个常数(2)对随机扰动项)对随机扰动项 的假定的假定23 假定假定3 3:无自相关假定无自相关假定随机扰动项随机扰动项的逐次值互不相关的逐次值互不相关假定假定4 4:随机扰动随机扰动与解释变量与解释变量不相关不相关24假定假定5 5:对随机扰动项分布的正态性假定对随机扰动项分布的正态性假定 即假定即假定 服从均值为零、方差为服从均值为零、方差为 的正态分布的正态分布 (说说明明:正正
16、态态性性假假定定不不影影响响对对参参数数的的点点估估计计,但但对对确确定定所所估估计计参参数数的的分分布布性性质质是是需需要要的的。且且根根据据中中心心极极限限定定理理,当当样样本本容容量量趋趋于于无无穷穷大大时时,的的分分布布会会趋近于正态分布。所以正态性假定是合理的)趋近于正态分布。所以正态性假定是合理的)25的分布性质的分布性质 由于由于 的分布性质决定了的分布性质决定了 的分布性质。的分布性质。对对 的一些假定可以等价地表示为对的一些假定可以等价地表示为对 的假定:的假定:假定假定1:零均值假定:零均值假定 假定假定2:同方差假定:同方差假定 假定假定3:无自相关假定:无自相关假定 假
17、定假定5:正态性假定:正态性假定26OLS的基本思想的基本思想 不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数 和和和和 ,所估计的,所估计的,所估计的,所估计的 也不同。也不同。也不同。也不同。理想的估计方法应使理想的估计方法应使理想的估计方法应使理想的估计方法应使 与与与与 的差即剩余的差即剩余的差即剩余的差即剩余 越小越好越小越好越小越好越小越好 因因因因 可正可负,所以可以取可正可负,所以可以取可正可负,所以可以取可正可负,所以可以取 最小最小最小最小 即即即即二、普通最小二乘法二
18、、普通最小二乘法(rdinaryLeastSquares)27 正规方程和估计式正规方程和估计式用克莱姆法则求解得观测值形式的用克莱姆法则求解得观测值形式的OLS估计式:估计式:取偏导数为取偏导数为0,得正规方程,得正规方程28为表达得更简洁,或者用离差形式为表达得更简洁,或者用离差形式OLS估计式估计式:注意注意其中:其中:而且样本回归函数可写为而且样本回归函数可写为用离差表现的用离差表现的OLSOLS估计式估计式29三、OLSOLS回归线的性质回归线的性质可以证明可以证明:回归线通过样本均值回归线通过样本均值估计值估计值 的均值等于实的均值等于实 际观测值际观测值 的均值的均值 30 剩余
19、项剩余项 的均值为零的均值为零应变量估计值应变量估计值 与剩余项与剩余项 不不相关相关 解释变量解释变量 与剩余项与剩余项 不相关不相关31 四、四、参数估计式的统计性质参数估计式的统计性质(一一)参数估计式的评价标准参数估计式的评价标准 1.无偏性无偏性前提:前提:重复抽样中估计方法固定、样本数不变、经 重复抽样的观测值,可得一系列参数估计值参数估计值参数估计值 的分布称为的分布称为 的抽样分布,密度函的抽样分布,密度函数记为数记为 如果如果 ,称,称 是参数是参数 的无偏估计式,否的无偏估计式,否则称则称 是有偏的,其偏倚为是有偏的,其偏倚为 (见图(见图1.2)32图 1.2估计值偏倚偏
20、倚 概 率 密 度33前提:前提:样本相同、用不同的方法估计参数,样本相同、用不同的方法估计参数,可以找到若干个不同的估计式可以找到若干个不同的估计式 目标:目标:努力寻求其抽样分布具有最小方差的努力寻求其抽样分布具有最小方差的 估计式估计式 最小方差准则,或称最佳最小方差准则,或称最佳 性准则性准则(见图(见图1.31.3)既是无偏的同时又具有最小方差的估计式,称为既是无偏的同时又具有最小方差的估计式,称为 最佳无偏估计式。最佳无偏估计式。2.最小方差性最小方差性34概率密度图 1.3估计值35 4.4.渐近性质渐近性质(大样本性质)(大样本性质)思想思想:当样本容量较小时,有时很难找到最佳
21、无偏估计,需要考当样本容量较小时,有时很难找到最佳无偏估计,需要考虑样本扩大后的性质虑样本扩大后的性质一致性:一致性:当样本容量当样本容量 n 趋于无穷大时,如果估计式趋于无穷大时,如果估计式 依概率收敛于总体参依概率收敛于总体参数的真实值,就称这个估计式数的真实值,就称这个估计式 是是 的一致估计式。即的一致估计式。即 或或 渐近有效性:渐近有效性:当样本容量当样本容量 n 趋于无穷大时,在所有的一致估趋于无穷大时,在所有的一致估计式中,具有最小的渐近方差。计式中,具有最小的渐近方差。(见图1.4)36概率密度估计值图 1.437(二)(二)OLS估计式的统计性质估计式的统计性质 由由OLS
22、估计式可以看出估计式可以看出 由可观测的样本值由可观测的样本值 和和 唯一表示。唯一表示。因存在抽样波动,因存在抽样波动,OLS估计估计 是随机变量是随机变量 OLS估计式是点估计式估计式是点估计式 381.线性特征线性特征 是是 的线性函数的线性函数 2.无偏特性无偏特性 (证明见教材P37)3.最小方差特性最小方差特性 (证明见教材P68附录21)在所有的线性无偏估计中,在所有的线性无偏估计中,OLS估计估计 具有最小方差具有最小方差结论:在古典假定条件下结论:在古典假定条件下,OLS,OLS估计式是最佳线性无估计式是最佳线性无 偏估计式(偏估计式(BLUEBLUE)OLSOLS估计式的统
23、计性质估计式的统计性质高斯定理高斯定理39第三节第三节 拟合优度的度量拟合优度的度量本节基本内容本节基本内容:什么是拟合优度什么是拟合优度 总变差的分解总变差的分解 可决系数可决系数40 一、一、什么是拟合优度?概念概念:样本回归线是对样本数据样本回归线是对样本数据的一种拟合,不同估计方的一种拟合,不同估计方法可拟合出不同的回归线,法可拟合出不同的回归线,拟合的回归线与样本观测拟合的回归线与样本观测值总有偏离。值总有偏离。样本回归线对样本观测数据拟合的优劣程度样本回归线对样本观测数据拟合的优劣程度 拟合优度拟合优度拟合优度的度量建立在对总变差分解的基础上拟合优度的度量建立在对总变差分解的基础上
24、41二、总变差的分解二、总变差的分解 分析分析Y Y 的观测值、估计值与平均值的关系的观测值、估计值与平均值的关系将上式两边平方加总,可证得将上式两边平方加总,可证得 (TSSTSS)(ESSESS)(RSSRSS)42 总变差总变差 (TSSTSS):应变量):应变量Y Y的观测值与其平均的观测值与其平均值的离差平方和(总平方和)值的离差平方和(总平方和)解释了的变差解释了的变差 (ESSESS):应变量):应变量Y Y的估计值与的估计值与其平均值的离差平方和(回归平方和)其平均值的离差平方和(回归平方和)剩余平方和剩余平方和 (RSSRSS):应变量观测值与估计):应变量观测值与估计值之差
25、的平方和(未解释的平方和)值之差的平方和(未解释的平方和)43 变差分解的图示变差分解的图示44 三、可决系数三、可决系数 以TSS同除总变差等式两边:或 定义:定义:回归平方和(解释了的变差回归平方和(解释了的变差ESS)在总变在总变 差(差(TSS)中所占的比重称为可决系数,用中所占的比重称为可决系数,用 表表示示:或 45作用:作用:可决系数越大,说明在总变差中由模型作出可决系数越大,说明在总变差中由模型作出了解释的部分占的比重越大,模型拟合优度越好。了解释的部分占的比重越大,模型拟合优度越好。反之可决系数小,说明模型对样本观测值的拟合反之可决系数小,说明模型对样本观测值的拟合程度越差。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 简单 线性 回归 模型 教学内容
限制150内