计量经济学简单线性回归模型.pptx
《计量经济学简单线性回归模型.pptx》由会员分享,可在线阅读,更多相关《计量经济学简单线性回归模型.pptx(108页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第二章第二章 简单线性回归模型简单线性回归模型 本章主要讨论本章主要讨论:回归分析与回归函数回归分析与回归函数 简单线性回归模型参数的估计简单线性回归模型参数的估计 拟合优度的度量拟合优度的度量 回归系数的区间估计和假设检验回归系数的区间估计和假设检验 回归模型预测回归模型预测1第1页/共108页第一节第一节 回归分析与回归方程回归分析与回归方程 本节基本内容本节基本内容:回归与相关回归与相关 总体回归函数总体回归函数 随机扰动项随机扰动项 样本回归函数样本回归函数 2第2页/共108页31.经济变量间的相互关系确定性的函数关系不确定性的统计关系相关关系(为随机变量)没有关系一、回归与相关(对
2、统计学的回顾)第3页/共108页42.相关关系相关关系的描述相关关系最直观的描述方式坐标图(散布图)第4页/共108页5相关关系的类型从涉及的变量数量看简单相关多重相关(复相关)从变量相关关系的表现形式看线性相关散布图接近一条直线非线性相关散布图接近一条曲线从变量相关关系变化的方向看正相关变量同方向变化,同增同减负相关变量反方向变化,一增一减不相关第5页/共108页63.相关程度的度量相关系数 总体线性相关系数:其中:X的方差;Y的方差 X和Y的协方差样本线性相关系数:其中:和分别是变量 和的样本观测值和分别是变量和样本值的平均值第6页/共108页 使用相关系数时应注意使用相关系数时应注意 和
3、 都是相互对称的随机变量 线性相关系数只反映变量间的线性相关程度,不 能说明非 线性相关关系 样本相关系数是总体相关系数的样本估计值,由 于抽样波动,样本相关系数是个随机变量,其统 计显著性有待检验 相关系数只能反映线性相关程度,不能确定因果 关系,不能说明相关关系具体接近哪条直线 计量经济学关心:计量经济学关心:变量间的因果关系及隐藏在变量间的因果关系及隐藏在随机性后面的统计规律性,这有赖于回归分析方随机性后面的统计规律性,这有赖于回归分析方法法7第7页/共108页84.回归分析回归的古典意义:高尔顿遗传学的回归概念(父母身高与子女身高的关系)回归的现代意义:一个应变量对若干解释变量依存关系
4、的研究回归的目的(实质):由固定的解释变量去估计应变量的平均值第8页/共108页 注意几个概念注意几个概念 的条件分布 当解释变量 取某固定值时(条件),的值不确定,的不同取值形成一定的分布,即 的条件分布。的条件期望 对于 的每一个取值,对 所形成的分布确 定其期望或均值,称 为 的条件期望或条 件均值9第9页/共108页10回归线:对于每一个 的取值,都有 的条件期望与之对应,代表这些 的条件期望的点的轨迹所形成的直线或曲线,称为回归线。回归线与回归函数第10页/共108页 回归线与回归函数回归线与回归函数 回归函数:应变量 的条件期望 随解释变量 的的变化而有规律的变化,如果把 的条件期
5、望 表现为 的某种函数 这个函数称为回归函数。回归函数分为:总体回归函数和样本回归函数11举例:假如已知100个家庭构成的总体。第11页/共108页12每每 月月 家家 庭庭 可可 支支 配配 收收 入入 X X100015002000250030003500400045005000550082096211081329163218422037227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每每960121013101432183510682319248828563
6、201月月125913401520188520662321258729003288家家132414001615194321852365265030213399庭庭1448165020372210239827893064消消1489171220782289248728533142费费1538177821792313251329343274支支160018412298239825383110出出17021886231624232567Y1900238724532610201224982487271025892586900115014001650190021502400265029003150例:1
7、00个家庭构成的总体(单位:元)第12页/共108页13 1.总体回归函数的概念 前提:假如已知所研究的经济现象的总体应变量 和解释变量 的每个观测值,可以计算出总体应变量 的条件均值,并将其表现为解释变量 的某种函数这个函数称为总体回归函数(PRF)二、总体回归函数(PRF)第13页/共108页14 (1)条件均值表现形式 假如 的条件均值 是解 释变量 的线性函数,可表示为:(2)个别值表现形式 对于一定的 ,的各个别值 分布 在 的周围,若令各个 与条件 均值 的偏差为 ,显然 是随机变量,则有 或 2.总体回归函数的表现形式第14页/共108页 3.3.如何理解总体回归函数实实际际的的
8、经经济济研研究究中中总总体体回回归归函函数数通通常常是是未未知知的的,只只能能根根据据经经济济理理论论和和实实践践经经验验去去设设定定。“计计量量”的目的就是寻求的目的就是寻求PRFPRF。总总体体回回归归函函数数中中 与与 的的关关系系可可是是线线性性的的,也也可是可是非线性非线性的。的。对线性回归模型的对线性回归模型的“线性线性”有两种解释有两种解释 就变量而言就变量而言是线性的是线性的 的条件均值是的条件均值是 的线性函数的线性函数 就参数而言就参数而言是线性的是线性的 的条件均值是参数的条件均值是参数 的线性函数的线性函数15第15页/共108页16变量、参数均为变量、参数均为“线性线
9、性”参数参数“线性线性”,变量,变量”非线非线性性”变量变量“线性线性”,参数,参数”非线非线性性”计量经济学中:线性回归模型主要指就参数而言是“线性”,因为只要对参数而言是线性的,都可以用类似的方法估计其参数。“线性”的判断第16页/共108页三、随机扰动项三、随机扰动项概念:各个 值与条件均值 的偏差 代表 排除在模型以外的所有 因素对 的影响。性质:是期望为0有一定分布的随机变量 重要性:随机扰动项的性质决定着计量经济方法的选择17第17页/共108页 未知影响因素的代表无法取得数据的已知影响因素的代表众多细小影响因素的综合代表模型的设定误差变量的观测误差变量内在随机性18引入随机扰动项
10、的原因第18页/共108页19四、样本回归函数(SRF)样本回归线:对于 的一定值,取得 的样本观测值,可计算其条件均值,样本观测值条件均值的轨迹称为样本回归线。样本回归函数:如果把应变量的样本条件均值表示为解释变量的某种函数,这个函数称为样本回归函数(SRF)。第19页/共108页SRF 的特点每次抽样都能获得一个样本,就可以拟合一条样本回 归线,所以样本回归线随抽样波动而变化,可以有许多条(SRF不唯一)。20SRF2SRF1第20页/共108页样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。样本回归线还不是总体回归线,至多只是未知总体回归线的近似表现。21第21页/共108页
11、22样本回归函数如果为线性函数,可表示为其中:是与相对应的的样本条件均值和分别是样本回归函数的参数应变量的实际观测值不完全等于样本条件均值,二者之差用表示,称为剩余项或残差项:或者样本回归函数的表现形式第22页/共108页 对样本回归的理解对样本回归的理解 如果能够获得 和 的数值,显然:和 是对总体回归函数参数 和 的估计 是对总体条件期望 的估计 在概念上类似总体回归函数中的 ,可 视为对 的估计。23第23页/共108页24样本回归函数与总体回归函数的关系SRFPRFA第24页/共108页25回归分析的目的用样本回归函数SRF去估计总体回归函数PRF。由于样本对总体总是存在代表性误差,S
12、RF总会过高或过低估计PRF。要解决的问题:寻求一种规则和方法,使得到的SRF的参数和尽可能“接近”总体回归函数中的参数和。这样的“规则和方法”有多种,最常用的是最小二乘法第25页/共108页 第二节第二节 简单线性回归模型的最小二乘估简单线性回归模型的最小二乘估计计 本节基本内容本节基本内容:简单线性回归的基本假定 普通最小二乘法 OLSOLS回归线的性质 参数估计式的统计性质26第26页/共108页 一一、简单线性回归的基本假定简单线性回归的基本假定 1.为什么要作基本假定?模型中有随机扰动,估计的参数是随机变量,只有对随机扰动的分布作出假定,才能确定 所估计参数的分布性质,也才可能进行假
13、设 检验和区间估计 只有具备一定的假定条件,所作出的估计才 具有较好的统计性质。27第27页/共108页 (1 1)对模型和变量的假定如假定解释变量 是非随机的,或者虽然是随机的,但与扰动项 是不相关的假定解释变量 在重复抽样中为固定值假定变量和模型无设定误差282、基本假定的内容第28页/共108页又称高斯假定、古典假定假定假定1 1:零均值假定 在给定 的条件下,的条件期望为零假定假定2 2:同方差假定 在给定 的条件下,的条件方差为某个常数29(2)对随机扰动项 的假定第29页/共108页30 假定3:无自相关假定随机扰动项的逐次值互不相关假定4:随机扰动与解释变量不相关第30页/共10
14、8页31假定5:对随机扰动项分布的正态性假定即假定服从均值为零、方差为的正态分布(说明:正态性假定不影响对参数的点估计,但对确定所估计参数的分布性质是需要的。且根据中心极限定理,当样本容量趋于无穷大时,的分布会趋近于正态分布。所以正态性假定是合理的)第31页/共108页的分布性质 由于 的分布性质决定了 的分布性质。对 的一些假定可以等价地表示为对 的假定:假定1:零均值假定 假定2:同方差假定 假定3:无自相关假定 假定5:正态性假定32第32页/共108页33OLS的基本思想 不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数和和,所估计的,所估计的也不同。也不同
15、。理想的估计方法应使理想的估计方法应使与与的差即剩余的差即剩余越小越好越小越好 因因可正可负,所以可以取可正可负,所以可以取最小最小即即二、普通最小二乘法(rdinaryLeastSquares)第33页/共108页34正规方程和估计式用克莱姆法则求解得观测值形式的OLS估计式:取偏导数为0,得正规方程第34页/共108页35为表达得更简洁,或者用离差形式OLS估计式:注意其中:而且样本回归函数可写为用离差表现的OLS估计式第35页/共108页三、三、OLSOLS回归线的性质回归线的性质可以证明:回归线通过样本均值估计值 的均值等于实 际观测值 的均值 36第36页/共108页37剩余项的均值
16、为零应变量估计值 与剩余项 不相关 解释变量 与剩余项 不相关第37页/共108页 四、四、参数估计式的统计性质参数估计式的统计性质(一)参数估计式的评价标准 1.无偏性前提:重复抽样中估计方法固定、样本数不变、经 重复抽样的观测值,可得一系列参数估计值参数估计值 的分布称为 的抽样分布,密度函数记为 如果 ,称 是参数 的无偏估计式,否则称 是有偏的,其偏倚为 (见图1.2)38第38页/共108页39图1.2估计值偏倚概率密度第39页/共108页40前提:样本相同、用不同的方法估计参数,可以找到若干个不同的估计式目标:努力寻求其抽样分布具有最小方差的估计式最小方差准则,或称最佳性准则(见图
17、1.3)既是无偏的同时又具有最小方差的估计式,称为 最佳无偏估计式。2.最小方差性第40页/共108页41概率密度图1.3估计值第41页/共108页424.渐近性质(大样本性质)思想:当样本容量较小时,有时很难找到最佳无偏估计,需要考虑样本扩大后的性质一致性:当样本容量n趋于无穷大时,如果估计式依概率收敛于总体参数的真实值,就称这个估计式是 的一致估计式。即或渐近有效性:当样本容量n趋于无穷大时,在所有的一致估计式中,具有最小的渐近方差。(见图1.4)第42页/共108页43概率密度估计值图1.4第43页/共108页(二)OLS估计式的统计性质 由OLS估计式可以看出 由可观测的样本值 和 唯
18、一表示。因存在抽样波动,OLS估计 是随机变量 OLS估计式是点估计式 44第44页/共108页451.线性特征是的线性函数2.无偏特性(证明见教材P37)3.最小方差特性(证明见教材P68附录21)在所有的线性无偏估计中,OLS估计具有最小方差结论:在古典假定条件下,OLS估计式是最佳线性无 偏估计式(BLUE)OLS估计式的统计性质高斯定理第45页/共108页第三节第三节 拟合优度的度量拟合优度的度量本节基本内容:什么是拟合优度什么是拟合优度 总变差的分解总变差的分解 可决系数可决系数46第46页/共108页47一、什么是拟合优度?概念:样本回归线是对样本数据的一种拟合,不同估计方法可拟合
19、出不同的回归线,拟合的回归线与样本观测值总有偏离。样本回归线对样本观测数据拟合的优劣程度拟合优度拟合优度的度量建立在对总变差分解的基础上第47页/共108页二、总变差的分解二、总变差的分解 分析Y Y 的观测值、估计值与平均值的关系将上式两边平方加总,可证得 (TSSTSS)(ESSESS)(RSSRSS)48第48页/共108页 总变差 (TSSTSS):应变量Y Y的观测值与其平均值的离差平方和(总平方和)解释了的变差 (ESSESS):应变量Y Y的估计值与其平均值的离差平方和(回归平方和)剩余平方和 (RSSRSS):应变量观测值与估计值之差的平方和(未解释的平方和)49第49页/共1
20、08页 50变差分解的图示第50页/共108页 三、可决系数三、可决系数 以TSS同除总变差等式两边:或 定义:回归平方和(解释了的变差ESS)在总变 差(TSS)中所占的比重称为可决系数,用 表示:或 51第51页/共108页作用:可决系数越大,说明在总变差中由模型作出了解释的部分占的比重越大,模型拟合优度越好。反之可决系数小,说明模型对样本观测值的拟合程度越差。特点:可决系数取值范围:随抽样波动,样本可决系数 是随抽样 而变动的随机变量 可决系数是非负的统计52可决系数的作用和特点第52页/共108页可决系数与相关系数的关系(1)联系 数值上,可决系数等于应变量与解释变量之间简单相关系数的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 简单 线性 回归 模型
限制150内