计量经济学-简单线性回归说课材料.ppt
《计量经济学-简单线性回归说课材料.ppt》由会员分享,可在线阅读,更多相关《计量经济学-简单线性回归说课材料.ppt(60页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、制作:渤海大学统计学课程小组制作:渤海大学统计学课程小组意见反馈:意见反馈:J计量经济学-简单线性回归第一节:回归分析与回归方程2 本节基本内容本节基本内容:回归与相关回归与相关 总体回归函总体回归函数数 随机扰动项随机扰动项 样本回归函样本回归函数数 第一节:回归分析与回归方程3 一、回归与相关一、回归与相关1.经济变量间的相互关系 熟知的关系:确定性的函数关系 现实的关系:不确定性的统计关系相关关系 (为随机变量)没有关系 第一节:回归分析与回归方程4函数关系:对于任意X,有唯一的Y与其对应。确定函数的方法:描点、连线 待定系数法 Y=Kx+b (线性关系两点足矣)相关关系:某一个X对应的
2、Y不唯一,不确定。由于大体上具有关系Y=Kx+b 因此该关系用Y=Kx+b+问题:如何确定K和b呢,因为任意两点确定的Y=Kx+b可能都不一样。5相关关系的类型从涉及的变量数量看从涉及的变量数量看简单相关简单相关;多重相关(复相关);多重相关(复相关)从变量相关关系的表现形式看从变量相关关系的表现形式看线性相关线性相关;非线性相关;非线性相关从变量相关关系变化的方向看从变量相关关系变化的方向看正相关正相关;负相关;不相关;负相关;不相关总体线性相关系数:样本相关系数6 一、回归与相关一、回归与相关2.回归分析 Y的的条件分布条件分布当当解解释释变变量量(自自变变量量)X取取某某固固定定值值时时
3、(条条件件),Y的的值值不不确确定定,Y的的不不同同取取值值形形成成一一定定的的分分布布,即即Y的的条条件件分布。分布。Y的的条件期望条件期望对于对于X的每一个取值,对的每一个取值,对Y所形成的分布确定其期望或所形成的分布确定其期望或均值,称为均值,称为Y的条件期望或条的条件期望或条件均值件均值7回归线回归线:此时对于每一个X的取值,将有某一Y的条件期望 与之对应。将 轨迹连接所形成 的直线或曲线,称为回归线。这样,就将相关关系转换为我 们以前的函数关系。8回归线回归线:此时对于每一个X的取值,将有某一Y的条件期望 与之对应。将 轨迹连接所形成 的直线或曲线,称为回归线。这样,就将相关关系转换
4、为我 们以前的函数关系。9回归函数:回归函数:应变量应变量Y的条件期望的条件期望随解释变量随解释变量X的变化而有规律的变化,如果把的变化而有规律的变化,如果把Y的条件期望的条件期望表现为表现为X的某种函数的某种函数这个函数称为回归函数。这个函数称为回归函数。回归函数分为:回归函数分为:总体回归函数和样本回归函数总体回归函数和样本回归函数举例:假如已知举例:假如已知100个家庭构成的总体。个家庭构成的总体。10每每 月月 家家 庭庭 可可 支支 配配 收收 入入 X X1000150020002500300035004000450050005500820962110813291632184220
5、37227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每每960121013101432183510682319248828563201月月125913401520188520662321258729003288家家132414001615194321852365265030213399庭庭1448165020372210239827893064消消1489171220782289248728533142费费1538177821792313251329343274支
6、支160018412298239825383110出出17021886231624232567Y1900238724532610201224982487271025892586900115014001650190021502400265029003150例:100个家庭构成的总体 (单位:元)相关关系的一对多,转变为函数关系的一对一。相关关系的一对多,转变为函数关系的一对一。二、总体回归函数二、总体回归函数 1.1.总体回归函数的概念总体回归函数的概念 前前提提:假假如如已已知知所所研研究究的的经经济济现现象象的的总总体体应应变变量量Y和和解解释释变变量量X的的每每个个观观测测值值,可可以以计
7、计算算出出总总体体应应变变量量Y的的条条件件均均值值,并并将将其其表表现现为为解解释释变变量量 X的某种函数的某种函数这个函数称为总体回归函数(这个函数称为总体回归函数(PRF)2.2.总体回归函数的表现形式总体回归函数的表现形式(1)条件均条件均值值表表现现形式形式假如假如Y的条件均值的条件均值是解释变量是解释变量X的线性函数的线性函数,可表示为:,可表示为:(2)个个别值别值表表现现形式形式对于一定的对于一定的X,Y的各个别值的各个别值Yi分布在分布在的周围,若令各个的周围,若令各个Yi与条件均值与条件均值的偏差为的偏差为ui,显然显然ui是随机变量是随机变量,则有则有进进而而13 三、随
8、机扰动项三、随机扰动项概念概念:各个各个Yi值与条件均值值与条件均值的偏差的偏差ui代表排除在模型以代表排除在模型以外的所有因素外的所有因素(简单回归,就是指(简单回归,就是指X以外的所有因素)对以外的所有因素)对Y的影响。的影响。性质:性质:ui是期望为是期望为0有一定分布的随机变量有一定分布的随机变量。重要性:重要性:随机扰动项的性质决定着计量经济方法的选择随机扰动项的性质决定着计量经济方法的选择。引入随机扰动项的原因引入随机扰动项的原因:(1)未未知知影影响响因因素素的的代代表表;(2)无无法法取取得得数数据据的的已已知知影影响响因因素素的的代代表表;(3)众众多多细细小小影影响响因因素
9、素的的综综合合代代表表;(4)模模型型的的设设定定误误差差;(4)变变量量的的观观测测误误差差;(5)变变量量内在随机性内在随机性.14 四、样本回归函数四、样本回归函数1 1样本回归线:样本回归线:对于对于X X的一定值,取得的一定值,取得Y Y的样本观测值,可计算其条的样本观测值,可计算其条件均值,样本观测值条件均值的轨迹称为样本回归线。件均值,样本观测值条件均值的轨迹称为样本回归线。2 2样本回归函数样本回归函数:如果把应变量如果把应变量Y的样本条件均值表示为解释变量的样本条件均值表示为解释变量X的某种函数,这个函数称为样本回归函数(的某种函数,这个函数称为样本回归函数(SRF)。)。注
10、意:注意:由于每次抽样都能获得一个样本,就可以拟合一条样本回由于每次抽样都能获得一个样本,就可以拟合一条样本回归线,所以样本回归线随抽样波动而变化,可以有许多条归线,所以样本回归线随抽样波动而变化,可以有许多条(SRF不唯一)不唯一)n 15SRF2SRF1总体回归样本回归1样本回归2样本回归均值表现:样本回归函数如果为线性函数,可表示为 其中:是与 相对应的 的样本条件均值 和 分别是样本回归函数的参数个值表现:应变量 的实际观测值 不完全等于样本条件均值 ,二者之差用 表示,称为剩余项或残差项:因此可表示为:163 3样本回归函数的表现形式样本回归函数的表现形式174 4对样本回归的理解对
11、样本回归的理解如果能够获得如果能够获得和和的数值,显然的数值,显然:和和是对总体回归函数参数是对总体回归函数参数和和的估计的估计是对总体条件期望是对总体条件期望的估计的估计在概念上类似总体回归函数中的在概念上类似总体回归函数中的,可,可视为对视为对的估计。的估计。18 样本回归函数与总体回归函数的关系 SRF PRF A 用样本回归函数用样本回归函数SRFSRF去估计总体回归函数去估计总体回归函数PRFPRF。由由于于样样本本对对总总体体总总是是存存在在代代表表性性误误差差,SRF SRF 总总会会过过高高或或过过低估计低估计PRFPRF。要解决的问题:要解决的问题:寻求一种规则和方法,使得到
12、的寻求一种规则和方法,使得到的SRFSRF的参数的参数 和和 尽可能尽可能“接近接近”总体回归函数中的参数总体回归函数中的参数 和和 。这样的这样的“规则和方法规则和方法”有多种,最常用的是最小二乘法有多种,最常用的是最小二乘法195 5回归分析的目的回归分析的目的20第二节:简单线性回归模型的估计 本节基本内容本节基本内容:简单线性回归的基本假定简单线性回归的基本假定 普通最小二乘法普通最小二乘法 参数估计式的统计性质参数估计式的统计性质21 一、简单线性回归基本假定一、简单线性回归基本假定(1 1)对模型和变量的假定对模型和变量的假定如如;假假定定解解释释变变量量X是是非非随随机的,或者虽
13、然是随机的,但与扰动项机的,或者虽然是随机的,但与扰动项ui是不相关的是不相关的;假定解释变量假定解释变量 在重复抽样中为固定值在重复抽样中为固定值;假定变量和模型无设定误差假定变量和模型无设定误差。(2)对随机扰动项)对随机扰动项ui的假定的假定(高斯假定)(高斯假定)假定假定1 1:零均值假定:零均值假定 在给定在给定X的条件下的条件下,ui的条件期望为零的条件期望为零。22假定假定2 2:同方差假定:同方差假定在给定在给定X的条件下的条件下,ui的条件方差为某个常数的条件方差为某个常数假定假定3 3:无自相关假定:无自相关假定 随机扰动项随机扰动项ui的逐次值互不相关的逐次值互不相关假定
14、假定4 4:随机扰动:随机扰动ui与解释变量与解释变量X 不相关不相关假定假定5 5:对随机扰动项分布的正态性假定:对随机扰动项分布的正态性假定23二、普通最小二乘回归二、普通最小二乘回归OLS的基本思想不同的估计方法可得到不同的样本回归参数 和 ,所估计的 也不同。理想的估计方法应使 与 的差即剩余 越小越好因 可正可负,所以可以取 最小,即现实中,由于样本量很小,对于每一个具体的X,对应的Yi往往只有一个值,无法取样本均值,即便有的X对应多个Yi,由于样本量的关系,这些不同X对应的也并非刚好在一条线上。因此我们只能找一条近似的直线,使得最小。24用克莱姆法则求解得观测值形式的OLS估计式:
15、其中 取偏导数为0,得正规方程 2.无偏特性:3.最小方差特性:在所有的线性无偏估计中,OLS估计 具有最小方差 结论:在古典假定条件下,OLS估计式是最佳线性无 偏估计式(BLUE)251.线性特征:是 的线性函数三、三、OLSOLS估计式的统计性质:高斯定理估计式的统计性质:高斯定理26三、三、OLSOLS估计式的统计性质:高斯定理估计式的统计性质:高斯定理估计值偏倚概率密度 概 率 密 度 估计值无偏性有效性27第三节 拟合优度的度量本节基本内容本节基本内容:什么是拟合优度什么是拟合优度 总变差的分解总变差的分解 可决系数可决系数概念:样本回归线是对样本数据的一种拟合,不同估计方法可拟合
16、出不同的回归线,拟合的回归线与样本观测值总有偏离。样本回归线对样本观测数据拟合的优劣程度 拟合优度拟合优度的度量建立在对总变差分解的基础上28 一、什么是拟合优度一、什么是拟合优度?29二、总变差的分解二、总变差的分解分析分析Y Y 的观测值、估计值与平均值的关系的观测值、估计值与平均值的关系将上式两边平方加总,可证得将上式两边平方加总,可证得 (TSSTSS)(ESSESS)(RSSRSS)总变差总变差(TSSTSS):应变量):应变量Y Y的观测值与其平均值的离差平方和(总平方和)的观测值与其平均值的离差平方和(总平方和)解释了的变差解释了的变差(ESSESS):应变量):应变量Y Y的估
17、计值与其平均值的离差平方和(回归的估计值与其平均值的离差平方和(回归平方和)平方和)剩余平方和剩余平方和RSSRSS):应变量观测值与估计值之差的平方和(未解释的平方):应变量观测值与估计值之差的平方和(未解释的平方和)和)30变差分解的图示变差分解的图示31 三、可决系数三、可决系数以以TSS同除总变差等式两边:同除总变差等式两边:或或定义:定义:回归平方和(解释了的变差回归平方和(解释了的变差ESS)在总变在总变差(差(TSS)中所占的比重称为可决系数,用中所占的比重称为可决系数,用表表示示:或或作用:作用:可决系数越大,说明在总变差中由模型作出可决系数越大,说明在总变差中由模型作出了解释
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 简单 线性 回归 材料
限制150内