一元线性回归模型.pptx
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《一元线性回归模型.pptx》由会员分享,可在线阅读,更多相关《一元线性回归模型.pptx(117页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、2.1 2.1 回归分析概述回归分析概述一、回归分析的基本概念一、回归分析的基本概念二、总体回归函数(二、总体回归函数(PRFPRF)三、随机扰动项三、随机扰动项四、样本回归函数(四、样本回归函数(SRFSRF)第1页/共117页一、回归分析的基本概念一、回归分析的基本概念1.变量间的相互关系(1)确定性的函数关系确定性的函数关系:研究的是确定现象、非随机变量间的关系。(2)不确定的统计相关关系:研究的是非确定现象、随机变量间的关系。第2页/共117页 二者在一定条件下可以相互转换函数关系 考虑对变量的测量误差 相关关系相关关系 考虑全部影响因素 函数关系第3页/共117页相关关系的种类l从涉
2、及的变量(或因素)数量变量(或因素)数量看(1)单单相相关关又称一元相关,指两个变量之间的相关关系。例:广告费支出和产品销售量之间的相关关系 (2)复复相相关关又称多元相关,是指三个或三个以上变量之间的相关关系。例:商品销售额与居民收入、商品价格之间的相关关系第4页/共117页l从变量相关关系的表现形式表现形式看 线性线性相关散点图接近一条直线(左图)非线性非线性相关散点图接近一条曲线(右图)第5页/共117页l从变量相关关系变化的方向方向看正相关正相关变量同方向变化例:生产率提高,产品产量增加负相关负相关变量反方向变化例:价格上升,产品需求量下降 第6页/共117页总体相关系数总体相关系数对
3、于所研究的总体,表示两个相互联系变量相关程度的总体相关系数为:总体相关系数反映总体两个变量总体相关系数反映总体两个变量X X和和Y Y的线性相关的线性相关程度。程度。第7页/共117页样本相关系数 通过x和y 的样本观测值去估计样本相关系数 变量x和y的样本相关系数通常用 rXY 表示 第8页/共117页对变量间统计相关关系的考察主要是通过相关分析(correlation analysis)或回归分析(regression analysis)来完成的第9页/共117页2.回归分析的基本概念回归分析(regression analysis)(regression analysis)是研究一个变量
4、关于另一个(些)变量的具体依赖关系的计算方法和理论。其目的在于通过后者的已知或设定值,去估计和(或)预测前者的(总体)均值。被解释变量(Explained Variable)或应变量(Dependent Variable)。解释变量(Explanatory Variable)或自变量(Independent Variable)。第10页/共117页3.相关分析与回归的联系与区别两者都是研究非确定性变量间的统计相关关系,并能度量线性依赖程度的大小。两者间存在明显的区别。相关分析仅仅是从统计上测度变量间的相关程度,无需考查两者间是否存在因果关系。l相关分析对称地对待任何(两个)变量,两个变量都被看
5、作是随机的。l回归分析对变量的处理方法存在不对称性,即区分因变量(被解释变量)和自变量(解释变量):前者是随机变量,后者是非随机变量。相关分析只关注变量间的相关程度,不关注具体的依赖关系,而回归分析要关注具体的依赖关系。第11页/共117页回归分析构成计量经济学的方法论基础,其主要内容包括:(1)根据样本观察值对经济计量模型参数进行估计,求得回归方程;(2)对回归方程、参数估计值进行显著性检验;(3)利用回归方程进行分析、评价及预测。第12页/共117页二、总体回归函数二、总体回归函数回归分析回归分析关心的是根据解释变量的已知或给定值,考察被解释变量的总体均值,即当解释变量取某个确定值时,与之
6、统计相关的被解释变量所有可能出现的对应值的平均值。第13页/共117页例2.1:一个社区有99户家庭,要研究该社区每月家庭消费支出Y与每月家庭可支配收入X的关系。即如果知道了家庭的月可支配收入,能否预测该社区家庭的平均月消费支出水平。为达到此目的,将该99户家庭划分为组内收入差不多的10组,以分析每一收入组的家庭消费支出。第14页/共117页第15页/共117页由于不确定因素的影响,对同一收入水平X,不同家庭的消费支出不完全相同;但由于调查的完备性,给定收入水平X的消费支出Y的分布是确定的,即以X的给定值为条件的Y的条件分布条件分布(Conditional distribution)是已知的,
7、例如:P(Y=561|X=800)=1/4。第16页/共117页因此,给定收入X的值Xi,可得消费支出Y的条件均值(conditional mean)或条件期望(conditional expectation):E(Y|X=Xi)。该例中:E(Y|X=800)=605描出散点图发现:随着收入的增加,消费“平均地说平均地说”也在增加,且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线总体回归线。第17页/共117页05001000150020002500300035005001000150020002500300035004000每月可支配收入X(元)每月消费支出Y(元)第18页/共
8、117页在给定解释变量Xi条件下被解释变量Yi的期望的轨迹称为总体回归线(population regression line),或更一般地称为总体回归曲线(population regression curve)。称为(双变量)总体回归函数总体回归函数(populationregressionfunction,PRF)。相应的函数:第19页/共117页含义:含义:回归函数(PRF)说明被解释变量Y的平均状态(总体条件期望)随解释变量X变化的规律。函数形式:函数形式:可以是线性或非线性的。例2.1中,将居民消费支出看成是其可支配收入的线性函数时:为一元线性函数。其中,0,1是未知参数,称为回归
9、系数回归系数(regressioncoefficients)。第20页/共117页三、随机扰动项三、随机扰动项总体回归函数说明在给定的收入水平Xi下,该社区家庭平均的消费支出水平。但对某一个别的家庭,其消费支出可能与该平均水平有偏差。个别值聚集在E(Y|X)的周围。称为观察值围绕它的期望值的离差(deviation),是一个不可观测的随机变量,又称为随机干扰项(stochastic disturbance)或随机误差项(stochastic error)。第21页/共117页例2.1中,给定收入水平Xi,个别家庭的支出可表示为两部分之和:(1)该收入水平下所有家庭的平均消费支出E(Y|Xi),
10、称为系统性(systematic)或确定性(deterministic)部分;(2)其他随机或非确定性(nonsystematic)部分 i。第22页/共117页称为总体回归函数(PRF)的随机设定形式。表明被解释变量除了受解释变量的系统性影响外,还受其他因素的随机性影响。由于方程中引入了随机项,成为计量经济学模型,因此也称为总体回归模型。第23页/共117页随机误差项主要包括下列因素:(1 1)代表未知的影响因素;(2 2)代表残缺数据;(3 3)代表众多细小影响因素;(4 4)代表数据观测误差;(5 5)代表模型设定误差;(6 6)变量的内在随机性。包含(3 3)和(6 6)时,称为“原生
11、”的随机干扰项;包含(1 1)、(2 2)、(4 4)、(5 5),称为“衍生”的随机干扰项第24页/共117页四、样本回归函数(四、样本回归函数(SRF)问题:能从一次抽样中获得总体的近似的信息吗?如果可以,如何从抽样中获得总体的近似信息?例2.2:在例2.1的总体中有如下一个样本,能否从该样本估计总体回归函数PRF?表2.1.3 家庭消费支出与可支配收入的一个随机样本 X800 1100 1400 1700 2000 2300 2600 2900 3200 3500 Y594 638 1122 1155 1408 1595 1969 2078 2585 2530 回答:能第25页/共117
12、页 该样本的散点图(scatter diagram):画一条直线以尽好地拟合该散点图,由于样本取自总体,可以该直线近似地代表总体回归线。该直线称为样本回归线样本回归线(sample regression lines)。第26页/共117页 记样本回归线的函数形式为:称为样本回归函数(sample regression function,SRF)。第27页/共117页 注意:这里将样本回归线看成总体回归线的近似替代则第28页/共117页样本回归函数的随机形式/样本回归模型:同样地,样本回归函数也有如下的随机形式:由于方程中引入了随机项,成为计量经济模型,因此也称为样本回归模型样本回归模型(sam
13、ple regression model)。第29页/共117页 回回归归分分析析的的主主要要目目的的:根据样本回归函数SRF,估计总体回归函数PRF。即,根据估计第30页/共117页注意:这里PRF可能永远无法知道。第31页/共117页2.2 2.2 一元线性回归模型的参数估计一元线性回归模型的参数估计 一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计(OLS)三、参数估计的最大或然法(ML)四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计 第32页/共117页说说 明明单方程计量经济学模型分为两大类:线性模型和非线性模型线性模型中,变量之间的关系呈线性关
14、系非线性模型中,变量之间的关系呈非线性关系一元线性回归模型:只有一个解释变量i=1,2,nY为被解释变量,X为解释变量,0与1为待估参数,为随机干扰项第33页/共117页回归分析的主要目的是要通过样本回归函数(模型)SRF尽可能准确地估计总体回归函数(模型)PRF。估计方法有多种,其中最广泛使用的是普通最小二乘法(ordinary least squares,OLS)。为保证参数估计量具有良好的性质,通常对模型提出若干基本假设。实际这些假设与所采用的估计方法紧密相关。第34页/共117页 一、线性回归模型的基本假设一、线性回归模型的基本假设假设1.回归模型是正确设定的;模型没有设定偏误(spe
15、cificationerror)假设2.解释变量X是确定性变量,不是随机变量;假设3.解释变量X在所抽取的样本中具有变异性,随着样本容量的无限增加,解释变量X的样本方差趋于一个非零的有限常数。即避免伪回归问题(spuriousregressionproblem)第35页/共117页假设4.随机误差项具有零均值、同方差和不序列相关性:E(i)=0i=1,2,nVar(i)=2i=1,2,nCov(i,j)=0iji,j=1,2,n第36页/共117页假设5.随机误差项与解释变量X之间不相关:Cov(Xi,i)=0 i=1,2,n 假设6.服从零均值、同方差、零协方差的正态分布 iN(0,2)i=
16、1,2,n第37页/共117页 以上假设也称为线性回归模型的经典假设满足该假设的线性回归模型,也称为经典线性回归模型(ClassicalLinearRegressionModel,CLRM)。后四个假设也专门称为或高斯马尔可夫(Gauss)假设。第38页/共117页二、参数估计的普通最小二乘估计二、参数估计的普通最小二乘估计(OLSOLS)给定一组样本观测值(Xi,Yi)(i=1,2,n)要求样本回归函数尽可能好地拟合这组值.普通最小二乘法(Ordinary least squares,OLS)给出的判断标准是:二者之差的平方和最小。第39页/共117页方程组(*)称为正规方程组正规方程组(n
17、ormal equations)。第40页/共117页记上述参数估计量可以写成:称为OLS估计量的离差形式离差形式(deviation form)。)。由于参数的估计结果是通过最小二乘法得到 的,故称为普通普通最小二乘估计量最小二乘估计量(ordinary least squares estimators)。第41页/共117页顺便指出,记 则有可得(*)式也称为样本回归函数的离差形式。(*)注意:在计量经济学中,往往以小写字母表示对均值的离差。第42页/共117页 三、参数估计的最大或然法三、参数估计的最大或然法(ML)最大或然法最大或然法(Maximum Likelihood,简称ML),
18、也称最大似然法最大似然法,是不同于最小二乘法的另一种参数估计方法,是从最大或然原理出发发展起来的其他估计方法的基础。基本原理基本原理:对于最大或然法最大或然法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。第43页/共117页 在满足基本假设条件下,对一元线性回归模型:随机抽取n组样本观测值(Xi,Yi)(i=1,2,n)。那么Yi服从如下的正态分布:于是,Y的概率函数为(i=1,2,n)假如模型的参数估计量已经求得,为第44页/共117页因为Yi是相互独立的,所以Y的所有样本观测值的联合概率,也即或然函数或然函数(likelihood
19、 function)(likelihood function)为:将该或然函数极大化,即可求得到模型参数的极大或然估计量。第45页/共117页由于或然函数的极大化与或然函数的对数的极大化是等价的,所以,取对数或然函数如下:第46页/共117页解得模型的参数估计量为:可见,在满足一系列基本假设的情况下,模型结构参数的最最大大或或然然估估计计量量与普普通通最最小小二二乘乘估估计计量量是相同的。第47页/共117页 例2.2.1:在上述家庭可支配收入-消费支出例中,对于所抽出的一组样本数,参数估计的计算可通过下面的表2.2.1进行。第48页/共117页因此,由该样本估计的回归方程为:第49页/共11
20、7页 四、最小二乘估计量的性质 当模型参数估计出后,需考虑参数估计值的精度,即是否能代表总体参数的真值,或者说需考察参数估计量的统计性质。一个用于考察总体的估计量,可从如下几个方面考察其优劣性:(1)线性性,即它是否是另一随机变量的线性函数;第50页/共117页(2)无偏性,即它的均值或期望值是否等于总体的真实值;(3)有效性,即它是否在所有线性无偏估计量中具有最小方差。这三个准则也称作估计量的小样本性质。拥有这类性质的估计量称为最佳线性无偏估计量(best liner unbiased estimator,BLUE)。第51页/共117页(4)渐近无偏性,即样本容量趋于无穷大时,是否它的均值
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 一元 线性 回归 模型
![提示](https://www.taowenge.com/images/bang_tan.gif)
限制150内