计量经济学-一元线性回归分析.ppt
2.2 2.2 一元线性回归模型及其参数估计一元线性回归模型及其参数估计Simple Linear Regression Model and Simple Linear Regression Model and Its EstimationIts Estimation一、线性回归模型及其普遍性一、线性回归模型及其普遍性二、线性回归模型的基本假设二、线性回归模型的基本假设三、一元线性回归模型的参数估计三、一元线性回归模型的参数估计四、最小二乘估计量的统计性质四、最小二乘估计量的统计性质五、参数估计量的概率分布与随机项方差的估计五、参数估计量的概率分布与随机项方差的估计一、线性回归模型及其普遍性一、线性回归模型及其普遍性1 1、线性回归模型的特征、线性回归模型的特征一个例子一个例子 凯恩斯绝对收入假设消费理论：消费（C）是由收入（Y）唯一决定的，是收入的线性函数：C=+Y (2.2.1)但实际上但实际上上述等式不能准确实现上述等式不能准确实现。原因原因 消费除受收入影响外，还受其他因素的影响；线性关系只是一个近似描述；收入变量观测值的近似性：收入数据本身并不绝对准确地反映收入水平。因此因此，一个更符合实际的数学描述为一个更符合实际的数学描述为：C=+Y+(2.2.2)其中：是一个随机误差项，是其他影响因素的“综合体”。线性回归模型的特征：线性回归模型的特征：通过引入随机误差项，将变量之间的关系用一个通过引入随机误差项，将变量之间的关系用一个线性随机方程来描述，并用随机数学的方法来估计线性随机方程来描述，并用随机数学的方法来估计方程中的参数；方程中的参数；在线性回归模型中，被解释变量的特征由解释变在线性回归模型中，被解释变量的特征由解释变量与随机误差项共同决定。量与随机误差项共同决定。2 2、线性回归模型的普遍性、线性回归模型的普遍性 线性回归模型线性回归模型是计量经济学模型的主要形式，许是计量经济学模型的主要形式，许多实际经济活动中经济变量间的复杂关系都可以通多实际经济活动中经济变量间的复杂关系都可以通过一些简单的数学处理，使之化为数学上的线性关过一些简单的数学处理，使之化为数学上的线性关系。系。将非线性关系化为线性关系的常用的数学处理方法将非线性关系化为线性关系的常用的数学处理方法变量置换变量置换例如，例如，描述税收与税率关系的拉弗曲线拉弗曲线：抛物线 s=a+b r+c r2 c0 s：税收；r：税率设X1=r，X2=r2，则原方程变换为 s=a+b X1+c X2 c0变量置换仅用于变量非线性的情况。变量置换仅用于变量非线性的情况。函数变换函数变换 例如例如，Cobb-Dauglas生产函数：幂函数 Q=AKLQ：产出量，K：投入的资本；L：投入的劳动 方程两边取对数：ln Q=ln A+ln K+ln L(3)(3)级数展开级数展开例如例如，不变替代弹性CES生产函数：方程两边取对数后，得到：对在=0处展开台劳级数，取关于的线性项，即得到一个线性近似式。变量置换得到结论：结论：实际经济活动中的许多问题，都可以最终化为线实际经济活动中的许多问题，都可以最终化为线性问题，所以，线性回归模型有其普遍意义。性问题，所以，线性回归模型有其普遍意义。即使对于无法采取任何变换方法使之变成线性即使对于无法采取任何变换方法使之变成线性的非线性模型，目前使用得较多的参数估计方法的非线性模型，目前使用得较多的参数估计方法非线性最小二乘法，其原理仍然是以线性估非线性最小二乘法，其原理仍然是以线性估计方法为基础。计方法为基础。线性模型理论方法在计量经济学模型理论方法的线性模型理论方法在计量经济学模型理论方法的基础。基础。二、线性回归模型的基本假设二、线性回归模型的基本假设1 1、技术线路、技术线路由于回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。即通过 估计采用普通最小二乘或者普通最大似然方法估计。需要对解释变量和随机项作出假设。2 2、线性回归模型在上述意义上的基本假设、线性回归模型在上述意义上的基本假设 （1）解释变量X是确定性变量，不是随机变量；解释变量之间互不相关。（2）随机误差项具有均值和同方差:E(i)=0 i=1,2,n Var(i)=2 i=1,2,n （3）随机误差项在不同样本点之间是独立的，不存在序列相关：Cov(i,j)=0 ij i,j=1,2,n（5）随机误差项服从均值、同方差的正态分布：iN(0,2)i=1,2,n注意：注意：如果第(1)条假设满足，则第(4)条也满足;模型对变量和函数形式的设定是正确的，即不存在设定误差。（4）随机误差项与解释变量之间不相关：Cov(Xi,i)=0 i=1,2,n 重要提示重要提示几乎没有哪个实际问题能够同时满足所有基本假设；几乎没有哪个实际问题能够同时满足所有基本假设；通过模型理论方法的发展，可以克服违背基本假设通过模型理论方法的发展，可以克服违背基本假设带来的问题；带来的问题；违背基本假设问题的处理构成了单方程线性计量经违背基本假设问题的处理构成了单方程线性计量经济学理论方法的主要内容：济学理论方法的主要内容：异方差问题（违背同方差假设）异方差问题（违背同方差假设）序列相关问题（违背序列不相关假设）序列相关问题（违背序列不相关假设）共线性问题（违背解释变量不相关假设）共线性问题（违背解释变量不相关假设）随机解释变量（违背解释变量确定性假设）随机解释变量（违背解释变量确定性假设）0均植、正态性假设是由模型的数理统计理论决定的。均植、正态性假设是由模型的数理统计理论决定的。三、一元线性回归模型的参数估计三、一元线性回归模型的参数估计1 1、普通最小二乘法（、普通最小二乘法（Ordinary Least Ordinary Least Square,OLSSquare,OLS）给定一组样本观测值Xi,Yi（i=1,2,n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“总体误差”尽可能地小。2 2、最大或然法、最大或然法（Maximum Likelihood,ML）最大或然法最大或然法，也称，也称最大似然法最大似然法，是不同于最小二乘，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。展起来的其它估计方法的基础。基本原理基本原理：对于对于最大或然法最大或然法，当从模型总体随机抽取，当从模型总体随机抽取n组样本组样本观测值后，最合理的参数估计量应该使得从模型中抽观测值后，最合理的参数估计量应该使得从模型中抽取该取该n组样本观测值的联合概率最大。组样本观测值的联合概率最大。将该或然函数极大化，即可求得到模型参数的极大或然估计量。由于或然函数的极大化与或然函数的对数的极大化是等价的，所以，取对数或然函数如下：可可见见，在在满满足足一一系系列列基基本本假假设设的的情情况况下下，模模型型结结构构参参数数的的最最大大或或然然估估计计量量与与普普通通最最小小二二乘乘估估计量计量是相同的。是相同的。但是，随机误差项的方差的估计量随机误差项的方差的估计量是不同的是不同的。3 3、参数估计的离差形式、参数估计的离差形式(deviation form)注注：在计量经济学中，往往以小写字母表示对均值的离差（离差（deviation)。4 4、样本回归线的数值性质、样本回归线的数值性质(numerical properties)样本回归线通过Y和X的样本均值；Y估计值的均值等于观测值的均值；残差的均值为0。四、最小二乘估计量的统计性质四、最小二乘估计量的统计性质高斯高斯-马尔可夫定理马尔可夫定理 当当模模型型参参数数估估计计完完成成，需需考考虑虑参参数数估估计计值值的的精精度度，即即是是否否能能代代表表总总体体参参数数的的真真值值，或或者者说说需需考考察参数估计量的统计性质。察参数估计量的统计性质。一个用于考察总体的统计量，可从三个方面考一个用于考察总体的统计量，可从三个方面考察其优劣性：察其优劣性：（1）线性性）线性性(linear)：即是否是另一随机变量即是否是另一随机变量的线性函数；的线性函数；（2）无偏性）无偏性(unbiased)：即它的均值或期望值即它的均值或期望值是否等于总体的真实值；是否等于总体的真实值；（3）有效性）有效性(efficient)：即它是否在所有线性即它是否在所有线性无偏估计量中具有最小方差。无偏估计量中具有最小方差。高斯高斯马尔可夫定理马尔可夫定理(Gauss-Markov theorem)在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。1、线性性：、线性性：参数估计量是参数估计量是Y的线性函数的线性函数2、无偏性：、无偏性：参数估计量的均值等于总体回参数估计量的均值等于总体回归参数真值归参数真值3、有效性：、有效性：在所有线性无偏估计量中，最在所有线性无偏估计量中，最小二乘估计量具有最小方差。小二乘估计量具有最小方差。（2）证明最小方差性4 4、结论、结论 普普通通最最小小二二乘乘估估计计量量具具有有线线性性性性、无无偏偏性性、最最小小方差性等优良性质。方差性等优良性质。具具有有这这些些优优良良性性质质的的估估计计量量又又称称为为最最佳佳线线性性无无偏偏估估计计量量，即即BLUE估估计计量量（the Best Linear Unbiased Estimators）。）。显然这些优良的性质依赖于对模型的基本假设。显然这些优良的性质依赖于对模型的基本假设。五、参数估计量的概率分布与随五、参数估计量的概率分布与随机项方差的估计机项方差的估计 例例2.3：在收入收入-消费支出例消费支出例中，参数估计及其标准差的计算如下：
