一元线性回归模型的参数检验精.ppt

《一元线性回归模型的参数检验精.ppt》由会员分享，可在线阅读，更多相关《一元线性回归模型的参数检验精.ppt（17页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、一元线性回归模型的参数检验第1页，本讲稿共17页模型模型性质性质总体回归模型总体回归模型样本回归模型样本回归模型回归对象回归对象总体回归函数回归对象是总体回归函数回归对象是 总体数据总体数据样本回归函数回归对象是样本回归函数回归对象是样本数据样本数据参数估计的内涵参数估计的内涵总体回归函数的内涵是总体中总体回归函数的内涵是总体中解释与被解释变量之间的结构解释与被解释变量之间的结构关系关系样本回归函数的内涵是样本中解释样本回归函数的内涵是样本中解释与被解释变量之间的结构关系与被解释变量之间的结构关系计算方法与估计特点计算方法与估计特点总体回归模型是用求条件期总体回归模型是用求条件期望望E(Y|X

2、)方法求出参数估计值，方法求出参数估计值，参数估计值是不变的。参数估计值是不变的。样本回归模型是用最小二乘方样本回归模型是用最小二乘方法求出参数估计值，参数估计法求出参数估计值，参数估计值是随样本变化而变化的。值是随样本变化而变化的。两者之间的内在联系两者之间的内在联系样本回归模型是总体回归函样本回归模型是总体回归函数的估计。有确定形式和随数的估计。有确定形式和随机形式。机形式。总体回归模型是反映社会经总体回归模型是反映社会经济现象的内在规律，通常是济现象的内在规律，通常是未知的，样本回归函数反映未知的，样本回归函数反映的正是总体回归函数。有确的正是总体回归函数。有确定形式和随机形式两者形式。

3、定形式和随机形式两者形式。第2页，本讲稿共17页红线表示总体回归函数，黑线表示样本回归函数红线表示总体回归函数，黑线表示样本回归函数第3页，本讲稿共17页一元线性回归模型的估计：最小二乘估一元线性回归模型的估计：最小二乘估计计1、最小二乘估计的思想：样本回归线上的点最小二乘估计的思想：样本回归线上的点 与真与真实观测值实观测值 的总体误差为最小，即样本点到回归的总体误差为最小，即样本点到回归直线的距离平方和为最小。直线的距离平方和为最小。2、记住正规方程组、记住正规方程组 3、一元线性回归模型最小二乘估计的性质：、一元线性回归模型最小二乘估计的性质：线性性、无偏性和有效性线性性、无偏性和有效性

4、第4页，本讲稿共17页一元线性回归模型的检验一元线性回归模型的检验一、假设检验的回顾一、假设检验的回顾 假设检验是根据研究的需要，对社会经济现象提出假设检验是根据研究的需要，对社会经济现象提出一个参数假设，然后利用样本数据构造统计量，判一个参数假设，然后利用样本数据构造统计量，判断这个假设是否成立的统计过程。断这个假设是否成立的统计过程。例如：某企业的人力资源部门估计该企业例如：某企业的人力资源部门估计该企业 80%的员的员工是有潜力可挖的，为了检验这一说法是否可靠，工是有潜力可挖的，为了检验这一说法是否可靠，随机抽取随机抽取150名员工，经过严格的考评，结果显示名员工，经过严格的考评，结果显

5、示70%的员工存在不同程度的潜力，问当的员工存在不同程度的潜力，问当 时，时，“80%的员工尚存在潜力的员工尚存在潜力”是否成立。是否成立。第5页，本讲稿共17页问题的分析问题的分析该企业人力资源部门根据自身管理的需要提出了一个该企业人力资源部门根据自身管理的需要提出了一个假设假设“80%的员工存在可挖的潜力的员工存在可挖的潜力”，我们把这个假，我们把这个假设称为原假设，计为设称为原假设，计为 ，它的对立面，它的对立面“没有没有80%的员工存在可挖的潜力的员工存在可挖的潜力”称为原假设的备择假设，称为原假设的备择假设，计为计为 ，称为显著水平。现在我们来，称为显著水平。现在我们来检验原假设对不

6、对。检验原假设对不对。解：解：构造并计算检验统计量，得：构造并计算检验统计量，得：第6页，本讲稿共17页问题分析问题分析上式中上式中z是服从标准正态分布的，其分布密度函数图是服从标准正态分布的，其分布密度函数图像是像是 第7页，本讲稿共17页Z=-3.0581,在原假设成立下，在原假设成立下，z服从标准服从标准 正态分布，正态分布，或或 的概率是的概率是0.05是小概率事件，根据小概率事件在一次试验不发生的原理，事是小概率事件，根据小概率事件在一次试验不发生的原理，事件件 不应该发生，现在发生了，故认为原假设不成立，因不应该发生，现在发生了，故认为原假设不成立，因此我们拒绝原假设此我们拒绝原假

7、设 故认为故认为“80%的员工尚存在潜力的员工尚存在潜力”的说法不成立。的说法不成立。在上述检验中，在上述检验中，称为拒绝域，由于拒绝域在密度称为拒绝域，由于拒绝域在密度函数的两侧，故称上述检验为双侧检验。同样，若拒绝域在一边，这函数的两侧，故称上述检验为双侧检验。同样，若拒绝域在一边，这样的检验称为单侧检验。样的检验称为单侧检验。第8页，本讲稿共17页二、拟合优度检验二、拟合优度检验在上一节课中，讲了例在上一节课中，讲了例2.1.1，得到样本回归函数是，得到样本回归函数是，表示居住这个社区的人，收入每增加一元钱，其消费将平均增加表示居住这个社区的人，收入每增加一元钱，其消费将平均增加0.77

8、7元。元。但是现在这个模型还不能用，需要进行检验。对回归模型的检验主要但是现在这个模型还不能用，需要进行检验。对回归模型的检验主要有两个方面的检验：拟合优度检验和回归系数检验。有两个方面的检验：拟合优度检验和回归系数检验。拟合优度检验是检验模型总体上拟合的好坏。拟合优度检验是检验模型总体上拟合的好坏。检验方法检验方法：（：（1）可决系数法）可决系数法 （2）F 检验检验首先定义首先定义 总平方和总平方和 SST （1）第9页，本讲稿共17页总平方和表示样本数据离它的重心的距离平方和，代表着样本全总平方和表示样本数据离它的重心的距离平方和，代表着样本全体信息，（体信息，（1）表示样本信息可以分解

9、为两个部分：回归平方和）表示样本信息可以分解为两个部分：回归平方和 与与 残残差平方和。差平方和。称为残差平方和，计作称为残差平方和，计作SSE而而 称为回归平方和，计作称为回归平方和，计作SSR。回归平方和表示用回归函数值代替样本值后，距离样本重心的距离平方回归平方和表示用回归函数值代替样本值后，距离样本重心的距离平方和，该值愈大表明回归效果愈好，反之，有相反的结论。残差平方和表和，该值愈大表明回归效果愈好，反之，有相反的结论。残差平方和表示回归值与样本真实值之间差的平方和，该值愈小，表明回归效果愈好，示回归值与样本真实值之间差的平方和，该值愈小，表明回归效果愈好，反之，有相反的结论成立。反

10、之，有相反的结论成立。根据上述，定义可决系数如下：根据上述，定义可决系数如下：通常通常 大于大于0且小于且小于1，可决系数越大，表明回归方程总体上拟合的越，可决系数越大，表明回归方程总体上拟合的越好，反之，有相反的结论。通常好，反之，有相反的结论。通常 ，认为模型总体上拟合得较，认为模型总体上拟合得较好。好。第10页，本讲稿共17页F检验检验对于回归方程拟合优度检验，除了用判决系数外，还对于回归方程拟合优度检验，除了用判决系数外，还可以用可以用F检验方法来检验模型拟合得好不好，检验检验方法来检验模型拟合得好不好，检验的方法和步骤是：的方法和步骤是：Y与与X没有线性关系没有线性关系 Y与与X有线

11、性关系有线性关系 构造检验统计量构造检验统计量 第11页，本讲稿共17页在原假设成立时，在原假设成立时，F统计量服从第一自由度是统计量服从第一自由度是1，第二自由度是，第二自由度是n-2的的F分分布，这时布，这时，的概率是的概率是 （通常是（通常是0.05）是小概率事件，根据假是小概率事件，根据假设检验原理，应该拒绝原假设，接受备择假设，即认为设检验原理，应该拒绝原假设，接受备择假设，即认为Y与与X之间存之间存在线性关系。也就是回归方程成立。（如图所示）在线性关系。也就是回归方程成立。（如图所示）第12页，本讲稿共17页例例2.1.1讲解讲解从例从例2.1.1知，知，F=28559.235 大

12、于显著性水平大于显著性水平为为0.05时的时的F统计量的值统计量的值3.94。故我们拒绝故我们拒绝原假设，认为原假设，认为Y与与X之间有线性关系成立。之间有线性关系成立。即回归方程显著。即回归方程显著。第13页，本讲稿共17页三、变量显著性检验三、变量显著性检验在回归分析中，我们不但要对模型总体显著性检验（拟合优度检验）在回归分析中，我们不但要对模型总体显著性检验（拟合优度检验），还要对模型的回归系数进行检验，对于一元线性回归分析模型来，还要对模型的回归系数进行检验，对于一元线性回归分析模型来说，其检验的原假设和备择假设分别是说，其检验的原假设和备择假设分别是 构造的检验统计量是构造的检验统计

13、量是 第14页，本讲稿共17页 在原假设成立的条件下，在原假设成立的条件下，t 统计量服从自由度为统计量服从自由度为n-2的的t分布，分布，当当 时，时，拒绝原假设，认为备择假设成立，拒绝原假设，认为备择假设成立，即即 检验情况如下图所示。检验情况如下图所示。第15页，本讲稿共17页例例2.1.1讲解讲解在例在例2.1.1中中,的的t统计量值是统计量值是53.471大于临界值大于临界值1.98。故拒绝原假设，接受备择假设，认为回。故拒绝原假设，接受备择假设，认为回归系数显著，即归系数显著，即 注：在一元线性回归分析中，回归系数检验与回注：在一元线性回归分析中，回归系数检验与回归方程检验是等价的

14、，即回归方程显著，在同归方程检验是等价的，即回归方程显著，在同一显著性水平下，回归系数也显著，反之，有一显著性水平下，回归系数也显著，反之，有相同的结论成立。相同的结论成立。第16页，本讲稿共17页Dependent Variable:YMethod:Least SquaresDate:09/28/10 Time:11:08Sample:1 31Included observations:31Variable Coefficient Std.Error t-Statistic Prob.C-47.03933525.7858-0.0894650.9293X1.3473200.05984122.5

15、15000.0000R-squared0.945888 Mean dependent var11363.69Adjusted R-squared 0.944022 S.D.dependent var 3294.469S.E.of regression 779.4603 Akaike info criterion 16.21742Sum squared resid17619190 Schwarz criterion16.30994Log likelihood -249.3700 F-statistic 506.9253Durbin-Watson stat1.502424 Prob(F-statistic)0.000000第17页，本讲稿共17页