第二讲双变量回归模型及其估计问题PPT讲稿.ppt

第二讲双变量回归模型及其估计问题第1页，共46页，编辑于2022年，星期二一、回归分析的基本性质一、回归分析的基本性质二、双变量回归分析基本概念二、双变量回归分析基本概念三、双变量回归分析估计问题三、双变量回归分析估计问题第二讲双变量回归模型及其估计问题第二讲双变量回归模型及其估计问题四、正态性假定：经典正态线性回归模型四、正态性假定：经典正态线性回归模型 五、双变量回归的区间估计五、双变量回归的区间估计 六、双变量回归的假设检验六、双变量回归的假设检验 七、回归分析的应用：预测问题七、回归分析的应用：预测问题 八、双变量线性回归模型的延伸八、双变量线性回归模型的延伸 第2页，共46页，编辑于2022年，星期二第一节第一节 回归分析的性质回归分析的性质一、回归释义一、回归释义 回归分析是关于研究一个叫应变量的变量对另一个或几个中解释变量的变量的依赖关系，其目的在于通过后者的已知值或设定值去估计和预测前者的数值。第一节第一节 回归分析的性质（回归分析的性质（1 1）第3页，共46页，编辑于2022年，星期二二、统计关系与确定关系二、统计关系与确定关系三、回归与因果关系三、回归与因果关系 统计关系处理的是随机变量，而确定关系处理的是确定性的变量。回归分析研究的是一个变量对另一个或几个称为解释变量的依赖关系，却不一定是因果关系。第一节第一节 回归分析的性质（回归分析的性质（2 2）第4页，共46页，编辑于2022年，星期二四、回归与相关四、回归与相关 相关分析的主要目的在于研究变量之间统计线性关联的程度，将变量均视为随机变量。回归分析的主要目的在于研究变量之间统计关联的形式，目的在于揭示被解释变量如何依赖解释变量的变化而变化的规律，将解释变量视为确定性的，而将被解释变量视为随机变量。第一节第一节 回归分析的性质（回归分析的性质（3 3）第5页，共46页，编辑于2022年，星期二第二节第二节 双变量回归分析的基本概念双变量回归分析的基本概念一、一个人为的例子一、一个人为的例子例：假定一个总体由60户家庭组成。为了研究每周家庭消费支出Y与每周税后可支配收入X的关系，将他们划分为10组。第二节第二节 双变量回归分析的基本概念（双变量回归分析的基本概念（1 1）第6页，共46页，编辑于2022年，星期二x x8080100100120120140140160160180180200200220220240240260260Y5555656579798080102102110110120120135135137137150150606070708484939310710711511513613613713714514515215265657474909095951101101201201401401401401551551751757070808094941031031161161301301441441521521651651781787575858598981081081181181351351451451571571751751801808888113113125125140140160160189189185185115115162162191191第7页，共46页，编辑于2022年，星期二第8页，共46页，编辑于2022年，星期二二、总体回归函数二、总体回归函数(PRF)E(Y|X)=f(X)E(Y|X)=1+2 X三、线性的含义三、线性的含义对变量为线性对参数为线性第二节第二节 双变量回归分析的基本概念（双变量回归分析的基本概念（2 2）E(Y|X)=1+2 XE(Y|X)=1+2 lnX第9页，共46页，编辑于2022年，星期二三、总体回归函数的随机设定三、总体回归函数的随机设定u=Y-E(Y|X)Y=E(Y|X)+u系统变化系统变化部分部分非系统变化部分非系统变化部分第二节第二节 双变量回归分析的基本概念（双变量回归分析的基本概念（3 3）第10页，共46页，编辑于2022年，星期二四、随机干扰项的意义四、随机干扰项的意义 干扰项 u 是从模型中省略下来的而又集体地影响着Y 的全部变量的替代物。1.理论的含糊性 2.数据的欠缺 3.核心变量与周边变量 4.人为行为的内在随机性 5.糟糕的替代变量 6.节省原则 7.错误的函数形式第二节第二节 双变量回归分析的基本概念（双变量回归分析的基本概念（4 4）第11页，共46页，编辑于2022年，星期二五、样本回归函数五、样本回归函数(SRF)E(Y|X)=1+2 X残差第二节第二节 双变量回归分析的基本概念（双变量回归分析的基本概念（5 5）第12页，共46页，编辑于2022年，星期二第三节第三节 双变量回归模型的估计问题双变量回归模型的估计问题一、普通最小二乘法一、普通最小二乘法 通过样本数据按照残差平方和最小的原则来估计总体回归模型中的参数的方法叫普通最小二乘法，又称最小平方法。第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（1 1）第13页，共46页，编辑于2022年，星期二min第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（2 2）第14页，共46页，编辑于2022年，星期二第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（3 3）第15页，共46页，编辑于2022年，星期二第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（4 4）第16页，共46页，编辑于2022年，星期二数值性质数值性质是指由于运用最小二乘法而得以成立的那些性质而不管数据是如何产生的。统计性质统计性质是指仅在数据产生的方式满足一定的假设下才得以成立的那些性质。数数值值性性质质1.OLS估计量是纯粹由可观测的量表达式，是容易计算的；2.OLS估计量是点估计量；3.一旦从样本数据得到OLS估计值，便可画出样本回归线。第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（5 5）第17页，共46页，编辑于2022年，星期二样本回归线的性质样本回归线的性质1.它通过Y和X的样本均值；2.估计的均值等于实测均值，即3.残差的均值等于0，即4.残差和预测值不相关，即5.残差和X不相关，即第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（6 6）第18页，共46页，编辑于2022年，星期二二、经典线性回归模型：二、经典线性回归模型：最小二乘法的基本假定最小二乘法的基本假定1.1.线性回归模型，即模型是对参数线性的；线性回归模型，即模型是对参数线性的；2.2.在重复抽样中在重复抽样中X X的值是固定的，即非随机的；的值是固定的，即非随机的；3.3.干扰项干扰项 u u 的均值为零；的均值为零；4.4.同方差性或干扰项同方差性或干扰项 u u 的方差相等；的方差相等；5.5.各干扰项各干扰项 u u 之间无自相关；之间无自相关；第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（7 7）第19页，共46页，编辑于2022年，星期二二、经典线性回归模型：二、经典线性回归模型：最小二乘法的基本假定最小二乘法的基本假定6.干扰项 u 与解释变量X 的协方差为零；7.观测的次数必须大于待估参数的个数；8.X 的值要有变异性；9.正确地设定模型；10.没有完全的多重共线性。第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（8 8）第20页，共46页，编辑于2022年，星期二三、最小二乘估计的精度或标准差三、最小二乘估计的精度或标准差第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（9 9）第21页，共46页，编辑于2022年，星期二四、高斯四、高斯马尔可夫定理马尔可夫定理f密密度度d-2d+222true1.1.线性性线性性2.2.无偏性无偏性3.3.有效性有效性第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（1010）第22页，共46页，编辑于2022年，星期二五、判定系数五、判定系数R R2 2:“拟合优度拟合优度”的度量的度量（一）判定系数的意义（一）判定系数的意义第三节第三节 双变量回归模型的估计问题（双变量回归模型的估计问题（1111）（二）判定系数（二）判定系数R2的计算的计算1.1.总平方和总平方和（TSS）的计算及分解的计算及分解2.2.判定系数判定系数R2的计算公式的计算公式3.3.判定系数判定系数R2与相关系数的关系与相关系数的关系4.4.相关系数相关系数r 的性质的性质第23页，共46页，编辑于2022年，星期二第四节第四节 两个说明性例子两个说明性例子例一：例一：1970-19801970-1980年间美国的咖啡消费年间美国的咖啡消费例二：利用例二：利用1980-19911980-1991年数据建立的美国年数据建立的美国 凯恩斯消费函数凯恩斯消费函数第24页，共46页，编辑于2022年，星期二一、正态性假定一、正态性假定1.正态性假定的含义2.随机干扰项做正态假定的理由二、在正态假定下二、在正态假定下OLSOLS估计量的性质估计量的性质 第五节第五节 正态性假定：经典正态线性回归模型正态性假定：经典正态线性回归模型第25页，共46页，编辑于2022年，星期二三、最大似然法三、最大似然法 1.1.双变量回归模型的最大似然估计双变量回归模型的最大似然估计 似然函数 最大似然法的基本思想 回归系数和随机干扰项的ML估计量 2.2.ML估计量与估计量与OLS的比较的比较 第五节第五节 正态性假定：经典正态线性回归模型（正态性假定：经典正态线性回归模型（2 2）第26页，共46页，编辑于2022年，星期二基本概念基本概念f密密度度d-2d+222随机区间(置信区间)true第六节第六节 双变量回归的区间估计双变量回归的区间估计 第27页，共46页，编辑于2022年，星期二2Se()()-=1,0NZ22()-=x 222二、二、回归系数的置信区间回归系数的置信区间第六节第六节 双变量回归的区间估计双变量回归的区间估计（2 2）第28页，共46页，编辑于2022年，星期二接受域接受域02.5%第六节第六节 双变量回归的区间估计双变量回归的区间估计（3 3）第29页，共46页，编辑于2022年，星期二()95.096.1Z96.1Pr=-95.096.1)(Se96.1Pr222=tc 或-t|tc|决策准则:2接受域接受域()*+-Set2c22n,2拒绝 H0 区域()*-Set2c22n,2拒绝 H0 区域双边双边T T检验检验第七节第七节 双变量回归的假设检验（双变量回归的假设检验（3 3）第38页，共46页，编辑于2022年，星期二计算统计量Step 2:()-=Set*222tc2n,-Step 3:查t分布表 确定其临界值()()221221220220:H:H:H:HStep 1:陈述假设 Step 4:比较 tc 和 t*显著性检验方法显著性检验方法:单边单边 T-T-检验决策准则检验决策准则第七节第七节 双变量回归的假设检验（双变量回归的假设检验（4 4）第39页，共46页，编辑于2022年，星期二Left-tail(如果 t 拒绝 H0 )(如果 t -tc =不拒绝 H0)决策准则决策准则Step 5:If t tc =拒绝 H0 If t 不拒绝 H0Right-tail0tc tRight-tail0-tct 单边单边t-检验的举例检验的举例第七节第七节 双变量回归的假设检验（双变量回归的假设检验（6 6）第41页，共46页，编辑于2022年，星期二=0.052.查表得知 where =1.860H拒绝860.1t857.5t0c8,05.0=3.比较 t 和临界值 t第七节第七节 双变量回归的假设检验（双变量回归的假设检验（7 7）第42页，共46页，编辑于2022年，星期二四、回归分析与方差分析四、回归分析与方差分析 1.1.总离差的分解公式总离差的分解公式 2 2.F 统计量的构建统计量的构建第七节第七节 双变量回归的假设检验（双变量回归的假设检验（8 8）第43页，共46页，编辑于2022年，星期二3.3.双变量回归模型的双变量回归模型的ANOVA 方差方差来源来源平方和平方和 （SS）自由度自由度 (d.f.)MSS=SS/d.f.ESS1RSSn-2TSSn-1第七节第七节 双变量回归的假设检验（双变量回归的假设检验（9 9）第44页，共46页，编辑于2022年，星期二1.正态性检验一、均值预测一、均值预测二、个值预测二、个值预测三、回归分析结果的报告三、回归分析结果的报告四、回归分析的评价四、回归分析的评价2.模型适宜性的其他检验第八节第八节 回归分析的应用：预测问题回归分析的应用：预测问题第45页，共46页，编辑于2022年，星期二一、过原点回归一、过原点回归二、尺度与测量单位二、尺度与测量单位 三、回归模型的函数形式三、回归模型的函数形式1.对数线性回归模型2.半对数模型3.倒数模型第九节第九节 双变量线性回归模型的延伸双变量线性回归模型的延伸第46页，共46页，编辑于2022年，星期二