贾俊平统计学第五版第11章一元线性回归.ppt
《贾俊平统计学第五版第11章一元线性回归.ppt》由会员分享,可在线阅读,更多相关《贾俊平统计学第五版第11章一元线性回归.ppt(92页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、11-1作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)第第11章章 一元线性回归一元线性回归作者:中国人民大学统计学院作者:中国人民大学统计学院贾俊平贾俊平统计学11-2作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)第第11章章 一元线性回归一元线性回归 变量间关系的度量变量间关系的度量 11.2 一元线性回归一元线性回归11.3 利用回归方程进行估计和预测利用回归方程进行估计和预测11.4 残差分析残差分析11-3作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)学习目标学习目标1.相关关
2、系的分析方法相关关系的分析方法2.一元线性回归的基本原理和参数的最小一元线性回归的基本原理和参数的最小二乘估计二乘估计3.回归直线的拟合优度回归直线的拟合优度4.回归方程的显著性检验回归方程的显著性检验5.利用回归方程进行估计和预测利用回归方程进行估计和预测6.用用 Excel 进行回归进行回归11-4作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)11.1 变量间关系的度量变量间关系的度量11.1.1 变量间的关系变量间的关系11.1.2 相关关系的描述与测度相关关系的描述与测度11.1.3 相关系数的显著性检验相关系数的显著性检验11-5作者:贾俊平,中国
3、人民大学统计学院统计学统计学STATISTICS(第五版第五版)变量间的关系变量间的关系11-6作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)函数关系函数关系1.是一一是一一对应的确定关系对应的确定关系2.设设有有两两个个变变量量 x x 和和 y y,变变量量 y y 随随变变量量 x x 一一起起变变化化,并并完完全全依依赖赖于于 x x ,当当变变量量 x x 取取某某个个数数值值时时,y y 依依确确定定的的关关系系取取相相应应的的值值,则则称称 y y 是是 x x 的的函函数数,记记为为 y y =f f(x x),其其中中 x x 称称为为自自
4、变变量量,y y 称称为为因因变变量量3.各各观测点落在一条线上观测点落在一条线上 x xy y11-7作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)函数关系函数关系(几个例子几个例子)n n某种商品的销售额y与销售量x之间的关系可表示为 y=px(p 为单价)n n圆的面积S与半径R之间的关系可表示为S=R2 n n企业的原材料消耗额y与产量x1、单位产量消耗x2、原材料价格x3之间的关系可表示为 y=x1 x2 x3 11-8作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关关系相关关系(correlation)1.变
5、量间关系不能用函数关系精确表达2.一个变量的取值不能由另一个变量唯一确定3.当变量 x 取某个值时,变量 y 的取值可能有几个4.各观测点分布在直线周围 x xy y11-9作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关关系相关关系(几个例子几个例子)n n父亲身高y与子女身高x之间的关系n n收入水平y与受教育程度x之间的关系n n粮食单位面积产量y与施肥量x1、降雨量x2、温度x3之间的关系n n商品的消费量y与居民收入x之间的关系n n商品销售额y与广告费支出x之间的关系11-10作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(
6、第五版第五版)相关关系相关关系(类型类型)11-11作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关关系的描述与测度相关关系的描述与测度(散点图散点图)11-12作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关分析及其假定相关分析及其假定1.相关分析要解决的问题相关分析要解决的问题n n变量之间是否存在关系?变量之间是否存在关系?n n如果存在关系,它们之间是什么样的关系?如果存在关系,它们之间是什么样的关系?n n变量之间的关系强度如何?变量之间的关系强度如何?n n样样本本所所反反映映的的变变量量之之间间的的关关系
7、系能能否否代代表表总总体体变变量量之之间的关系?间的关系?2.为为解解决决这这些些问问题题,在在进进行行相相关关分分析析时时,对对总总体体有有以下两个主要假定以下两个主要假定n n两个变量之间是线性关系两个变量之间是线性关系n n两个变量都是随机变量两个变量都是随机变量11-13作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)散点图散点图(scatter diagram)不相关不相关不相关不相关不相关不相关 负线性相关负线性相关负线性相关负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关
8、非线性相关非线性相关非线性相关 完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关 11-14作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)散点图散点图(例题分析例题分析)【例例例例】一一家家大大型型商商业业银银行行在在多多个个地地区区设设有有分分行行,其其业业务务主主要要是是进进行行基基础础设设施施建建设设、国国家家重重点点项项目目建建设设、固固定定资资产产投投资资等等项项目目的的贷贷款款。近近年年来来,该该银银行行的的贷贷款款额额平平稳稳
9、增增长长,但但不不良良贷贷款款额额也也有有较较大大比比例例的的增增长长,这这给给银银行行业业务务的的发发展展带带来来较较大大压压力力。为为弄弄清清楚楚不不良良贷贷款款形形成成的的原原因因,管管理理者者希希望望利利用用银银行行业业务务的的有有关关数数据据做做些些定定量量分分析析,以以便便找找出出控控制制不不良良贷贷款款的的办办法法。下下面面是是该该银银行行所属的所属的2525家分行家分行20022002年的有关业务数据年的有关业务数据 11-15作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)散点图散点图(例题分析例题分析)11-16作者:贾俊平,中国人民大学统
10、计学院统计学统计学STATISTICS(第五版第五版)散点图散点图(不良贷款对其他变量的散点图不良贷款对其他变量的散点图)11-17作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关关系的描述与测度相关关系的描述与测度(相关系数相关系数)11-18作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关系数相关系数(correlation coefficient)1.度量变量之间关系强度的一个统计量度量变量之间关系强度的一个统计量2.对对两两个个变变量量之之间间线线性性相相关关强强度度的的度度量量称称为为简简单单相相关系数关系数
11、3.若若相相关关系系数数是是根根据据总总体体全全部部数数据据计计算算的的,称称为为总总体相关系数,记为体相关系数,记为 4.若若是是根根据据样样本本数数据据计计算算的的,则则称称为为样样本本相相关关系系数数,简称为相关系数,记为简称为相关系数,记为 r rn n也称为线性相关系数也称为线性相关系数(linear correlation coefficient)(linear correlation coefficient)n n或或称称为为PearsonPearson相相关关系系数数 (Pearsons(Pearsons correlation correlation coefficient)
12、coefficient)11-19作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关系数相关系数 (计算公式计算公式)样本相关系数的计算公式或化简为11-20作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关系数的性质相关系数的性质性质性质1:r 的取值范围是-1,1n n|r r|=|=1 1,为完全相关为完全相关l lr r=1 1,为完全正相关,为完全正相关l lr r=-1-1,为完全负正相关,为完全负正相关n n r r=0=0,不存在不存在线性线性线性线性相关相关关系关系n n-1-1 r r 0 0,为负相关
13、为负相关n n0 0 t t,拒绝拒绝H H0 0 若若 t t =7.5344t t,拒拒绝绝H H0 0,不不良良贷贷款款与与贷贷款款余余额额之间存在着显著的正线性相关关系之间存在着显著的正线性相关关系 11-27作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)相关系数的显著性检验相关系数的显著性检验(例题分析例题分析)各相关系数检验的统计量各相关系数检验的统计量11-28作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)11.2 一元线性回归一元线性回归11.2.1 一元线性回归模型一元线性回归模型11.2.2 参数的最小
14、二乘估计参数的最小二乘估计11.2.3 回归直线的拟合优度回归直线的拟合优度11.2.4 显著性检验显著性检验11-29作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)什么是回归分析?什么是回归分析?(Regression)1.从一组样本数据出发,确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验,并从影响某一特定变量的诸多变量中找出哪些变量的影响显著,哪些不显著3.利用所求的关系式,根据一个或几个变量的取值来预测或控制另一个特定变量的取值,并给出这种预测或控制的精确程度11-30作者:贾俊平,中国人民大学统计学院统计学统计学STATISTIC
15、S(第五版第五版)回归模型的类型回归模型的类型11-31作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)一元线性回归模型一元线性回归模型11-32作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)一元线性回归一元线性回归1.涉及一个自变量的回归2.因变量y与自变量x之间为线性关系n n被被 预预 测测 或或 被被 解解 释释 的的 变变 量量 称称 为为 因因 变变 量量(dependent variable)(dependent variable),用,用y y表示表示n n用用来来预预测测或或用用来来解解释释因因变变量量的的
16、一一个个或或多多个个变变量量称称为为自自变变量量(independent(independent variable)variable),用用x x表示表示 3.因变量与自变量之间的关系用一个线性方程来表示11-33作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)回归模型回归模型(regression model)1.回答“变量之间是什么样的关系?”2.方程中运用n n1 1 个数值型因变量个数值型因变量(响应变量响应变量)l l被预测的变量被预测的变量n n1 1 个或多个数值型或分类型自变量个或多个数值型或分类型自变量 (解释变量解释变量)l l用于预测的变
17、量用于预测的变量3.主要用于预测和估计11-34作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)一元线性回归模型一元线性回归模型1.描描述述因因变变量量 y y 如如何何依依赖赖于于自自变变量量 x x 和和误误差差项项 的的方程称为方程称为回归模型回归模型回归模型回归模型2.一元线性一元线性回归模型可表示为回归模型可表示为 y y=0 0 0 0+1 1 1 1 x x +e e e en ny y 是是 x x 的线性函数的线性函数(部分部分)加上误差项加上误差项n n线性部分反映了由于线性部分反映了由于 x x 的变化而引起的的变化而引起的 y y 的变
18、化的变化n n误差项误差项 是随机变量是随机变量l l反反映映了了除除 x x 和和 y y 之之间间的的线线性性关关系系之之外外的的随随机机因因素素对对 y y 的的影响影响l l是不能由是不能由 x x 和和 y y 之间的线性关系所解释的变异性之间的线性关系所解释的变异性n n 0 0 和和 1 1 称为模型的参数称为模型的参数11-35作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)一元线性回归模型一元线性回归模型(基本假定基本假定)1.1.因变量因变量x x与自变量与自变量y y之间具有线性关系之间具有线性关系2.2.在重复抽样中,自变量在重复抽样中
19、,自变量x x的取值是固定的,即假定的取值是固定的,即假定x x是是非随机的非随机的3.3.误差误差项项 是一个期望值为是一个期望值为0 0的随机变量,即的随机变量,即E E()=0)=0。对对于一个给定的于一个给定的 x x 值,值,y y 的期望值为的期望值为E E(y y)=)=0 0+1 1 x x4.4.对对于所有的于所有的 x x 值,值,的方差的方差 2 2 都相同都相同5.5.误误差差项项 是是一一个个服服从从正正态态分分布布的的随随机机变变量量,且且相相互互独独立立。即即 N N(0,(0,2 2)n n独独立立性性意意味味着着对对于于一一个个特特定定的的 x x 值值,它它
20、所所对对应应的的 与与其其他他 x x 值所对应的值所对应的 不相关不相关n n对对于于一一个个特特定定的的 x x 值值,它它所所对对应应的的 y y 值值与与其其他他 x x 所所对对应应的的 y y 值也不相关值也不相关11-36作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)一元线性回归模型一元线性回归模型(基本假定基本假定)x x=x x3 3时的时的E E(y y)x x=x x2 2时时y y的分布的分布x x=x x1 1时时y y的分布的分布x x=x x2 2时的时的E E(y y)x x3 3x x2 2x x1 1x x=x x1 1时
21、的时的E E(y y)0 0 xyx x=x x3 3时时y y的分布的分布 0 0+1 1x x11-37作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)回归方程回归方程(regression equation)1.描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程回归方程2.一元线性回归方程的形式如下3.E(y)=0+1 x方程的图示是一条直线,也称为直线回归方程方程的图示是一条直线,也称为直线回归方程 0 0是是回回归归直直线线在在 y y 轴轴上上的的截截距距,是是当当 x x=0=0 时时 y y 的的期期望值望值 1 1是是直直线线的的斜
22、斜率率,称称为为回回归归系系数数,表表示示当当 x x 每每变变动动一个单位时,一个单位时,y y 的平均变动值的平均变动值11-38作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)估计的回归方程估计的回归方程(estimated regression equation)3.一元线性回归中估计的回归方程为一元线性回归中估计的回归方程为2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ,就得到了,就得到了估计的回归方程估计的回归方程估计的回归方程估计的回归方程1.总总体体回回归归参参数数 和和 是是未未知知的的,必必须须
23、利利用用样样本本数数据去估计据去估计其其中中:是是估估计计的的回回归归直直线线在在 y y 轴轴上上的的截截距距,是是直直线线的的斜斜率率,它它表表示示对对于于一一个个给给定定的的 x x 的的值值,是是 y y 的的估估计计值,也表示值,也表示 x x 每变动一个单位时,每变动一个单位时,y y 的平均变动值的平均变动值 11-39作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)参数的最小二乘估计参数的最小二乘估计11-40作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)最小二乘估计最小二乘估计(method of leas
24、t squares)1.德国科学家Karl Gauss(17771855)提出用最小化图中垂直方向的误差平方和来估计参数 2.使因变量的观察值与估计值之间的误差平方和达到最小来求得 和 的方法。即3.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小11-41作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)Karl Gauss的最小化图x xy y(x xn n,y yn n)(x x1 1,y y1 1)(x x2 2,y y2 2)(x xi i,y yi i)e ei i=y yi i-y yi i11-42作者:贾俊平,中国
25、人民大学统计学院统计学统计学STATISTICS(第五版第五版)最小二乘法最小二乘法(和和 的计算公式的计算公式)根据最小二乘法,可得求解 和 的公式如下11-43作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS(第五版第五版)估计方程的求法估计方程的求法(例题分析例题分析)【例】【例】求不良贷款对贷款余额的回归方程回归方程为:回归方程为:y=-+x回回归归系系数数 =0.037895=0.037895 表表示示,贷贷款款余余额额每每增增加加1 1亿元,不良贷款平均增加亿元亿元,不良贷款平均增加亿元 11-44作者:贾俊平,中国人民大学统计学院统计学统计学STATISTICS
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 贾俊平 统计学 第五 11 一元 线性 回归
限制150内