chapter相关与回归分析实用.pptx
10.1.1 10.1.1 函数关系与相关关系函数关系与相关关系10.1.2 10.1.2 相关关系的种类相关关系的种类10.1.3 10.1.3 相关分析与回归分析相关分析与回归分析10.1.4 10.1.4 相关关系的判断相关关系的判断10.110.1相关与回归分析的基本概念相关与回归分析的基本概念第1页/共99页10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系1.函数关系函数关系当一个或几个变量取一定的值时,另一个变量有确定值与之相对应,我们称这种关系为确定性的函数关系。第2页/共99页(1)是一一对应的确定关系(2)设有两个变量 x 和 y,变量 y 随变量 x 一起变化,并完全依赖于 x,当变量 x 取某个数值时,y 依确定的关系取相应的值,则称 y 是 x 的函数,记为 y=f(x),其中 x 称为自变量,y 称为因变量(3)各观测点落在一条线上 x xy y10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系1.函数关系函数关系第3页/共99页某某种种商商品品的的销销售售额额(y y)与与销销售售量量(x x)之之间间的的关系可表示为关系可表示为 y y=p x p x(p p 为单价为单价)圆圆的的面面积积(S)(S)与与半半径径之之间间的的关关系系可可表表示示为为S S=r r2 2 企企业业的的原原材材料料消消耗耗额额(y y)与与产产量量(x x1 1)、单单位位产产量量消消耗耗(x x2 2)、原原材材料料价价格格(x x3 3)之之间间的的关关系可表示为系可表示为y y=x x1 1 x x2 2 x x3 3 10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系1.函数关系函数关系例子例子第4页/共99页 当一个或几个相互联系的变量取一定数值时,与之相对应的另一变量的值虽然不确定,但它仍按某种规律在一定的范围内变化。现象之间客观存在的不严格、不确定的数量依存关系。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系2.相关关系相关关系第5页/共99页(1 1)变量间关系不能用函数关系精确表达;(2 2)一个变量的取值不能由另一个变量唯一确定;(3 3)当变量 x x 取某个值时,变量 y y 的取值可能有几个;(4 4)各观测点分布在直线周围。x xy y10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系2.相关关系相关关系第6页/共99页商品的消费量商品的消费量(y)(y)与物价与物价(x)(x)之间的关系之间的关系商商品品销销售售额额(y)(y)与与广广告告费费支支出出(x)(x)之之间间的的关关系系粮粮食食亩亩产产量量(y)(y)与与施施肥肥量量(x(x1 1)、降降雨雨量量(x(x2 2)、温度、温度(x(x3 3)之间的关系之间的关系收入水平收入水平(y)(y)与受教育程度与受教育程度(x)(x)之间的关系之间的关系父亲身高父亲身高(y)(y)与子女身高与子女身高(x)(x)之间的关系之间的关系10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.1 -10.1.1 函数关系与相关关系函数关系与相关关系2.相关关系相关关系例子例子第7页/共99页1.1.按相关关系的程度划分可分为完全相关,不完全相关和不相关。2.2.按相关形式划分可以分为线性相关和非线性相关。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.2 -10.1.2 相关关系的种类相关关系的种类第8页/共99页(1 1)正相关:两个相关现象间,当一个变量的数值增加(或减少)时,另一个变量的数值也随之增加(或减少),即同方向变化。例如收入与消费的关系。(2 2)负相关:当一个变量的数值增加(或减少)时,而另一个变量的数值相反地呈减少(或增加)趋势变化,即反方向变化。例如物价与消费的关系。3.3.按相关的方向划分可分为正相关和负相关10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.2 -10.1.2 相关关系的种类相关关系的种类第9页/共99页4.4.按相关关系涉及的变量多少划分分为单相关、复相关和偏相关。两个变量之间的相关,称为单相关。当所研究的是一个变量对两个或两个以上其他变量的相关关系时,称为复相关。例如,某种商品的需求与其价格水平以及收入水平之间的相关关系便是一种复相关。在某一现象与多种现象相关的场合,假定其他变量不变,专门考察其中两个变量的相关关系称为偏相关。例如,在假定人们的收入水平不变的条件下,某种商品的需求与其价格水平的关系就是一种偏相关。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.2 -10.1.2 相关关系的种类相关关系的种类第10页/共99页(一)概念:(一)概念:1.1.相关分析就是用一个指标来表明现象间相互依存关系的密切程度。广义的相关分析包括相关关系的分析(狭义的相关分析)和回归分析。2.2.回归分析是指对具有相关关系的现象,根据其相关关系的具体形态,选择一个合适的数学模型(称为回归方程式),用来近似地表达变量间的平均变化关系的一种统计分析方法。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.3 -10.1.3 相关分析与回归分析相关分析与回归分析第11页/共99页(二)相关分析与回归分析的区别(二)相关分析与回归分析的区别 1.1.在相关分析中,不必确定自变量和因变量;而在回归分析中,必须事先确定哪个为自变量,哪个为因变量,而且只能从自变量去推测因变量,而不能从因变量去推断自变量。2.2.相关分析不能指出变量间相互关系的具体形式;而回归分析能确切的指出变量之间相互关系的具体形式,它可根据回归模型从已知量估计和预测未知量。3.3.相关分析所涉及的变量一般都是随机变量,而回归分析中因变量是随机的,自变量则作为研究时给定的非随机变量。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.3 -10.1.3 相关分析与回归分析相关分析与回归分析第12页/共99页(三)相关分析与回归分析的联系(三)相关分析与回归分析的联系相关分析和回归分析有着密切的联系,它们不相关分析和回归分析有着密切的联系,它们不仅具有共同的研究对象,而且在具体应用时,仅具有共同的研究对象,而且在具体应用时,常常必须互相补充。相关分析需要依靠回归分常常必须互相补充。相关分析需要依靠回归分析来表明现象数量相关的具体形式,而回归分析来表明现象数量相关的具体形式,而回归分析则需要依靠相关分析来表明现象数量变化的析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量之间存在着高度相关时,相关程度。只有当变量之间存在着高度相关时,进行回归分析寻求其相关的具体形式才有意义。进行回归分析寻求其相关的具体形式才有意义。简单说:1、相关分析是回归分析的基础和前提相关分析是回归分析的基础和前提;2、回归分析是相关分析的深入和继续回归分析是相关分析的深入和继续。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.3 -10.1.3 相关分析与回归分析相关分析与回归分析第13页/共99页定性分析是依据研究者的理论知识和实践经验,对客观现象之间是否存在相关关系,以及何种关系作出判断。定量分析在定性分析的基础上,通过编制相关表、绘制相关图、计算相关系数等方法,来判断现象之间相关的方向、形态及密切程度。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第14页/共99页 例:为了研究分析某种劳务产品完成量与其单位产品成本之例:为了研究分析某种劳务产品完成量与其单位产品成本之间的关系,调查间的关系,调查3030个同类服务公司得到的原始数据如表。个同类服务公司得到的原始数据如表。整理后有10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断(一)相关表:(一)相关表:将自变量将自变量x x的数值按照从小到大的顺序,的数值按照从小到大的顺序,并配合因变量并配合因变量y y的数值一一对应而平行排列的表。的数值一一对应而平行排列的表。第15页/共99页(二)相关图:又称散点图。将x置于横轴上,y置于纵轴上,将(x,y)绘于坐标图上。用来反映两变量之间相关关系的图形。10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第16页/共99页(二)相关图(二)相关图-散点图散点图(scatter diagram)不相关不相关不相关 负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关 完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关 10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第17页/共99页【例】一一家家大大型型商商业业银银行行在在多多个个地地区区设设有有分分行行,其其业业务务主主要要是是进进行行基基础础设设施施建建设设、国国家家重重点点项项目目建建设设、固固定定资资产产投投资资等等项项目目的的贷贷款款。近近年年来来,该该银银行行的的贷贷款款额额平平稳稳增增长长,但但不不良良贷贷款款额额也也有有较较大大比比例例的的提提高高,这这给给银银行行业业务务的的发发展展带带来来较较大大压压力力。为为弄弄清清楚楚不不良良贷贷款款形形成成的的原原因因,希希望望利利用用银银行行业业务务的的有有关关数数据据做做些些定定量量分分析析,以以便便找找出出控控制制不不良良贷贷款款的的办办法法。下下面面是是该该银银行行所所属属的的2525家分行家分行20022002年的有关业务数据年的有关业务数据 (二)相关图(二)相关图-散点图(例题分析)散点图(例题分析)(scatter diagram)10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第18页/共99页10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第19页/共99页10.110.1相关与回归分析的基本概念相关与回归分析的基本概念-10.1.4 -10.1.4 相关关系的判断相关关系的判断第20页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析10.2.1 10.2.1 相关系数及其检验10.2.2 10.2.2 简单线性回归分析10.2.3 10.2.3 参数的最小二乘估计10.2.4 10.2.4 一元线性回归模型的检验10.2.5 10.2.5 预测与估计第21页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.1 -10.2.1 相关系数及其检验相关系数及其检验1.1.对变量之间关系密切程度的度量2.2.对两个变量之间线性相关程度的度量称为简单相关系数3.3.若相关系数是根据总体全部数据计算的,称为总体相关系数,记为 4.4.若是根据样本数据计算的,则称为样本相关系数,记为 r r(一一)相关系数的定义相关系数的定义第22页/共99页10.2 简单线性相关与回归分析-10.2.1 相关系数及其检验(一一)相关系数的定义相关系数的定义第23页/共99页10.2 简单线性相关与回归分析-10.2.1 相关系数及其检验(一一)相关系数的定义相关系数的定义第24页/共99页10.2 简单线性相关与回归分析-10.2.1 相关系数及其检验(一一)相关系数的定义相关系数的定义 样本相关系数的计算公式可化简为第25页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.1 -10.2.1 相关系数及其检验相关系数及其检验(一一)相关系数的定义相关系数的定义-样本相关系数的定义公式实质样本相关系数的定义公式实质第26页/共99页1.r1.r 的取值范围是 -1,1-1,12.|2.|r r|=1|=1,为完全相关r r=1=1,为完全正相关r r=-1=-1,为完全负正相关3.r 3.r=0=0,不存在线性相关关系相关4.-14.-1 r r00,为负相关5.05.0 t,拒绝H0 若 t=48.385=48.385=48.385t t t t(15-2)=2.160(15-2)=2.160(15-2)=2.160(15-2)=2.160,拒绝,拒绝,拒绝,拒绝H H H H0 0 0 0,该,该,该,该种食物需求量和地区人口增加量种食物需求量和地区人口增加量之间的相关之间的相关之间的相关之间的相关关系显著。关系显著。关系显著。关系显著。(四)相关系数的显著性检验(四)相关系数的显著性检验实例分实例分析析 10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.1 -10.2.1 相关系数及其检验相关系数及其检验第35页/共99页(一)回归分析的基本内容(一)回归分析的基本内容10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析1、从一组样本数据出发,确定变量之间的数学关、从一组样本数据出发,确定变量之间的数学关系式系式2、对这些关系式的可信程度进行各种统计检验,、对这些关系式的可信程度进行各种统计检验,并从影响某一特定变量的诸多变量中找出哪些变并从影响某一特定变量的诸多变量中找出哪些变量的影响显著,哪些不显著量的影响显著,哪些不显著3、利用所求的关系式,根据一个或几个变量的取、利用所求的关系式,根据一个或几个变量的取值来预测或控制另一个特定变量的取值,并给出值来预测或控制另一个特定变量的取值,并给出这种预测或控制的精确程度这种预测或控制的精确程度第36页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(二)回归模型(二)回归模型(regression model)回答“变量之间是什么样的关系?”方程中运用1 1 个数字的因变量(响应变量)被预测的变量1 1 个或多个数字的或分类的自变量 (解释变量)用于预测的变量3.3.主要用于预测和估计第37页/共99页一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量回归模型多元回归一元回归线性回归非线性回归线性回归非线性回归10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(二)回归模型(二)回归模型(regression model)(regression model)类类型型第38页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(三)一元线性回归模型(三)一元线性回归模型概念概念描述因变量 y y 如何依赖于自变量 x x 和误差项 的方程称为回归模型一元线性回归模型可表示为 y=+1 1 x+y y 是 x x 的线性函数(部分)加上误差项线性部分反映了由于 x x 的变化而引起的 y y 的变化误差项 是随机变量反映了除 x x 和 y y 之间的线性关系之外的随机因素对 y y 的影响是不能由 x x 和 y y 之间的线性关系所解释的变异性 0 和 1称为模型的参数第39页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(三)一元线性回归模型(三)一元线性回归模型基本假定基本假定误差项是一个期望值为0 0的随机变量,即E E()=0)=0。对于一个给定的 x x 值,y y 的期望值为E E(y y)=0+1 x对于所有的 x x 值,的方差2都相同误差项是一个服从正态分布的随机变量,且相互独立。即N(0,2)独立性意味着对于一个特定的 x x 值,它所对应的与其他 x x 值所对应的不相关对于一个特定的 x x 值,它所对应的 y y 值与其他 x x 所对应的 y y 值也不相关第40页/共99页(一)总体回归函数 t t0 01 1t tu ut t(7.57.5)u u t t是随机误差项,又称随机干扰项,它是一个特殊的随机变量,反映未列入方程式的其他各种因素对的影响。(二)样本回归函数:(,.n)n)t t称为残差,在概念上,t t与总体误差项u ut t相互对应;是样本的容量。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(三)一元线性回归模型(三)一元线性回归模型总体与样本回归总体与样本回归第41页/共99页1 1、总体回归线是未知的,只有一条。样本回归线是根据样、总体回归线是未知的,只有一条。样本回归线是根据样本数据拟合的,每抽取一组样本,便可以拟合一条样本本数据拟合的,每抽取一组样本,便可以拟合一条样本回归线。回归线。2 2、总体回归函数中的、总体回归函数中的1 1和和2 2是未知的参数,表现为常数。是未知的参数,表现为常数。而样本回归函数中的而样本回归函数中的 是随机变量,其具体是随机变量,其具体数值随所抽取的样本观测值不同而变动。数值随所抽取的样本观测值不同而变动。3 3、总体回归函数中的、总体回归函数中的u ut t是是t t与未知的总体回归线之间的纵与未知的总体回归线之间的纵向距离,它是不可直接观测的。而样本回归函数中的向距离,它是不可直接观测的。而样本回归函数中的t t是是t t与样本回归线之间的纵向距离,当根据样本观测值与样本回归线之间的纵向距离,当根据样本观测值拟合出样本回归线之后,可以计算出拟合出样本回归线之后,可以计算出t t的具体数值。的具体数值。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(三)一元线性回归模型(三)一元线性回归模型总体与样本回归的区别总体与样本回归的区别第42页/共99页总体回归线与随机误差项(t)12tXYtY 。ut 10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析(三)一元线性回归模型(三)一元线性回归模型总体与样本回归的区别总体与样本回归的区别第43页/共99页(四)回归方程(四)回归方程 (regression(regression equation)equation)1.1.描述 y y 的平均值或期望值如何依赖于 x x 的方程称为回归方程。2.2.简单线性回归方程的形式如下 E E(y y)=)=0 0+1 1 x x方程的图示是一条直线,因此也称为直线回归方程 0 0是回归直线在 y y 轴上的截距,是当 x x=0=0 时 y y 的期望值 1 1是直线的斜率,称为回归系数,表示当 x x 每变动一个单位时,y y 的平均变动值10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析第44页/共99页(五)估计的经验回归方程(五)估计的经验回归方程 (estimated regression equation)(estimated regression equation)10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.2 -10.2.2 简单线性回归分析简单线性回归分析3.一元线性回归中估计的回归方程为一元线性回归中估计的回归方程为一元线性回归中估计的回归方程为一元线性回归中估计的回归方程为2.用用用用样样样样本本本本统统统统计计计计量量量量 和和和和 代代代代替替替替回回回回归归归归方方方方程程程程中中中中的的的的未未未未知知知知参参参参数数数数 和和和和 ,就得到了,就得到了,就得到了,就得到了估计的回归方程估计的回归方程估计的回归方程估计的回归方程1.总总体体回回归归参参数数 和和 是是未未知知的的,必必需需利利用用样样本本数数据去估计据去估计其其中中:是是估估计计的的回回归归直直线线在在 y y 轴轴上上的的截截距距,是是直直线线的的斜斜率率,它它表表示示对对于于一一个个给给定定的的 x x 的的值值,是是 y y 的的估估计值,也表示计值,也表示 x x 每变动一个单位时,每变动一个单位时,y y 的平均变动值的平均变动值 第45页/共99页(一)最小二乘法(一)最小二乘法-概念概念1.使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第46页/共99页x xy y(xn,yn)(x1,y1)(x2,y2)(xi,yi)ei=yi-yi(一)最小二乘法(一)最小二乘法-图示图示10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第47页/共99页设 将对求偏导数,并令其等于零,可得:加以整理后有:(一)最小二乘法估计(一)最小二乘法估计-公式公式10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第48页/共99页 解方程组解方程组可得求解可得求解 和和 的标准方程如下:的标准方程如下:(一)最小二乘法估计(一)最小二乘法估计-公式公式10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第49页/共99页例:现以前例的资例:现以前例的资料料配合回归直线,配合回归直线,计算如下:计算如下:10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第50页/共99页10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计第51页/共99页上式中b b表示人口增加量每增加(或减少)1 1千人,该种食品的年需求量平均来说增加(或减少)0.53010.5301十吨即5.3015.301吨。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计(一)最小二乘法估计(一)最小二乘法估计-公式公式第52页/共99页估计方程的求法估计方程的求法(ExcelExcel的输出结果)的输出结果)10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计(一)最小二乘法估计(一)最小二乘法估计-公式公式第53页/共99页1.实际观察值与回归估计值离差平方和的均方根。2.反映实际观察值在回归直线周围的分散状况。3.从另一个角度说明了回归直线的拟合程度。4.计算公式为由样本资料计算由样本资料计算由总体资料计算或由总体资料计算或在大样本情况下在大样本情况下10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计(二)估计标准误差 Sy第54页/共99页计算例子第55页/共99页可得简化式:上式的推导证明10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.3 -10.2.3 参数的最小二乘估计参数的最小二乘估计(二)估计标准误差 Sy第56页/共99页回归模型检验的种类回归模型检验的种类 回归模型的检验包括理论意义检验、一级检回归模型的检验包括理论意义检验、一级检验和二级检验。验和二级检验。拟合程度的评价拟合程度的评价 所谓拟合程度,是指样本观测值聚集在样本所谓拟合程度,是指样本观测值聚集在样本回归线周围的紧密程度。判断回归模型拟合程回归线周围的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数(又度优劣最常用的数量尺度是样本决定系数(又称决定系数)。它是建立在对总离差平方和进称决定系数)。它是建立在对总离差平方和进行分解的基础之上的。行分解的基础之上的。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验(一)什么是回归模型的检验(一)什么是回归模型的检验第57页/共99页(二)总离差平方和的分解(二)总离差平方和的分解1.1.因变量 y y 的取值是不同的,y y 取值的这种波动称为变差。变差来源于两个方面:由于自变量 x x 的取值不同造成的;除 x x 以外的其他因素(如x x对y y的非线性影响、测量误差等)的影响。2.2.对一个具体的观测值来说,变差的大小可以通过该实际观测值与其均值之差 来表示。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第58页/共99页x xy yy y 离差分解图(二)总离差平方和的分解(二)总离差平方和的分解图示图示10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第59页/共99页2.两端平方后求和有1.从图上看有SST=SSR+SSE总变差平方和(SST)回归平方和(SSR)残差平方和(SSE)(二)总离差平方和的分解(二)总离差平方和的分解三个离差平方和的关系三个离差平方和的关系10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第60页/共99页1.1.总平方和(SST)(SST)反映因变量的 n n 个观察值与其均值的总离差2.2.回归平方和(SSR)(SSR)反映自变量 x x 的变化对因变量 y y 取值变化的影响,或者说,是由于 x x 与 y y 之间的线性关系引起的 y y 的取值变化,也称为可解释的平方和。3.3.残差平方和(SSE)(SSE)反映除 x x 以外的其他因素对 y y 取值的影响,也称为不可解释的平方和或剩余平方和。(二)总离差平方和的分解(二)总离差平方和的分解三个离差平方和的意义三个离差平方和的意义10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第61页/共99页1.回归平方和占总离差平方和的比例:2.反映回归直线的拟合程度3.取值范围在 0,1 之间4.r2 1,说明回归方程拟合的越好;r20,说明回归方程拟合的越差5.判定系数等于相关系数的平方,即r2(r)2(三)判定系数(三)判定系数R R2 2(coefficient of determinationcoefficient of determination)10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第62页/共99页1.1.检验自变量和因变量之间的线性关系是否显著2.2.具体方法是将回归离差平方和(SSRSSR)同剩余离差平方和(SSESSE)加以比较,应用F F检验来分析二者之间的差别是否显著如果是显著的,两个变量之间存在线性关系如果不显著,两个变量之间不存在线性关系(四)回归方程的显著性检验(四)回归方程的显著性检验 -线性关系的显著性检验线性关系的显著性检验10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验第63页/共99页1.提出假设H0:线性关系不显著2.计算检验统计量F3.确定显著性水平,并根据分子自由度1和分母自由度n-2找出临界值F 4.作出决策:若F F ,拒绝H0;若Ft,拒绝H0;t t=2.201,拒绝H0,表明人均收入与人均消费之间有线性关系对前例的回归系数进行显著性检验(0.05)10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.4 -10.2.4 一元线性回归模型的检验一元线性回归模型的检验(五)回归系数的显著性检验(五)回归系数的显著性检验第70页/共99页回归系数的显著性检验(Excel输出的结果)第71页/共99页1.根据自变量 x 的取值估计或预测因变量 y的取值2.估计或预测的类型点估计y 的平均值的点估计y 的个别值的点估计区间估计y 的平均值的置信区间估计y 的个别值的预测区间估计10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计第72页/共99页2.点估计值3.在点估计条件下,平均值的点估计和个别值的的点估计是一样的,但在区间估计中则不同1.对对于于自自变变量量 x 的的一一个个给给定定值值x0,根根据据回回归归方方程程得到因变量得到因变量 y 的一个估计值的一个估计值10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(一)点估计(一)点估计第73页/共99页 y 的平均值的点估计1.利用估计的回归方程,对于自变量 x 的一个给定值 x0,求出因变量 y 的平均值的一个估计值E(y0),就是平均值的点估计。10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(一)点估计(一)点估计第74页/共99页 根据回归方程,可以给出自变量的某一数值来估计或预测因变量平均可能值。例如,前例中当人口增长量为400千人时,该食品的年需求量为 10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(一)点估计(一)点估计第75页/共99页1.1.点估计不能给出估计的精度,点估计值与实际值之间是有误差的,因此需要进行区间估计2.2.对于自变量 x x 的一个给定值 x x0 0,根据回归方程得到因变量 y y 的一个估计区间3.3.区间估计有两种类型置信区间估计预测区间估计10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(二)区间估计(二)区间估计第76页/共99页 y 的平均值的置信区间估计 1.利用估计的回归方程,对于自变量 x 的一个给定值 x0,求出因变量 y 的平均值E(y0)的估计区间,这一估计区间称为置信区间2.E(y0)在1-置信水平下的置信区间为式中:Sy为估计标准误差10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(二)区间估计(二)区间估计置信区间估计置信区间估计第77页/共99页1.1.置信水平 (1-(1-)区间宽度随置信水平的增大而增大2.2.数据的离散程度 (s s)区间宽度随离散程度的增大而增大3.3.样本容量区间宽度随样本容量的增大而减小4.4.用于预测的 x xp p与 x x的差异程度区间宽度随 x xp p与 x x 的差异程度的增大而增大10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(二)区间估计(二)区间估计影响区间宽度的因素影响区间宽度的因素第78页/共99页xp pyx x预测上限预测上限置信上限置信上限预测下限预测下限置信下限置信下限10.2 10.2 简单线性相关与回归分析简单线性相关与回归分析-10.2.5 -10.2.5 预测与估计预测与估计(二)区间估计(二)区间估计-置信区间、预测区间、回归方程置信区间、预测区间、回归方程第79页/共99页10.310.3多元线性相关与回归分析多元线性相关与回归分析-10.3.1-10.3.1多元线性回归模型多元线性回归模型一个因变量与两个及两个以上自变量之间的回归描述因变量 y 如何依赖于自变量 x1,x2,xp 和误差项 的方程称为多元线性回归模型涉及 p 个自变量的多元线性回归模型可表示为 0 ,1 1,p是参数 是被称为误差项的随机变量 y 是x1,,x2 ,xp 的线性函数加上误差项 说明了包含在y里面但不能被p个自变量的线性关系所解释的变异性第80页/共99页 对于 n 组实际观察数据(yi;xi1,,xi2 ,xip),(i=1,2,n),多元线性回归模型可表示为y1=+1 1 x11+x12+px1p+1 1y2=+1 1 x21+x22+px2p+yn=+1 1 xn1+xn2+pxnp+n 10.3多元线性相关与回归分析-10.3.1多元线性回归模型第81页/共99页2.根据最小二乘法的要求,可得求解各回归参数 的标准方程如下1.使因变量的观察值与估计值之间的离差平方和达到最小来求得 。即10.3多元线性相关与回归分析-10.3.2 参数的最小二乘法第82页/共99页1.检验因变量与所有的自变量和之间的是否存在一个显著的线性关系,也被称为总体的显著性总体的显著性检验2.检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较,应应用用 F F 检验检验来分析二者之间的差别是否显著如果是显著的,因变量与自变量之间存在线性关系如果不显著,因变量与自变量之间不存在线性关系10.3多元线性相关与回归分析-10.3.3回归方程(线性关系)的显著性检验(一)内容第83页/共99页1.提出假设H0:1 2 p=0 线性关系不显著H1:1,2,p至少有一个不等于02.计算检验统计量F3.确定显著性水平 和分子自由度p、分母自由度n-p-1找出临界值F 4.作出决策:若F F ,拒绝H0;若FF,接受H010.3多元线性相关与回归分析-10.3.3回归方程(线性关系)的显著性检验(二)步骤第84页/共99页1.如果F检验已经表明了回归模型总体上是显著的,那么回归系数的检验就是用来确定每一个单个的自变量 xi 对因变量 y 的影响是否显著2.对每一个自变量都要单独进行检验3.应用 t 检验4.在多元线性回归中,回归方程的显著性检验不再等价于不再等价于回归系数的显著性检验。10.3多元线性相关与回归分析-10.3.4回归系数的显著性检验(一)内容第85页/共99页1.提出假设H0:i=0 (自变量 xi 与 因变量 y 没有线性关系)H1:i 0 (自变量 xi 与 因变量 y有线性关系)2.计算检验的统计量 t3.确定显著性水平,并进行决策 tt,拒绝H0;t t,接受H010.3多元线性相关与回归分析-10.3.4回归系数的显著性检验(二)步骤第86页/共99页10.410.4非线性相关与回归分析非线性相关与回归分析10.4.1 10.4.1 非线性函数形式的确定非线性函数形式的确定在对实际的客观现象进行定量分析时,选择