统计学第七章相关与回归分析幻灯片.ppt

统计学第七章相关与回归分析第1页，共100页，编辑于2022年，星期二消费者应该留下多少小费？消费者应该留下多少小费？在西方国家餐饮等服务行业有一条不成文的规定，即发生餐饮等服务项在西方国家餐饮等服务行业有一条不成文的规定，即发生餐饮等服务项目消费时，必须给服务员一定数额的小费，许多人都听说小费应该是账目消费时，必须给服务员一定数额的小费，许多人都听说小费应该是账单的单的16%左右，是否真的如此呢？让我们来考察下表，表中的数据左右，是否真的如此呢？让我们来考察下表，表中的数据是经过调查所得的样本数据，通过对这几组数据的分析与观察，我是经过调查所得的样本数据，通过对这几组数据的分析与观察，我们能发现两者之间的数量关系。们能发现两者之间的数量关系。第2页，共100页，编辑于2022年，星期二问题是：问题是：1、是否有足够的证据断定：在账单与小费数额之间存在某种联系？、是否有足够的证据断定：在账单与小费数额之间存在某种联系？2、如果存在某种联系，怎样使用这种联系来确定应该留下多少小、如果存在某种联系，怎样使用这种联系来确定应该留下多少小费？费？如上例，我们想要确定账单与小费数额之间是否存在某种联系，如果如上例，我们想要确定账单与小费数额之间是否存在某种联系，如果存在，我们就想用一个公式描述它，这样就能找出人们留小费时遵循存在，我们就想用一个公式描述它，这样就能找出人们留小费时遵循的规则。类似这样的问题还有很多，如：的规则。类似这样的问题还有很多，如：（1）犯罪率与偷窃率；（）犯罪率与偷窃率；（2）香烟消费与患癌症率；）香烟消费与患癌症率；（3）个人收入水平与受教育年限；（）个人收入水平与受教育年限；（4）血压与年龄；）血压与年龄；（5）父母身高与子女身高；（）父母身高与子女身高；（6）薪金与酒价；）薪金与酒价；（7）人的手掌生命线的长度与人的寿命长短。）人的手掌生命线的长度与人的寿命长短。第3页，共100页，编辑于2022年，星期二第一节 相关与回归分析的基本概念一、函数关系与相关关系1.函数关系函数关系当一个或几个变量取一定的值时，当一个或几个变量取一定的值时，另一个变量有确定值与之相对应，另一个变量有确定值与之相对应，这种确定性的数量依存关系称为这种确定性的数量依存关系称为函数关系。函数关系。第4页，共100页，编辑于2022年，星期二（函数关系）（1）是一一对应的确定关系（2）设有两个变量x 和y，变量y 随变量x 一起变化，并完全依赖于x，当变量x 取某个数值时，y 依确定的关系取相应的值，则称y 是x 的函数，记为y=f(x)，其中x 称为自变量，y 称为因变量（3）各观测点落在一条线上 x xy y第5页，共100页，编辑于2022年，星期二2.相关关系：当一个或几个相互联系的变量取一定数值时，与之相对应的另一变量的值虽然不确定，但它仍按某种规律在一定的范围内变化。现象之间客观存在的不严格、不确定现象之间客观存在的不严格、不确定的数量依存关系称为相关关系。的数量依存关系称为相关关系。第6页，共100页，编辑于2022年，星期二变量间的关系（相关关系）（1）变量间关系不能用函数关系精确表达；（2）一个变量的取值不能由另一个变量唯一确定；（3）当变量x 取某个值时，变量y 的取值可能有几个；（4）各观测点分布在直线周围。x xy y第7页，共100页，编辑于2022年，星期二（相关关系）相关关系的例子相关关系的例子商品的消费量商品的消费量(y)与居民收入与居民收入(x)之间的关系之间的关系商品销售额商品销售额(y)与广告费支出与广告费支出(x)之间的关系之间的关系粮粮食食亩亩产产量量(y)与与施施肥肥量量(x1)、降降雨雨量量(x2)、温温度度(x3)之间的关系之间的关系收入水平收入水平(y)与受教育程度与受教育程度(x)之间的关系之间的关系父亲身高父亲身高(y)与子女身高与子女身高(x)之间的关系之间的关系第8页，共100页，编辑于2022年，星期二3、相关关系与函数关系的区别与联系、相关关系与函数关系的区别与联系（1）都可用函数式加以描述，但表达式不同（2）相关分析需要利用函数关系数学表达式来研究（3）相关关系是相关分析的研究对象，函数关系是相关分析的工具第9页，共100页，编辑于2022年，星期二二、相关关系的种类l l相关关系l l自变量个数的多少自变量个数的多少l l相关的密切程度相关的密切程度l l一元相关一元相关学习成绩与学习时间；血压与年龄；亩产量与施肥量l l多元相关多元相关经济增长与人口增长、科技水平、自然资源、管理水平等之间的关系；l l相关的方向相关的方向l l相关的形式相关的形式l l线性相关线性相关收入与收入与支出支出l l非线性相关非线性相关施施肥量与农产量肥量与农产量l l完全相关完全相关l l不完全相关不完全相关l l不相关不相关l l正相关正相关同增同减同增同减l l负相关负相关一增一减一增一减第10页，共100页，编辑于2022年，星期二三、相关分析与回归分析（一）概念：1.相关分析相关分析就是用一个指标来表明现象间相互依就是用一个指标来表明现象间相互依存关系的密切程度。广义的相关分析存关系的密切程度。广义的相关分析包括相关关系的分析（狭义的相关分包括相关关系的分析（狭义的相关分析）和回归分析。析）和回归分析。2.回归分析回归分析是指对具有相关关系的现象，根据其相是指对具有相关关系的现象，根据其相关关系的具体形态，选择一个合适的数关关系的具体形态，选择一个合适的数学模型（称为回归方程式），用来近似学模型（称为回归方程式），用来近似地表达变量间的数量变化关系的一种统地表达变量间的数量变化关系的一种统计分析方法。计分析方法。第11页，共100页，编辑于2022年，星期二（二）相关分析与回归分析的区别 1.在相关分析中，不必确定自变量和因变量；而在回归分析中，必须事先确定哪个为自变量，哪个为因变量，而且只能从自变量去推测因变量，而不能从因变量去推断自变量。2.相关分析不能指出变量间相互关系的数量具体形式；而回归分析能确切的指出变量之间相互关系的数量具体形式，它可根据回归模型从已知量估计和预测未知量。3.相关分析所涉及的变量一般都是随机变量，而回归分析中因变量是随机的，自变量则作为研究时给定的非随机变量。第12页，共100页，编辑于2022年，星期二（三）相关分析与回归分析的联系相关分析和回归分析有着密切的联系，它们不仅具有共同的研究对象，而且在具体应用时，常常必须互相补充。相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。简单说：1、相关分析是回归分析的基础和前提；2、回归分析是相关分析的深入和继续。第13页，共100页，编辑于2022年，星期二定性分析定性分析是依据研究者的理论知识和实践经验，是依据研究者的理论知识和实践经验，对客观现象之间是否存在相关关系，对客观现象之间是否存在相关关系，以及何种关系作出判断。以及何种关系作出判断。定量分析定量分析在定性分析的基础上，通过编制在定性分析的基础上，通过编制相关表相关表、绘制绘制相关图相关图、计算、计算相关系数相关系数等方法，等方法，来判断现象之间相关的方向、形态及密来判断现象之间相关的方向、形态及密切程度。切程度。第二节相关分析的方法一、相关关系的判断一、相关关系的判断第14页，共100页，编辑于2022年，星期二相关表判断相关表判断1.1.简单相关表：未分组资料（对自变量数列有序排列后简单相关表：未分组资料（对自变量数列有序排列后观察相应的因变量数值的变化，以判断是否相关，方向如何观察相应的因变量数值的变化，以判断是否相关，方向如何？）？）2.2.分组相关表：分组相关表：（1 1）单变量分组相关表（对自变量分组并计算次数，对应）单变量分组相关表（对自变量分组并计算次数，对应的因变量不分组，计算平均值，进行比较判断。）的因变量不分组，计算平均值，进行比较判断。）（2 2）双变量分组相关表（对自变量因变量都进行分组）双变量分组相关表（对自变量因变量都进行分组后制成的相关表。注意：自变量放在纵栏，因变量放后制成的相关表。注意：自变量放在纵栏，因变量放在横栏。在横栏。第15页，共100页，编辑于2022年，星期二单变量分组相关表单变量分组相关表：自变量分组且计算次数，因变量只计算平均数。：自变量分组且计算次数，因变量只计算平均数。第16页，共100页，编辑于2022年，星期二2、双变量分组相关表：双变量分组相关表：对自变量与因变量均进行分组。对自变量与因变量均进行分组。注：自变量注：自变量X X轴；因变量轴；因变量Y Y轴。轴。第17页，共100页，编辑于2022年，星期二（三）利用散点图判断(scatter diagram)不相关不相关不相关不相关不相关不相关 负线性相关负线性相关负线性相关负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关非线性相关非线性相关非线性相关 完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关 第18页，共100页，编辑于2022年，星期二（四）、通过计算相关系数进行判断（四）、通过计算相关系数进行判断这是利用有关的两变量的具体数值，采用一定的方法这是利用有关的两变量的具体数值，采用一定的方法计算出能反映变量之间相互关系的统计数字（相关系计算出能反映变量之间相互关系的统计数字（相关系数），以说明变量之间相关的密切程度。数），以说明变量之间相关的密切程度。常用的有皮尔常用的有皮尔逊线性相关系数。逊线性相关系数。第19页，共100页，编辑于2022年，星期二二、相关系数的计算1、含义l l说明两变量之间线性相关密切程度的统计分析指标。用r表示。l l绝对值r界于0与1之间l l当r0,表示正相关l l绝对值r越接近1，线性相关越密切l l绝对值r越接近0，相关程度越弱数值说明（一）、皮尔逊线性相关系数（一）、皮尔逊线性相关系数r第20页，共100页，编辑于2022年，星期二-1.0+1.00-0.5+0.5完全负相关完全负相关无线性相关无线性相关完全正相关完全正相关负相关程度增加负相关程度增加r正相关程度增加正相关程度增加第21页，共100页，编辑于2022年，星期二l l通常：当相关系数的绝对值通常：当相关系数的绝对值：l l小于小于0.30.3时时,表示不相关或微弱相关表示不相关或微弱相关l l介于介于0.30.3至至0.50.5，表示低度相关，表示低度相关l l介于介于0.50.5至至0.80.8，表示显著（中度）相关，表示显著（中度）相关l l大于大于0.8 0.8 时，表示高度相关时，表示高度相关第22页，共100页，编辑于2022年，星期二2、直线单相关系数、直线单相关系数r的计算公式（过程）的计算公式（过程）（1）计算自变量数列的标准差）计算自变量数列的标准差（2）计算因变量的标准差）计算因变量的标准差（3）计算两者的协方差）计算两者的协方差协方差表示X和Y两变量相对与各自均值所造成的共同平均离差（4）计算相关系数）计算相关系数第23页，共100页，编辑于2022年，星期二3.相关系数的其他公式相关系数的其他公式（1）积差法公式：）积差法公式：（2）积差法简化式：）积差法简化式：（3）简捷公式：）简捷公式：第24页，共100页，编辑于2022年，星期二第25页，共100页，编辑于2022年，星期二xy的作用1、显示x与y之间的相关方向正相关第26页，共100页，编辑于2022年，星期二负相关第27页，共100页，编辑于2022年，星期二2、显示x与y之间的相关程度。第28页，共100页，编辑于2022年，星期二负相关第29页，共100页，编辑于2022年，星期二不相关第30页，共100页，编辑于2022年，星期二归纳 xy的作用第一、显示x与y之间的相关方向第二、显示x与y之间的相关密切程度第31页，共100页，编辑于2022年，星期二 x、y的作用1、使不同变量的协方差标准化标准化直接对比。第32页，共100页，编辑于2022年，星期二试根据下列资料计算直线相关系数：第33页，共100页，编辑于2022年，星期二 第34页，共100页，编辑于2022年，星期二例如：某企业某种产品产量与单位成本的资料如下：计算直线例如：某企业某种产品产量与单位成本的资料如下：计算直线相关系数相关系数产量（千件）单位成本（元/件）273372471373469568理论上可以先通过定性判断、理论上可以先通过定性判断、画散点图等确定两个变量间是画散点图等确定两个变量间是否有关系，在此基础上可以直否有关系，在此基础上可以直接用公式计算相关系数。公式接用公式计算相关系数。公式的选择可以根据实际的资料和的选择可以根据实际的资料和计算条件来确定。计算条件来确定。注意注意：在计算相关系数时，：在计算相关系数时，无需确定自变量和因变量，无需确定自变量和因变量，所以所以x,y 的确定是任意的。的确定是任意的。第35页，共100页，编辑于2022年，星期二相关系数计算表产量x（千件）单位成本y（元/件）xyx2y2273146453293722169518447128416504137321995329469276164761568340254624合计 2135514817930268l lr=-0.9091即单位成本与产量间存在着高度的线性负相关关系。即单位成本与产量间存在着高度的线性负相关关系。第36页，共100页，编辑于2022年，星期二解答：即账单消费额与小费之间存在着高度的正线性相关关系。第37页，共100页，编辑于2022年，星期二关于相关系数的解释1、相关并不一定意味着因果关系。如：一项研究表明，统计学教授的薪金与每人的啤酒消费量之间有很强的正相关关系，但这两个变量都受经济形势的影响。（隐藏变量）2、相关系数为0，不一定不相关,只能说明不存在线性相关。3、基于平均数进行相关分析与基于个体数据进行相关分析，其相关程度不一样。如：一项研究中，关于个人收入和教育的成对数据产生了一个0.4的线性相关系数，但当使用区域平均时，线性相关系数变为0.7。4、相关系数具有对称性。5、相关系数数值大小与X和Y变量的原点及尺度无关。第38页，共100页，编辑于2022年，星期二一些人相信他们的手掌生命线的长度可以来预测他们的寿命。M.E.Wilson和L.E.Mather在美国医学协会学报上发表的一封信中，通过对尸体的研究对此给予了驳斥。死亡时的年龄与手掌生命线的长度被一起记录下来。作者得出死亡时的年龄与生命线的长度不存在显著相关的结论。手相术失传了，手也就放下了。第39页，共100页，编辑于2022年，星期二4 4、相关系数的显著性检验、相关系数的显著性检验一般情况下，总体相关系数是未知的，通常有样本相关系数一般情况下，总体相关系数是未知的，通常有样本相关系数r r作作为近似的估计值。样本不同，为近似的估计值。样本不同，r r的值不同，是随机变量，能否用的值不同，是随机变量，能否用r r说明总体的相关程度，就需要考察样本说明总体的相关程度，就需要考察样本r r的可靠程度，也就是进的可靠程度，也就是进行显著性检验。行显著性检验。如如r r的抽样分布服从正态分布的假设成立，用正态分布来检验。但的抽样分布服从正态分布的假设成立，用正态分布来检验。但对对r r抽样分布的讨论可知，这种假设的风险很大，所以通常抽样分布的讨论可知，这种假设的风险很大，所以通常对对r r用用t t分布检验，该检验可用于小样本也可用大样本。分布检验，该检验可用于小样本也可用大样本。检验步骤检验步骤 （1 1）（2 2）计算检验的统计量）计算检验的统计量 （3 3）进行判断）进行判断第40页，共100页，编辑于2022年，星期二 例：下表是有关例：下表是有关15个地区某种食物需求量和地区人口增加量个地区某种食物需求量和地区人口增加量的资料。的资料。第41页，共100页，编辑于2022年，星期二第42页，共100页，编辑于2022年，星期二相关系数的显著性检验（实例）对相关系数进行显著性检(0.05)1.提出假设：H0：；H1：02.计算检验的统计量3.3.根据显著性水平根据显著性水平根据显著性水平根据显著性水平 0.050.05，查，查，查，查t分布表得分布表得分布表得分布表得t t(n n-2)=2.160-2)=2.160 由于由于由于由于 t =48.385=48.385t(15-2)=2.160，拒绝拒绝拒绝拒绝H0，该该种食种食物需求量和地区人口增加量物需求量和地区人口增加量之间的相关关系显著。之间的相关关系显著。之间的相关关系显著。之间的相关关系显著。第43页，共100页，编辑于2022年，星期二（三）斯皮尔曼等级相关系数的计算1.等级相关的含义等级相关的含义 就是把有关联的数量标志或品质标志的具体表现按等就是把有关联的数量标志或品质标志的具体表现按等级次序排列，形成级次序排列，形成X X和和Y Y这两个序列，再测定这两个序列之这两个序列，再测定这两个序列之间的相关程度，得到的相关系数即为等级相关系数。常用的有间的相关程度，得到的相关系数即为等级相关系数。常用的有斯皮尔曼相关系数斯皮尔曼相关系数、肯特尔相关系数等。、肯特尔相关系数等。2.等级相关的优缺点等级相关的优缺点优点：简单易行、应用广泛，适用于不便精确计量优点：简单易行、应用广泛，适用于不便精确计量 的标志的标志(即定序尺度衡量的现象即定序尺度衡量的现象)缺点：精确度稍差于按积差法计算的相关系数缺点：精确度稍差于按积差法计算的相关系数第44页，共100页，编辑于2022年，星期二3.3.斯皮尔曼等级相关系数的计算斯皮尔曼等级相关系数的计算斯皮尔曼等级相关系数的计算斯皮尔曼等级相关系数的计算计算步骤l l定等级l l依此计算每对观察值相应的等级差Dl l计算D2l l代入公式第45页，共100页，编辑于2022年，星期二例：以下是两组消费者对十种商品的评分资料，据此计算两组资料间的等级相关系数编号甲组评分乙组评分183782808438584490805797567273777868687097075108173合计计算等级相关系数，计算等级相关系数，首先应将原数据转首先应将原数据转化为等级，本例中化为等级，本例中甲组最低分是甲组最低分是68分，分，则可将它的等级数则可将它的等级数定为定为1，70分的等分的等级数就是级数就是2，72分分的为的为3，依次类推，依次类推，如果两个数值相等，如果两个数值相等，则值以平均位置数则值以平均位置数代替。代替。第46页，共100页，编辑于2022年，星期二等级相关系数计算表编号甲组评分乙组评分等级x 等级yD2183788 6 4280846 8.56.25385849 8.50.254908010 7 9579755 4.50.25672733 2.50.25777864 1036868701 10970752 4.56.251081737 2.520.25合计82.25第47页，共100页，编辑于2022年，星期二第48页，共100页，编辑于2022年，星期二第三节回归分析的基本问题“回归”一词最早源于生物学。英国生物学家高尔顿，根据1078对父子身高的散点图发现，虽然身材高的父母比身材矮的父母倾向有高的孩子。但平均而言，身材高大的其子要矮些，身材矮小的其子要高些。这种遗传上身高区域一般，退化到平均的现象，高尔顿称为回归。一、回归分析的含义（一）回归分析的目的：探求变量间的不确定性数量关系。（一）回归分析的目的：探求变量间的不确定性数量关系。（二）回归分析的概念及实质（二）回归分析的概念及实质1.回归分析概念回归分析概念：是对具有相关关系的两个或两个以上变量之间的数量变化进：是对具有相关关系的两个或两个以上变量之间的数量变化进行数量测定，配合一定的模型，以便给出自变量的值对因变量进行估计或预测的一种行数量测定，配合一定的模型，以便给出自变量的值对因变量进行估计或预测的一种统计分析方法。统计分析方法。2.回归分析的实质回归分析的实质：是在相关分析的基础上，研究现象间的数量变化规在相关分析的基础上，研究现象间的数量变化规律律。第49页，共100页，编辑于2022年，星期二二、回归分析与相关分析的区别（1 1）相关分析中，变量 x 变量 y 处于平等的地位，毋需确定自变量、因变量，而回归分析必须区别。变量之间有前后因果关系时，确定较为容易；变量之间互为因果关系或没有明显因果关系时，根据研究目的确定。（2）相关分析中所涉及的变量 x 和 y 都是随机变量；回归分析中，因变量 y 是随机变量，自变量 x 则是给定的。（3）相关分析主要是描述变量之间有无关系？密切程度如何？回归分析则进一步揭示变量 x 对变量 y 的影响大小，并可以由回归方程进行预测或估计，具有较强的应用性（4）在没有明显因果关系的两个变量 x 和 y 中可求得两个回归方程,也就是回归方程不具有对等性。而相关系数却只有一个,也就是相关系数具有对等性。（5）在线性回归方程中，自变量的系数称为回归系数，它相关相关系数同号,也能表明相关的方向。第50页，共100页，编辑于2022年，星期二三、回归分析的内容（一）根据研究目的和变量间的内在联系，确定自变量和因变量（一）根据研究目的和变量间的内在联系，确定自变量和因变量 例例 粮食产量（粮食产量（y y）施肥量（施肥量（x x）；）；消费支出（消费支出（y y）国民收入（国民收入（x x）；）；火灾损失额（火灾损失额（y y）火灾发生地与最近一个消防站之间的距离（火灾发生地与最近一个消防站之间的距离（x x）。）。（二）确定回归分析模型的类型及数学表达式（二）确定回归分析模型的类型及数学表达式（三）建立模型（解参数）（三）建立模型（解参数）（四）对回归分析模型进行评价（四）对回归分析模型进行评价（五）预测（五）预测 例例 消费与收入的回归方程：消费与收入的回归方程：y=a+bx=200+0.15xy=a+bx=200+0.15x 已知已知 x x确定确定y y：估计或预测：估计或预测 第51页，共100页，编辑于2022年，星期二四、回归模型的种类第52页，共100页，编辑于2022年，星期二（一）简单回归与多元回归：根据变量个数划分（一）简单回归与多元回归：根据变量个数划分1.1.简单回归分析模型是指只有一个自变量和一个因变量的回简单回归分析模型是指只有一个自变量和一个因变量的回归分析模型；归分析模型；2.2.多元回归分析模型是指多个自变量与一个因变量组成的回归分析多元回归分析模型是指多个自变量与一个因变量组成的回归分析模型。（增加了自变量的个数）模型。（增加了自变量的个数）（二）线性回归与非线性回归：按变量间相互关系的形态分（二）线性回归与非线性回归：按变量间相互关系的形态分1.1.线性回归模型是指变量间的关系为直线趋势的模型形态；线性回归模型是指变量间的关系为直线趋势的模型形态；2.2.非线性回归模型是指变量间的关系为曲线趋势的模型形态非线性回归模型是指变量间的关系为曲线趋势的模型形态上述四种情况交叉结合为简单线性回归和简单非线性回归，多元线上述四种情况交叉结合为简单线性回归和简单非线性回归，多元线性回归和多元非线性回归等不同类型性回归和多元非线性回归等不同类型第53页，共100页，编辑于2022年，星期二五、一元(简单)线性回归模型（一一)描描述述因因变变量量 Y Y如如何何依依赖赖于于自自变变量量 X X 和和误误差差项项 的的方方程程称为称为回归模型回归模型（二）一元线性回归模型可表示为（二）一元线性回归模型可表示为 Y Y=+=+X X+Y Y是是 X X 的线性函数部分加上误差项的线性函数部分加上误差项 线性部分反映了由于线性部分反映了由于 X X 的变化而引起的的变化而引起的 Y Y 的变化的变化误误差差项项 是是随随机机变变量量,反反映映了了除除 X X和和 Y Y之之间间的的线线性性关关系系之之外外的的随随机机因因素素对对Y Y的的影影响响，是是不不能能由由 X X 和和 Y Y之之间间的的线线性性关关系系所所解解释释的的变变异异性性。由由于于 的的值值是是非非固固定定的的，从从而而使使X X和和 Y Y呈现非确定性关系呈现非确定性关系 和和 称为模型的参数称为模型的参数误误差差项项 是是一一个个服服从从正正态态分分布布的的随随机机变变量量,且且独独立立.即即 _N(0,_N(0,)。第54页，共100页，编辑于2022年，星期二回归估计方程 1.在回归模型中，在回归模型中，X是自变量，是可控的，是自变量，是可控的，Y是随机变量，对上是随机变量，对上述的一元线性回归模型两端取数学期望，即得一元线性回归方述的一元线性回归模型两端取数学期望，即得一元线性回归方程：程：E（Y）=+X2.这一模型表明这一模型表明Y的期望值是的期望值是X的线性函数。的线性函数。其中：其中：和和 是待定系数，是待定系数，是回归系数，它表示自变量是回归系数，它表示自变量 x 每变动一个单位每变动一个单位时，时，因变量因变量Y的平均变动值。的平均变动值。1.由于总体回归参数由于总体回归参数 和和 是未知的，必需利用样本数据去估计。是未知的，必需利用样本数据去估计。得一元回归估计方程得一元回归估计方程第55页，共100页，编辑于2022年，星期二（六）方程的参数的估计方法（六）方程的参数的估计方法-最小二乘法最小二乘法 要使所拟合的直线最理想，必须使实际值与估计值的偏差最小，如果用作图法和目测法，很难达到上述的要求，因此需数学的方法，即是离差平方和最小。第56页，共100页，编辑于2022年，星期二根据上述的论述，最小平方法满足的条件是：和把回归方程 代入对a、b参数求导得：第57页，共100页，编辑于2022年，星期二整理得两个方程 求得 b回归系数，反映自变量变动一个单位时因变量的平均变动量回归系数，反映自变量变动一个单位时因变量的平均变动量。第58页，共100页，编辑于2022年，星期二如果x和y互为因果关系，还可求出x依y的回归方程中的参数第59页，共100页，编辑于2022年，星期二（七）回归分析的应用（七）回归分析的应用（七）回归分析的应用（七）回归分析的应用在计算相关系数时，我们曾列出了一个企业的产量和单位成本的在计算相关系数时，我们曾列出了一个企业的产量和单位成本的两组数据，通过计算，我们得出了这两个变量呈现高度负相关的两组数据，通过计算，我们得出了这两个变量呈现高度负相关的结论。那么进一步研究，来看看它们之间到底呈现怎样的数量关结论。那么进一步研究，来看看它们之间到底呈现怎样的数量关系呢？产量的变动对成本的具体影响又是如何呢？我们可以用最系呢？产量的变动对成本的具体影响又是如何呢？我们可以用最小二乘法来求解参数，作出判断和预测。小二乘法来求解参数，作出判断和预测。第60页，共100页，编辑于2022年，星期二例3 回归分析计算表产量x（千件）单位成本y（元/件）xyx2273146437221694712841637321994692761656834025合计 21426148179由于是进行回归分析，所以必由于是进行回归分析，所以必须确定自变量和因变量，在无须确定自变量和因变量，在无明显因果关系时，理论上可以明显因果关系时，理论上可以拟合两条回归方程，视要求选拟合两条回归方程，视要求选择。而如果变量间有明显因果择。而如果变量间有明显因果关系时，必须将关系时，必须将“因因”作为自作为自变量，变量，“果果”作为因变量。本作为因变量。本例中我们研究产量变动对成本例中我们研究产量变动对成本的影响，故以产量为的影响，故以产量为 x，成本成本为为y。第61页，共100页，编辑于2022年，星期二解得：解得：则成本依产量回归的方程为则成本依产量回归的方程为:yc=77.37-1.82x回归系数回归系数b=-1.82说明当产量每增加说明当产量每增加1千件时，单位成本平均千件时，单位成本平均下降下降1.82元。两者呈负相关。元。两者呈负相关。同时，用回归方程还可以进行预测，例：当产量达到同时，用回归方程还可以进行预测，例：当产量达到10千件时，单位成本会降到千件时，单位成本会降到66.55元。元。第62页，共100页，编辑于2022年，星期二例为研究用餐消费与小费支出的关系，随机抽取了10位用餐顾客，得样本数据如下（用EXCEL软件生成的散点图）请请拟拟合合样样本本回回归归方方程程第63页，共100页，编辑于2022年，星期二解：通过散点图可近似看出呈线性关系，故设两者有关系经济意义：用餐消费每增加经济意义：用餐消费每增加100100美元，小费支出平均增加美元，小费支出平均增加16.616.6美元。美元。第64页，共100页，编辑于2022年，星期二（八）回归系数与相关系数的关系 第65页，共100页，编辑于2022年，星期二（1）两者是同向的两者是同向的；（2）r反映变量的相关方向与密切程度反映变量的相关方向与密切程度；b反映某一变量变动一个单位时另一变量的平均变动反映某一变量变动一个单位时另一变量的平均变动b量量。第66页，共100页，编辑于2022年，星期二1.已知变量y依x的直线回归方程的斜率为b,又知变量y和x之间的相关系数是r，那么x变量依y变量的直线回归方程斜率是多少？2.已知直线回归方程yc=1.35+4.2x,=6,r=0.9 试求第67页，共100页，编辑于2022年，星期二（九）回归估计标准误差1.说明了回归直线的拟合程度的指标。是对回归直线的代表性大小的衡量.2.实际观察值与回归估计值离差平方和的均方根。3.反映实际观察值在回归直线周围的分散状况。4.计算公式为由样本资料计算由样本资料计算在统计学中，自由度指的是计算某一统计量时，取值不受限制的变量个数。通常df=n-k。其中n为样本含量，k为被限制的条件数或变量个数，或计算某一统计量时用到其它独立统计量的个数。第68页，共100页，编辑于2022年，星期二计计算算例例子子下表是有关下表是有关15个地区某种食物需求量和地区人口增加量的资料。个地区某种食物需求量和地区人口增加量的资料。第69页，共100页，编辑于2022年，星期二.回归估计标准误的简化计算公式（利用 可推导出上述公式）第70页，共100页，编辑于2022年，星期二七、判定系数(回归模型拟合程度的评价回归模型拟合程度的评价)（一）离差平方和（总变差）的分解（一）离差平方和（总变差）的分解1.因变量y 的取值是不同的，y 取值的这种波动称为总变差。变差来源于两个方面：由于自变量x 的取值不同造成的；除x 以外的其他随机因素的影响。2.对一个具体的观测值来说，总变差的大小可以通过该实际观测值与其均值之差来表示。判定系数是从另一角度说明回归直线拟合程度的又一度量值。判定系数是从另一角度说明回归直线拟合程度的又一度量值。它的引入是从离差平方和的分解入手的。它的引入是从离差平方和的分解入手的。第71页，共100页，编辑于2022年，星期二xyy y 总变差构成图解：总变差构成图解：第72页，共100页，编辑于2022年，星期二、变差的分解 SST=SSR+SSE总平方和总平方和(SST)回归平方和回归平方和(SSR)残差平方和残差平方和(SSE)从图中我们可将总变差分解从图中我们可将总变差分解第73页，共100页，编辑于2022年，星期二（1 1）总平方和）总平方和(SST)SST)反映因变量的反映因变量的 n n 个观察值与其均值的总离差个观察值与其均值的总离差（2 2）回归平方和）回归平方和(SSRSSR)反反映映由由于于 x x 与与 y y 之之间间的的线线性性关关系系引引起起的的 y y 的的取取值值变变化化，也也称称可可解解释释的的平平方方和和。说说明明自自变变量量 x x 的的变变化化对因变量对因变量 y y 取值变化的影响。取值变化的影响。（3 3）残差平方和）残差平方和(SSESSE)反反映映除除 x x 以以外外的的其其他他因因素素对对 y y 取取值值的的影影响响，也也称称为为不不可解释的平方和或剩余平方和。可解释的平方和或剩余平方和。第74页，共100页，编辑于2022年，星期二（二）判定系数（二）判定系数判定系数判定系数：也称决定系数或确定系数也称决定系数或确定系数也称决定系数或确定系数也称决定系数或确定系数。是指。是指。是指。是指回归变差占总变差的回归变差占总变差的比重比重是反映回归直线的是反映回归直线的是反映回归直线的是反映回归直线的拟合优度的统计指标。拟合优度的统计指标。拟合优度的统计指标。拟合优度的统计指标。第75页，共100页，编辑于2022年，星期二在直线相关中在直线相关中,判定系数就是相关系数的平方判定系数就是相关系数的平方.第76页，共100页，编辑于2022年，星期二 判定系数的作用判定系数的作用 此外，判定系数就测量变量之间的相关此外，判定系数就测量变量之间的相关关系而言，具有独立的意义。它不仅适用关系而言，具有独立的意义。它不仅适用线性相关，也适用非线性相关。线性相关，也适用非线性相关。第77页，共100页，编辑于2022年，星期二4、方差法相关系数第78页，共100页，编辑于2022年，星期二 例已知下列资料，试计算判定系数与估计标准误。第79页，共100页，编辑于2022年，星期二答：观察值与回归值之间的平均离差为答：观察值与回归值之间的平均离差为0.730.73，总离差中的总离差中的88.03%88.03%是是因为因为x x的变动所引起的的变动所引起的。或者说支出数值的变动中。或者说支出数值的变动中,有有88.03%88.03%是由收入的变动所决定的是由收入的变动所决定的.可见支出和收入之间有较强可见支出和收入之间有较强的相关关系的相关关系.第80页，共100页，编辑于2022年，星期二已知回归直线的斜率是0.8，自变量的方差是200，样本容量是20，那么回归离差平方和是多少。第81页，共100页，编辑于2022年，星期二八、回归方程的统计检验1.检验自变量和因变量之间的线性关系是否显著2.具体方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，我们知道对于一个具体的实验来说，SST是一个定值，如果SSR远大于SSE，则表明因变量和自变量之间的线性关系显著，否则，便认为不显著。F统计量就是这样构造来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系回归方程的显著性检验F检验模型整体拟合效果的显著性检验对于所拟合的回归模型需要检验其合理性对于所拟合的回归模型需要检验其合理性.检验的内容包括模型整体的拟合效果是检验的内容包括模型整体的拟合效果是否理想否理想,模型的参数在统计意义上是否显著模型的参数在统计意义上是否显著.第82页，共100页，编辑于2022年，星期二回归方程的显著性检验（检验的步骤）1.提出假设H0：线性关系不显著 H1：线性关系显著2.计算检验统计量计算检验统计量F3.确定显著性水平确定显著性水平，并根据分子自由度，并根据分子自由度1和分母和分母自由度自由度n-2找出临界值找出临界值F 4.作出决策：若作出决策：若F F ,拒绝拒绝H0；若若FF ,接受接受H0第83页，共100页，编辑于2022年，星期二回归系数的显著性检验t检验（要点）3.在在一一元元线线性性回回归归中中，等等价价于于回回归归方方程程的的显显著著性检验性检验1.回回归归系系数数的的显显著著性性检检验验是是进进一一步步检检验验自自变变量量 x 对对因因变变量量 y 的的影影响响是是否否显显著著。如如果果总总体体回回归归系系数数b=0，总总体体回回归归直直线线是是一一条条水水平平线线，表表明明自自变变量量的的变变化化对对因因变变量量没