三版）第9章 回归分析ppt课件.ppt

《三版）第9章 回归分析ppt课件.ppt》由会员分享，可在线阅读，更多相关《三版）第9章 回归分析ppt课件.ppt（86页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、概率（第三版）第9章 回归分析电子课件第九章第九章21 1 问题的提出问题的提出 变量之间的关系大致有两种，一是函数关系，是确变量之间的关系大致有两种，一是函数关系，是确定性的，如定性的，如 s=v t;另一种是相关关系，是不确定的。另一种是相关关系，是不确定的。在社会经济领域，更多的是相关关系。如投入与产在社会经济领域，更多的是相关关系。如投入与产出、价格与需求的关系等等。出、价格与需求的关系等等。回归分析方法是处理变量间相互关系的有力工具。回归分析方法是处理变量间相互关系的有力工具。32 2 一元正态线性回归一元正态线性回归一、散点图与回归直线一、散点图与回归直线 将将n对观察结果作为直角

2、平面上的点，这样得对观察结果作为直角平面上的点，这样得到的图形称为散点图。散点图可以帮助我们粗略到的图形称为散点图。散点图可以帮助我们粗略地看出地看出 x 与与 y 的相关关系的形式。的相关关系的形式。4例例1 1 价格与供给量的观察数据见下表：价格与供给量的观察数据见下表：x(元）元）2 3 4 5 6 8101214 16y(吨）吨）1520 25 30 35 45 608080 110散点图散点图由图由图1可以看出，可以看出，x 与与 y 之间存在一定的相关关系，之间存在一定的相关关系，且这种关系是线性关系。且这种关系是线性关系。图图1 15其他可能的相关关系见下图：其他可能的相关关系见

3、下图：6 图图1的的10个点虽然不在一直线上，但大致散布于一个点虽然不在一直线上，但大致散布于一条直线周围，我们把其表示为：条直线周围，我们把其表示为：即对每一个即对每一个x值，值，其中其中不依赖于不依赖于x 的未知参数。的未知参数。称上述方程为称上述方程为y 关于关于x 的的一元一元线性回归方程线性回归方程。通常记为。通常记为7求求 a,b 估计值的方法：估计值的方法：(一一)作图法：简单方便，但精度差，局限性大；作图法：简单方便，但精度差，局限性大；(二二)参数估计法：参数估计法：最大似然估计法；最大似然估计法；矩估计法；矩估计法；最小二乘估计法（常用）。最小二乘估计法（常用）。8二、最小

4、二乘法二、最小二乘法达到最小。达到最小。上述原则即称为最小二乘原则，由此估计上述原则即称为最小二乘原则，由此估计a,b的方法称为的方法称为最小二乘法最小二乘法。LSE(Least Square Estimation)9 称为称为正规方程组正规方程组其中其中10系数行列式系数行列式所以方程组有唯一解所以方程组有唯一解11记记则则显然回归直线经过散点图显然回归直线经过散点图的几何中心的几何中心12例例2 2 价格与供给量的观察数据见下表：价格与供给量的观察数据见下表：x(元）元）2 3 4 5 6 810 12 14 16y(吨）吨）15 20 25 30 35 45 60 80 80 110求求

5、 y 对对 x 的回归方程。的回归方程。解解13所以所求回归方程为所以所求回归方程为14三、线性关系的显著性检验三、线性关系的显著性检验 上述方法得到的模型是否具有实际意义（事实上述方法得到的模型是否具有实际意义（事实上任何一组数据代入都可以得到经验公式），需上任何一组数据代入都可以得到经验公式），需要建立一个合理的检验方法。要建立一个合理的检验方法。常用的方法有常用的方法有 F 检验检验,t 检验检验,R 检验方法。不检验方法。不难证明，三种方法是一致的。难证明，三种方法是一致的。本节主要介绍本节主要介绍 F 检验。检验。15（一）平方和分解公式（一）平方和分解公式XY16因此有因此有17所

6、以所以记记则则18由于由于的相关关系引起的，的相关关系引起的，因此因此 U 称为称为回归平方和回归平方和。它是通过它是通过 x 对对 Y19 Q 表示除去表示除去x 对对 Y 的线性影响以的线性影响以外的所有其它影响之和，因此外的所有其它影响之和，因此 Q 称为称为残差平方和残差平方和或或剩余平方和剩余平方和。从图上看有从图上看有两端平方后求和有两端平方后求和有总离差平方和总离差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）20总离差平方和总离差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）1 1、总离差平方和、总离差平方和(SST)

7、-反映因变量的反映因变量的 n 个观察值与其均值的总离差个观察值与其均值的总离差2 2、回归平方和、回归平方和(SSR)即即 U -反反映映自自变变量量 x 的的变变化化对对因因变变量量 y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 x 与与 y 之之间间的的线线性性关关系系引引起的起的 y 的取值变化，也称为可解释的平方和的取值变化，也称为可解释的平方和3 3、残差平方和、残差平方和(SSE)即即 Q -反反映映除除 x 以以外外的的其其他他因因素素对对 y 取取值值的的影影响响，也称为不可解释的平方和或剩余平方和也称为不可解释的平方和或剩余平方和21影响越大，反之，则越小。

8、特别地，影响越大，反之，则越小。特别地，总离差平方和总离差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）22关于关于 U 和和 Q 的计算公式：的计算公式：23（二）（二）F 检验检验 比值比值 U/Q 反映了反映了 x 与与 Y 之间的线性相关关系与随机之间的线性相关关系与随机因素对因素对 Y 的影响的大小，比值越大，说明线性相关关的影响的大小，比值越大，说明线性相关关系越强，但大到什么程度就能说明系越强，但大到什么程度就能说明 x 与与 Y 有线性相关有线性相关关系呢？关系呢？用假设检验的方法进行检验，通常选用用假设检验的方法进行检验，通常选用作为检验量。作为

9、检验量。24可以证明，可以证明，25亦即亦即x、Y之间不存在线性相关关系；之间不存在线性相关关系；说明说明x 对对 Y 没有线性影响，没有线性影响，反之，若反之，若 ，x、Y之间存在线性相关关系。之间存在线性相关关系。因此提出假设因此提出假设可以证明，若可以证明，若H0 0成立，则统计量成立，则统计量因此可用因此可用 F 检验法进行检验。检验法进行检验。26F 检验的具体步骤：检验的具体步骤：即认为即认为 x、Y 之间存在线性相关关系；之间存在线性相关关系；若不能否定若不能否定H0，则没有理由认为，则没有理由认为 x、Y 之间存在线之间存在线性相关关系。性相关关系。27例例3 3 价格与供给量

10、的观察数据见下表：价格与供给量的观察数据见下表：x(元）元）2 3 4 5 6 810 12 14 16y(吨）吨）15 20 25 30 35 45 60 80 80 110解解已求得回归方程：已求得回归方程：试检验回归效果。试检验回归效果。28即回归效果显著。即回归效果显著。29 序号序号社会商品零售额社会商品零售额 x税收总额税收总额 Y1142.083.932177.315.96 3204.687.854242.889.825316.2412.516341.9915.557332.6915.798389.2916.399453.4118.45例例4 4 求下表中营业税税收总额求下表中营

11、业税税收总额 Y 对社会商品零售总额对社会商品零售总额 x 的线性回归方程，并对回归效果作显著性检验。的线性回归方程，并对回归效果作显著性检验。(单单位位：亿元，显著性水平：亿元，显著性水平30解解所以回归方程为所以回归方程为31再检验回归效果：再检验回归效果：即回归效果显著。即回归效果显著。32（三）相关系数（三）相关系数定义定义称统计量称统计量为为相关系数相关系数。在进行回归效果检验时，也可采用上述统计量。在进行回归效果检验时，也可采用上述统计量。33故拒绝域可取为故拒绝域可取为34相关系数检验的具体步骤：相关系数检验的具体步骤：35例例5 5 对对例例4中的中的回归方程作回归方程作 R

12、检验。检验。解解经计算得经计算得即回归效果显著。即回归效果显著。36事实上，上述两种检验方法是一致的。事实上，上述两种检验方法是一致的。这是因为，这是因为，F 和和 R 有如下的关系：有如下的关系：证明证明37由上述证明还可得到由上述证明还可得到38（四）预测与控制（四）预测与控制如果变量如果变量 Y 与与 x 之间的线性相关关系显著，利用之间的线性相关关系显著，利用求出的线性回归方程求出的线性回归方程就大致反映了变量就大致反映了变量 Y 与与 x 之间的变化规律，因此可之间的变化规律，因此可以利用回归方程进行预测与控制。以利用回归方程进行预测与控制。观测数据观测数据391、预测、预测 所谓预

13、测，就是当所谓预测，就是当 x 取某一特定值取某一特定值 x0 时，对时，对 y 的取的取值作出估计的问题。值作出估计的问题。点预测的方法是：以点预测的方法是：以 x=x0 代入回归方程，即代入回归方程，即得得 y 的点估计值（点预测值）为：的点估计值（点预测值）为：根据要求的不同，有两类预测的方法，分别是根据要求的不同，有两类预测的方法，分别是点预点预测测和和区间预测区间预测。40 为了知道预测的精确性与可靠性，在实际应用中，为了知道预测的精确性与可靠性，在实际应用中，还需要对还需要对Y0作区间估计，即对于给定的置信度作区间估计，即对于给定的置信度 ，区间预测区间预测的方法是：的方法是：求出

14、求出Y0的置信区间，称为预测区间。的置信区间，称为预测区间。利用统计量利用统计量可以证明，可以证明，414243444546例例6 6 求试对求试对例例4中当中当社会商品零售总额社会商品零售总额 x=300亿元时的亿元时的营业总额作出预测。营业总额作出预测。解解回归方程为回归方程为点预测：点预测：区间预测：区间预测：所以预测区间为所以预测区间为472、控制、控制 控制是预测的反问题，问题的提法是：如要求控制是预测的反问题，问题的提法是：如要求 y 的的观察值落在指定区间观察值落在指定区间(y1,y2)内，我们应该怎样控制内，我们应该怎样控制 x的取值呢？的取值呢？即要求即要求x1,x2,使使

15、x1 x F，拒绝拒绝H0；否则否则不拒绝不拒绝H0。F 值越大，值越大，方程的总体线性关系方程的总体线性关系越显著。越显著。81 显显然然，当当H0成成立立时时，即即表表示示模模型型中中被被解解释释变变量量与与解解释释变变量量之之间间不不存存在在显显著著的的线线性性关关系系；当当H1成成立时，即表示模型的线性关系成立。立时，即表示模型的线性关系成立。具体步骤如下：具体步骤如下：1.建立假设建立假设 原假设原假设 H0：备择假设备择假设 H1：i 不全为不全为 0822.在在H0成立的条件下，构造统计量成立的条件下，构造统计量 直直观观上上看看，回回归归平平方方和和RSS是是解解释释变变量量整

16、整体体对对被被解解释释变变量量Y的的线线性性作作用用的的结结果果，如如果果RSS/ESS的的比比值值较较大大，则则解解释释变变量量整整体体对对Y的的解解释释程程度度高高，可可以以认认为为总总体体存存在在线线性性关关系系；反反之之，总总体体可可能能不不存存在在线线性性关关系系。因因此此，可可以以通通过过该该比比值值的的大大小小对对总总体体线线性性关关系进行推断。系进行推断。83若若F F(k,n-k-1),则接受则接受H0，即即回归效果回归效果不显著。不显著。3.计算，判断计算，判断给定显著性水平给定显著性水平，查，查 F 分布表，可得到临界值分布表，可得到临界值F(k,n-k-1)，由样本求出统计量由样本求出统计量 F 的数值。的数值。若若F F(k,n-k-1),则拒绝则拒绝H0，即回归效果显著；即回归效果显著；84练习：练习：P191 习题九习题九1.2.3.85END86