92-第九章第二节(概率统计).ppt

《92-第九章第二节(概率统计).ppt》由会员分享，可在线阅读，更多相关《92-第九章第二节(概率统计).ppt（31页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第九章第九章 回归分析回归分析9.2 一元线性回归分析一元线性回归分析上页上页下页下页返回返回上页上页下页下页返回返回 内容简介内容简介:建立一元线性回归分析的理建立一元线性回归分析的理论与方法论与方法,其中得到了线性回归方程其中得到了线性回归方程,讨论了讨论了线性回归方程的显著性线性回归方程的显著性,研究了点预测和区间研究了点预测和区间预测问题预测问题.一元线性回归分析方法在解决实际一元线性回归分析方法在解决实际问题中非常重要问题中非常重要,是数据统计分析的常用方法，是数据统计分析的常用方法，在科技论文中常用在科技论文中常用.第九章第九章 回归分析回归分析9.2 一元线性回归分析一元线性回归

2、分析上页上页下页下页返回返回上页上页下页下页返回返回一、问题提出一、问题提出 在一元线性回归分析中在一元线性回归分析中,有两个变量有两个变量,其中其中X是可观测是可观测、可控制的普通变量可控制的普通变量,Y 为随为随机变量机变量.如何寻找和判定如何寻找和判定Y 与与X 之间是否存在之间是否存在着显著的线性相关关系呢着显著的线性相关关系呢?如果存在如果存在,我们我们将如何利用它们的线性关系进行预测和控制将如何利用它们的线性关系进行预测和控制呢呢?如，子女身高与父母身高是否存在着某如，子女身高与父母身高是否存在着某种统计规律种统计规律?产品强度是否与温度有关系产品强度是否与温度有关系?上页上页下页

3、下页返回返回上页上页下页下页返回返回 9.2.2 预备知识预备知识 最小二乘法最小二乘法,检验统计量检验统计量,参数假设参数假设检验方法检验方法,置信区间置信区间.上页上页下页下页返回返回上页上页下页下页返回返回 前面我们曾提到前面我们曾提到,在一元线性回归在一元线性回归分析中分析中,有两个变量有两个变量,其中其中X是可观测、是可观测、可控制的普通变量可控制的普通变量,常称它为常称它为自变量自变量或控制变量或控制变量,Y 为为随机变量随机变量,常称其为常称其为响应变响应变量量.通过散点图可以判定通过散点图可以判定Y与与X之间是否存在之间是否存在着显著的线性相关关系着显著的线性相关关系,即即Y与

4、与X之间存在如之间存在如下关系：下关系：（9.2.1）9.2.3 建立理论建立理论 1.一元正态回归模型一元正态回归模型上页上页下页下页返回返回上页上页下页下页返回返回 通常认为通常认为 N(0,)且假设且假设 与与X无关无关.将观测数据将观测数据 (i=1,2,n)代入代入(9.2.1)式式,再注意样本为简单随机样本再注意样本为简单随机样本,得得 称称(9.2.2)式式所所确确定定的的模模型型为为一一元元正正态态线线性性回回归归模模型型,对对其其进进行行统统计计分分析析称称为为一一元元线线性回归分析性回归分析.相互独立且同分布相互独立且同分布(9.2.2)上页上页下页下页返回返回上页上页下页

5、下页返回返回不难理解不难理解,在模型在模型(9.2.1)中中,E(Y)=a+bx.若记若记y=E(Y),则我们则我们得得到到关关系系式式y=a+bx,此此等等式式就就是是所所谓谓的的一一元元线线性性回回归归方方程程,其其图图像像就就是是回回归归直直线线,b为为回回归系数归系数,a称为称为回归常数回归常数,也称为也称为回归系数回归系数.现讨论如何根据观测值现讨论如何根据观测值(i=1,2,n)估计模型估计模型(9.2.2)中回归函数中回归函数 f(X)=a+bx的回归系数的回归系数.上页上页下页下页返回返回上页上页下页下页返回返回采用最小二乘法采用最小二乘法,记平方和记平方和（9.2.3）我们寻

6、找使我们寻找使Q(a,b)达到最小的达到最小的a,b作为其作为其估计估计,即即为此为此,对对Q(a,b)求偏导求偏导,令令上页上页下页下页返回返回上页上页下页下页返回返回 化简化简,得到如下方程组得到如下方程组(称为称为模型的正规方程组模型的正规方程组),解得，解得，（9.2.4）上页上页下页下页返回返回上页上页下页下页返回返回称称 为为Y关于关于X 的的经验回归直线方程经验回归直线方程 或或经验公式经验公式,其图形称为其图形称为回归直线回归直线.(9.2.4)式式 分分别别称称为为a,b的的最最小小二二乘乘估估计计值值,将其中的将其中的y改写为随机变量改写为随机变量Y,就得到就得到a,b的的

7、最小二乘估计量最小二乘估计量.(9.2.4)式中式中上页上页下页下页返回返回上页上页下页下页返回返回 *例例9.2.1 某种合成纤维的强度与某种合成纤维的强度与其拉伸倍数有关其拉伸倍数有关.下表是下表是24个纤维样品个纤维样品的强度与相应的拉伸倍数的实测记录的强度与相应的拉伸倍数的实测记录.试求这两个变量间的经验公式试求这两个变量间的经验公式.编号编号123456789101112拉伸倍数拉伸倍数X1.92.02.12.52.72.73.53.54.04.04.54.6强度强度Y(Mpa)1.41.31.82.52.82.53.02.74.03.54.23.5编号编号1314151617181

8、92021222324拉伸倍数拉伸倍数X5.05.26.06.36.57.18.08.08.99.09.510强度强度Y(Mpa)5.55.05.56.46.05.36.57.08.58.08.18.1上页上页下页下页返回返回上页上页下页下页返回返回 解解 从本例的散点图看出从本例的散点图看出(见图见图9-1),强度强度Y与拉伸倍数与拉伸倍数x之间大致呈现之间大致呈现线性线性相关关系相关关系,因此一元线性回归模型是适用因此一元线性回归模型是适用Y与与x的的.图图9-1 例例9.2.1数据散点图数据散点图上页上页下页下页返回返回上页上页下页下页返回返回现用公式现用公式(9.2.4)求求 ,这里这

9、里n=24,上页上页下页下页返回返回上页上页下页下页返回返回 由此得到强度由此得到强度Y 与拉伸倍数与拉伸倍数X 之间的之间的经验公式为经验公式为2.线性相关性的检验线性相关性的检验 前面的讨论都是在假设前面的讨论都是在假设Y 与与X 呈现线性呈现线性相关关系的前提下进行的相关关系的前提下进行的,若这个假设不成立若这个假设不成立,则我们建立的经验回归直线方程也就完全失则我们建立的经验回归直线方程也就完全失去实际意义去实际意义.为此必须对为此必须对Y与与X之间的线性相之间的线性相关关系作出理论上的检验关关系作出理论上的检验.上页上页下页下页返回返回上页上页下页下页返回返回(1)偏差平方和分解及其

10、实际意义偏差平方和分解及其实际意义 已已知知 ,将其中的将其中的 改写为改写为 ,改写为改写为 ,并记并记人们称它为人们称它为总偏差平方和总偏差平方和,它反映数据它反映数据 的的总波动总波动.简单计算，易得简单计算，易得 有如下分解式有如下分解式:上页上页下页下页返回返回上页上页下页下页返回返回其中其中 称为称为回归平方和回归平方和,它反映了它反映了回归方程回归方程 的理论值的理论值 对对 平平均值的离散程度均值的离散程度.称为称为剩余平方和剩余平方和或或残差平方和残差平方和,它是实际观察值它是实际观察值 与与 回归值的回归值的离差平方和离差平方和,反映了随机因素对反映了随机因素对Y取值的影响

11、取值的影响,从从(9.2.5)式可知式可知,它等于从总偏差平方和它等于从总偏差平方和 中中扣除扣除X 对对Y 的线性影响的线性影响U后的剩余部分后的剩余部分.通常记为通常记为(9.2.5)上页上页下页下页返回返回上页上页下页下页返回返回(2)线性相关的线性相关的F 检验法检验法根据上述分析的思想来构造检验统计量根据上述分析的思想来构造检验统计量.(9.2.6)再由再由(9.2.5)式得到随机变量关系式式得到随机变量关系式(9.2.7)注意到关系式注意到关系式 及及 ，将其代入到将其代入到 中中,得到得到上页上页下页下页返回返回上页上页下页下页返回返回 理论研究表明，检验统计量理论研究表明，检验

12、统计量 解解 检验检验 选用检验统计量选用检验统计量 例例9.2.2 (续例续例9.2.1)数据见例数据见例9.2.1,取显取显著性水平著性水平 =0.05,检验回归方程检验回归方程 的显著性的显著性.当当FF(1,n-2)时，拒绝原假设时，拒绝原假设H0.上页上页下页下页返回返回上页上页下页下页返回返回 由由 查表得查表得现计算现计算F值值,由由得得因为因为 ,所以拒绝原假设所以拒绝原假设 ,即认为即认为所得的经验回归方程有显著意义所得的经验回归方程有显著意义.上页上页下页下页返回返回上页上页下页下页返回返回我我们们根根据据观观测测数数据据 ,i=1,2,n,得得到到经经验验回回归归方方程程

13、 ,当当控控制制变变量量X取值取值 时时,如何估计或预测相应的如何估计或预测相应的 呢呢？这就是所谓的这就是所谓的预测问题预测问题.4.预测预测 对于一元线性回归模型对于一元线性回归模型上页上页下页下页返回返回上页上页下页下页返回返回并称并称 为为 点估计点估计或或点预测点预测.在实际应用中在实际应用中,响应变量响应变量Y比较难观测比较难观测,而控制变量而控制变量x 却比较容易观察或测量却比较容易观察或测量,根据观根据观测资料得到经验公式后测资料得到经验公式后,只要指定控制变量只要指定控制变量x就就能求得相应变量能求得相应变量Y的估计和预测值的估计和预测值,这是回归这是回归(1)点预测点预测

14、自然我们想到用经验公式自然我们想到用经验公式 ,取取 来估计实际的来估计实际的上页上页下页下页返回返回上页上页下页下页返回返回分析最重要的应用之一分析最重要的应用之一.例如例如,在例在例9.2.1中中,若若指定拉伸倍数指定拉伸倍数 ,则可预测强度则可预测强度 .(2)区间预测区间预测 但但是是,上上面面这这样样的的点点估估计计用用来来预预测测Y究究竟竟好好不不好好呢呢?它它的的可可信信程程度度和和精精度度如如何何?我我们们希希望望知知道道估估计计的的可可信信程程度度,于于是是就就有有考考虑虑给给出一个类似于置信区间的出一个类似于置信区间的预测区间预测区间的想法的想法.上页上页下页下页返回返回上

15、页上页下页下页返回返回 理论研究的结果是：理论研究的结果是：选取检验统计量选取检验统计量 对于给定的置信水平对于给定的置信水平 ,查自由度为查自由度为n-2的的t分布表可得满足分布表可得满足其中其中 是总体是总体 的方差的方差 的无偏估计的无偏估计.上页上页下页下页返回返回上页上页下页下页返回返回 这就是这就是 的置信度为的置信度为 的的预测区间预测区间,区区间的中点间的中点 随随 而线性变化而线性变化区间的长度区间的长度在在 处最短处最短,x越远离越远离 ,预测区间的长度就预测区间的长度就越长越长.预测区间的上限与下限落在关于经验回预测区间的上限与下限落在关于经验回归直线对称的两条曲线上归直

16、线对称的两条曲线上,呈现喇叭形状呈现喇叭形状,见图见图9-2.的临界值的临界值 .利用不等式的恒等变形利用不等式的恒等变形,可得可得 的置信水平为的置信水平为 的置信区间为的置信区间为 (9.2.9)上页上页下页下页返回返回上页上页下页下页返回返回图图9-2 经验回归直线与预测区间经验回归直线与预测区间(9.2.10)当当n较大较大,充分大时充分大时,可得可得 的的近似预测区间近似预测区间上页上页下页下页返回返回上页上页下页下页返回返回上式说明预测区间的长度上式说明预测区间的长度,即预测的精度即预测的精度主要由主要由 确定确定,因此在预测中因此在预测中,是一个是一个基本而重要的量基本而重要的量

17、,在计算上有等式在计算上有等式(9.2.11)上页上页下页下页返回返回上页上页下页下页返回返回 解解 在上两例中已经求得在上两例中已经求得:,查表得到查表得到 例例9.2.3 (续例续例9.2.1)例例9.2.1得到回归方程得到回归方程 .考虑拉伸倍数考虑拉伸倍数X0=7.5时时,得到预测强度得到预测强度 .现在取置信水平现在取置信水平 ,再考虑拉伸倍数再考虑拉伸倍数x0=7.5时对应强度时对应强度的预测区间的预测区间.所以所以上页上页下页下页返回返回上页上页下页下页返回返回所以拉伸倍数所以拉伸倍数 时时,强度的置信水平为强度的置信水平为0.950.95的预测区间为的预测区间为因此因此,对于拉

18、伸倍数对于拉伸倍数 ,对应强度的对应强度的置信水平为置信水平为0.95的预测区间是的预测区间是(5.5061,7.6739).上页上页下页下页返回返回上页上页下页下页返回返回9.2.4 内容小结内容小结 为进行回归分析为进行回归分析,我们通常先进行我们通常先进行n次独立观测次独立观测,得到得到X与与Y的的n对实测数据对实测数据(xi,yi),i=1,2,n,利用这些数据对回归函数利用这些数据对回归函数f(x)进行估计进行估计.(1)如何确定回归函数如何确定回归函数f(x)的类型呢的类型呢?画画散点图散点图,或者计算相关系数或者计算相关系数,以观察或分析函以观察或分析函数类型数类型.上页上页下页

19、下页返回返回上页上页下页下页返回返回9.2.5 习题布置习题布置习题习题9.2 4、5.(2)一元线性回归分析一元线性回归分析,我们要我们要完成哪些工作呢完成哪些工作呢?计算回归系数计算回归系数,进行进行显著性检验显著性检验,做预测和控制做预测和控制.上页上页下页下页返回返回上页上页下页下页返回返回参考文献与联系方式参考文献与联系方式1 郑一,王玉敏,冯宝成.概率论与数理统计.大连理 工大学出版社，2015年8月.2 郑一,戚云松,王玉敏.概率论与数理统计学习指 导书.大连理工大学出版社，2015年8月.3 郑一,戚云松,陈倩华,陈健.光盘：概率论与数理 统计教案 作业与试卷及答案 数学实验视频.大 连理工大学出版社，2015年8月.4 王玉敏,郑一,林强.概率论与数理统计教学实验 教材.中国科学技术出版社，2007年7月.联系方式：