工程硕士数理统计课件第七讲.ppt

《工程硕士数理统计课件第七讲.ppt》由会员分享，可在线阅读，更多相关《工程硕士数理统计课件第七讲.ppt（21页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 一、回归分析的基本概念一、回归分析的基本概念 二、一元线性回归模型二、一元线性回归模型 三、预测三、预测 四、应用案例四、应用案例第五章第五章 一元线性回归一元线性回归退 出前一页后一页目 录可人为改变可人为改变可人为改变可人为改变(可控因素可控因素可控因素可控因素)化工产品苯酚的产率记为化工产品苯酚的产率记为化工产品苯酚的产率记为化工产品苯酚的产率记为 影响产率的五个主要影响产率的五个主要影响产率的五个主要影响产率的五个主要因素有因素有因素有因素有温度温度温度温度 时间时间时间时间 压力压力压力压力 催化剂种类催化剂种类催化剂种类催化剂种类 碱液用量碱液用量碱液用量碱液用量、随各随各随各随

2、各 的变化而变化的变化而变化的变化而变化的变化而变化,即即即即 是因变量是因变量是因变量是因变量即使各即使各即使各即使各 相同相同相同相同 的值也不完全相同的值也不完全相同的值也不完全相同的值也不完全相同,故故故故 是是是是即有即有即有即有进行统计推断进行统计推断进行统计推断进行统计推断一般地一般地一般地一般地,未知未知未知未知,如何确定如何确定如何确定如何确定对对对对回归函数回归函数回归函数回归函数 是普通函数是普通函数是普通函数是普通函数,表示表示表示表示 与与与与各各各各 之间的确定性关系之间的确定性关系之间的确定性关系之间的确定性关系不可观测的随机误差不可观测的随机误差不可观测的随机误

3、差不可观测的随机误差 一、回归分析的基本概念一、回归分析的基本概念一、回归分析的基本概念一、回归分析的基本概念可用函数可用函数可用函数可用函数 表示表示表示表示带有随机性带有随机性带有随机性带有随机性,不能用确定的函数表示不能用确定的函数表示不能用确定的函数表示不能用确定的函数表示 人的身高人的身高人的身高人的身高 与体重与体重与体重与体重 之间存在一定关系之间存在一定关系之间存在一定关系之间存在一定关系 人的年龄人的年龄人的年龄人的年龄 与血压与血压与血压与血压 之间存在一定关系之间存在一定关系之间存在一定关系之间存在一定关系 某地温度某地温度某地温度某地温度 与湿度与湿度与湿度与湿度 之间

4、存在一定关系之间存在一定关系之间存在一定关系之间存在一定关系 广告投入广告投入广告投入广告投入 与销量与销量与销量与销量 之间存在一定关系之间存在一定关系之间存在一定关系之间存在一定关系 复习时间复习时间复习时间复习时间 与成绩与成绩与成绩与成绩 之间存在一定关系之间存在一定关系之间存在一定关系之间存在一定关系 x x、y y 之间存在一种随之间存在一种随之间存在一种随之间存在一种随机的相依关系机的相依关系机的相依关系机的相依关系:相关关系相关关系相关关系相关关系可以任意给定，或可以控制，或可以观察的量可以任意给定，或可以控制，或可以观察的量可以任意给定，或可以控制，或可以观察的量可以任意给定

5、，或可以控制，或可以观察的量随着随着随着随着 的变化而变化，即使对于相同的变化而变化，即使对于相同的变化而变化，即使对于相同的变化而变化，即使对于相同 的值，的值，的值，的值，的的的的取值也不相同，因而取值也不相同，因而取值也不相同，因而取值也不相同，因而 是是是是R.VR.VR.VR.V称称称称 为自变量，或控制变量为自变量，或控制变量为自变量，或控制变量为自变量，或控制变量称称称称 为因变量，或响应变量为因变量，或响应变量为因变量，或响应变量为因变量，或响应变量研究自变量与因变量之间的相关关系的一种数学工具。研究自变量与因变量之间的相关关系的一种数学工具。研究自变量与因变量之间的相关关系的

6、一种数学工具。研究自变量与因变量之间的相关关系的一种数学工具。提供了变量之间相关关系的一种近似表达：经验公式提供了变量之间相关关系的一种近似表达：经验公式提供了变量之间相关关系的一种近似表达：经验公式提供了变量之间相关关系的一种近似表达：经验公式变量的特点变量的特点变量的特点变量的特点回归分析研究的内容回归分析研究的内容回归分析研究的内容回归分析研究的内容回归分析的任务回归分析的任务回归分析的任务回归分析的任务根据根据根据根据X X X X取定一组值取定一组值取定一组值取定一组值 ，和，和，和，和Y Y Y Y的观测值的观测值的观测值的观测值去估计这个函数去估计这个函数去估计这个函数去估计这个

7、函数 ，以及讨论与此有关的种种统计推断，以及讨论与此有关的种种统计推断，以及讨论与此有关的种种统计推断，以及讨论与此有关的种种统计推断问题。问题。问题。问题。回归分析的分类回归分析的分类回归分析的分类回归分析的分类根据根据根据根据f(x)f(x)的不同数学形式，可分为：的不同数学形式，可分为：的不同数学形式，可分为：的不同数学形式，可分为：线性回归线性回归线性回归线性回归非线性回归非线性回归非线性回归非线性回归一元线性回归一元线性回归一元线性回归一元线性回归多元线性回归多元线性回归多元线性回归多元线性回归一元非线性回归一元非线性回归一元非线性回归一元非线性回归多元非线性回归多元非线性回归多元非

8、线性回归多元非线性回归回归分析解决的基本问题回归分析解决的基本问题回归分析解决的基本问题回归分析解决的基本问题（1 1 1 1）如何根据抽样信息确定线性回归函数）如何根据抽样信息确定线性回归函数）如何根据抽样信息确定线性回归函数）如何根据抽样信息确定线性回归函数f(x)f(x)中中中中的的的的参数的估计量。参数的估计量。参数的估计量。参数的估计量。（2 2 2 2）检验回归模型假设的正确性。）检验回归模型假设的正确性。）检验回归模型假设的正确性。）检验回归模型假设的正确性。（3 3 3 3）如何应用回归分析进行预测和控制。）如何应用回归分析进行预测和控制。）如何应用回归分析进行预测和控制。）如

9、何应用回归分析进行预测和控制。回回归归一一词词是是英英国国著著名名人人类类学学家家和和气气象象学学家家高高尔尔顿顿于于18851885年年引引入入的的.在在“身身高高遗遗传传中中的的平平庸庸回回归归”的的论论文文中中,高高尔尔顿顿阐阐述述了了他他的的重重大大发发现现：虽虽然然高高个个子子的的先先代代会会有有高高个个子子的的后后代代,但但子子代代的的身身高高并并不不象象其其父父代代,而而是是趋趋向向于于比比他他们们的的父父代代更更加加平平均均,就就是是说说如如果果父父亲亲身身材材高高大大,则则子子代代的的身身材材要要比比父父代代矮矮小小一一些些；如如果果父父亲亲身身材材矮矮小小,则则子子代代的的

10、身身材材要要比比父父代代高高大大一一些些.换换言言之之,子子代代的的身身高高有有向向平平均均值值靠靠拢拢的的趋趋向向.因因此此,他他用用回回归归一一词词来来描描述述子子代代身身高高与与父父代身高的这种关系代身高的这种关系.是自然界的一种现象是自然界的一种现象,是一种自然规律是一种自然规律.二、一元线性回归模型二、一元线性回归模型二、一元线性回归模型二、一元线性回归模型设儿子身高为设儿子身高为设儿子身高为设儿子身高为 ,父亲身高为父亲身高为父亲身高为父亲身高为 英英英英国国国国著著著著名名名名统统统统计计计计学学学学家家家家皮皮皮皮尔尔尔尔逊逊逊逊等等等等人人人人搜搜搜搜集集集集了了了了上上上上

11、千千千千个个个个家家家家庭庭庭庭成员的身高数据成员的身高数据成员的身高数据成员的身高数据,分析得出分析得出分析得出分析得出 ,它们具有相关关系它们具有相关关系它们具有相关关系它们具有相关关系假设假设假设假设 为线性函数为线性函数为线性函数为线性函数,即有即有即有即有(单位单位单位单位:英寸英寸英寸英寸)故有故有故有故有 儿子身高 与父亲身高 的回归模型 170cm170cm170cm170cm175cm175cm175cm175cm180cm180cm180cm180cm，即设，即设，即设，即设则得到则得到则得到则得到一元线性回归模型一元线性回归模型一元线性回归模型一元线性回归模型未知未知未知

12、未知,怎样求回归函数？怎样求回归函数？怎样求回归函数？怎样求回归函数？通常假设通常假设通常假设通常假设 为一多项式为一多项式为一多项式为一多项式最简单的假设是设最简单的假设是设最简单的假设是设最简单的假设是设 为线性函数为线性函数为线性函数为线性函数估计回归函数估计回归函数估计回归函数估计回归函数估计系数估计系数估计系数估计系数于是于是于是于是即怎样估计即怎样估计即怎样估计即怎样估计？对对对对 作线性假设的数学原理是什么？作线性假设的数学原理是什么？作线性假设的数学原理是什么？作线性假设的数学原理是什么？其中其中其中其中 是可观察的控制变量，是可观察的控制变量，是可观察的控制变量，是可观察的控

13、制变量，是响应变量是响应变量是响应变量是响应变量(r.v)(r.v)(r.v)(r.v)。与与与与 之间有怎样的关系？之间有怎样的关系？之间有怎样的关系？之间有怎样的关系？的影响的影响的影响的影响,测得数据如下测得数据如下测得数据如下测得数据如下为研究某化学反应过程中为研究某化学反应过程中为研究某化学反应过程中为研究某化学反应过程中,温度温度温度温度对产品得率对产品得率对产品得率对产品得率即即即即 具有如下形式具有如下形式具有如下形式具有如下形式 对于一元线性回归模型对于一元线性回归模型对于一元线性回归模型对于一元线性回归模型未知参数未知参数未知参数未知参数 的点估计是什么？的点估计是什么？的

14、点估计是什么？的点估计是什么？线性模型的假设是否符合实际？线性模型的假设是否符合实际？线性模型的假设是否符合实际？线性模型的假设是否符合实际？怎样将线性模型用于控制？怎样将线性模型用于控制？怎样将线性模型用于控制？怎样将线性模型用于控制？怎样将线性模型用于预测？怎样将线性模型用于预测？怎样将线性模型用于预测？怎样将线性模型用于预测？怎样将非线性问题化为线性模型？怎样将非线性问题化为线性模型？怎样将非线性问题化为线性模型？怎样将非线性问题化为线性模型？,称称称称取取取取 的的的的 个不全相同的值个不全相同的值个不全相同的值个不全相同的值 作作作作 次独立试验，次独立试验，次独立试验，次独立试验，

15、得得得得 的观察值为的观察值为的观察值为的观察值为为样本为样本为样本为样本.是否独立？是否独立？是否独立？是否独立？是否同分布？是否同分布？是否同分布？是否同分布？以后称以后称以后称以后称为样本为样本为样本为样本代入线性模型，则有代入线性模型，则有代入线性模型，则有代入线性模型，则有独立同分布独立同分布独立同分布独立同分布,记记记记则则则则若若若若 全相同，则试全相同，则试全相同，则试全相同，则试验数据只反映随机误差验数据只反映随机误差验数据只反映随机误差验数据只反映随机误差,令令令令记记记记得得得得正规方程组正规方程组正规方程组正规方程组不全相同不全相同不全相同不全相同从而求得从而求得从而求

16、得从而求得 的的的的 MLEMLE 为为为为的的的的 为为为为其中其中其中其中从而得到从而得到从而得到从而得到 的估计为的估计为的估计为的估计为称为称为称为称为经验回归函数经验回归函数经验回归函数经验回归函数.为为为为 关于关于关于关于 的的的的经验回归方程经验回归方程经验回归方程经验回归方程(回归方程回归方程回归方程回归方程)称方程称方程称方程称方程为计算方便，引入记号为计算方便，引入记号为计算方便，引入记号为计算方便，引入记号求回归方程的一般步骤：求回归方程的一般步骤：（1 1 1 1）计算）计算）计算）计算（2 2 2 2）计算）计算）计算）计算（3 3 3 3）计算）计算）计算）计算（

17、4 4 4 4）写出回归方程）写出回归方程）写出回归方程）写出回归方程 进一步还可以做点预测和区间预测，进一步还可以做点预测和区间预测，例如当例如当 ,LSE LSE 的几何意义的几何意义的几何意义的几何意义找使得这些找使得这些找使得这些找使得这些垂直偏差的垂直偏差的垂直偏差的垂直偏差的平方和尽可平方和尽可平方和尽可平方和尽可能小的那条能小的那条能小的那条能小的那条直线直线直线直线 例例例例 为研究某化学反应过程中，温度为研究某化学反应过程中，温度为研究某化学反应过程中，温度为研究某化学反应过程中，温度 ()对产品对产品对产品对产品得率得率得率得率 的影响，测得数据如下的影响，测得数据如下的影

18、响，测得数据如下的影响，测得数据如下求求求求 关于关于关于关于 的线性回归方程的线性回归方程的线性回归方程的线性回归方程.解解解解 先计算各数据项先计算各数据项先计算各数据项先计算各数据项 故得故得故得故得从而得从而得从而得从而得 关于关于关于关于 的线性回归方程为的线性回归方程为的线性回归方程为的线性回归方程为练习练习炼铝炼铝厂厂测测得所得所产铸产铸模用的模用的铝铝的硬度的硬度与抗与抗张张强强度度的数据如下表所示的数据如下表所示.求求线线性回性回归归方程方程;解解解解 先计算各数据项先计算各数据项先计算各数据项先计算各数据项 故得故得故得故得从而得从而得从而得从而得 关于关于关于关于 的线性

19、回归方程为的线性回归方程为的线性回归方程为的线性回归方程为 考虑人的身高考虑人的身高考虑人的身高考虑人的身高 与体重与体重与体重与体重 之间的关系：之间的关系：之间的关系：之间的关系：当当当当 固定时，有固定时，有固定时，有固定时，有当当当当 不同时，不同时，不同时，不同时，的平均值的平均值的平均值的平均值 也不同也不同也不同也不同,即有即有即有即有故有故有故有故有或写为或写为或写为或写为称上式为称上式为称上式为称上式为回归模型回归模型回归模型回归模型，称为称为称为称为Y Y Y Y关于关于关于关于x x x x的的的的回归。回归。回归。回归。研究研究研究研究 与与与与 之间的相关关系之间的相关关系之间的相关关系之间的相关关系研究回归函数研究回归函数研究回归函数研究回归函数