回归分析的基本思想及其初步应用第.ppt

1 1.1.1 回归分析的基本思想回归分析的基本思想 及其初步应用及其初步应用第一课时第一课时温故知新温故知新两个变量的关系两个变量的关系不相关不相关相关关系相关关系函数关系函数关系线性相关线性相关非线性相关非线性相关函数关系中的两个变量间是一种确定性关系。函数关系中的两个变量间是一种确定性关系。相关关系是一种非确定性关系。相关关系是一种非确定性关系。（2011年广东13）某数学老师身高176cm，他爷爷、父亲和儿子的身高分别是173cm、170cm和182cm 因儿子的身高与父亲的身高有关，该老师用线性回归分析的方法预测他孙子的身高为_cm 比数学3中“回归”增加的内容数学数学统计统计1.画散点图画散点图2.了解最小二乘法了解最小二乘法的思想的思想3.求回归直线方程求回归直线方程ybxa4.用回归直线方程用回归直线方程解决应用问题解决应用问题选修1-2统计案例最小二乘法：最小二乘法：称为样本点的中心称为样本点的中心。3 3、对、对两个两个变量进行的线性分析叫做变量进行的线性分析叫做线性线性回归分析回归分析。2 2、回归直线方程、回归直线方程：2.2.相应的直线叫做相应的直线叫做回归直线回归直线。1 1、所求直线方程、所求直线方程 叫做叫做回归直回归直 -线方程线方程；其中；其中例例1 1、某大学中随机选取某大学中随机选取8 8名女大学生，其身高名女大学生，其身高和体重数据如下表所示和体重数据如下表所示.编号编号1 12 23 34 45 56 67 78 8身高身高/cm/cm165165165165157157170170175175165165155155170170体重体重/kg/kg48485757505054546464616143435959（1）画出散点图）画出散点图（2）根据女大学生的身高预报体重的回归方程，）根据女大学生的身高预报体重的回归方程，（3）预报一名身高为）预报一名身高为172cm的女大学生的体重的女大学生的体重.解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：2、由散点图知道身高和体重有比较好的线性相关关系，、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。因此可以用线性回归方程刻画它们之间的关系。根据最小二乘法估计根据最小二乘法估计 和和 就是未知参数就是未知参数a和和b的最好估计，的最好估计，于是有所以回归方程是所以回归方程是所以，对于身高为所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为的女大学生，由回归方程可以预报其体重为 身高为身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？吗？如果不是，你能解析一下原因吗？如果不是，你能解析一下原因吗？样本点呈条状分布，身高和体重有较好的线性相关关样本点呈条状分布，身高和体重有较好的线性相关关系，因此可以用回归方程来近似的刻画它们之间的关系系，因此可以用回归方程来近似的刻画它们之间的关系.解：散点图：解：散点图：3、从散点图还看到，样本点散布在某一条直线的附近，、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数而不是在一条直线上，所以不能用一次函数y=bx+a简简单描述它们关系。单描述它们关系。我们可以用下面的我们可以用下面的线性回归模型线性回归模型来表示：来表示：y=y=bx+a+ebx+a+e，其中，其中a a和和b b为模型的未知参数，为模型的未知参数，e e称为随机误差称为随机误差。思考思考P3产生随机误差项产生随机误差项e的原因是什么？的原因是什么？思考：思考：产生随机误差项产生随机误差项e的原因是什么？的原因是什么？随机误差随机误差e e的来源的来源(可以推广到一般）：可以推广到一般）：1、其它因素的影响：影响体重、其它因素的影响：影响体重 y 的因素不只是身高的因素不只是身高 x，可能还包括遗传基因、饮食习惯、生长环境等，可能还包括遗传基因、饮食习惯、生长环境等因素；因素；2、身高、身高 x的观测误差。的观测误差。线性回归模型线性回归模型y=y=bx+a+ebx+a+e增加了随机误差项增加了随机误差项e e，因，因变量变量y y的值由自变量的值由自变量x x和随机误差项和随机误差项e e共同确定，即共同确定，即自自变量变量x x只能解析部分只能解析部分y y的变化的变化。在统计中，我们也把自变量在统计中，我们也把自变量x x称为称为解析变量解析变量，因变，因变量量y y为为预报变量预报变量。残差残差数据点和它在回归直线上相应位置的差异数据点和它在回归直线上相应位置的差异 称为相应于点（称为相应于点（x xi i，y yi i ）的的残差残差。例：编号为例：编号为6 6的女大学生，计算随机误差的效应（残差）的女大学生，计算随机误差的效应（残差）残差平方和残差平方和 把每一个残差所得的值平方后加起来，用数学符号表把每一个残差所得的值平方后加起来，用数学符号表示为：示为：称为称为残差平方和残差平方和在例在例1 1中，残差平方和约为中，残差平方和约为128.361128.361。表表1-4列出了女大学生身高和体重的原始数据以列出了女大学生身高和体重的原始数据以及相应的残差数据。及相应的残差数据。残差分析与残差图的定义：残差分析与残差图的定义：我们可以通过残差我们可以通过残差 来判断模型拟合的效果，判断原始来判断模型拟合的效果，判断原始数据中是否存在可疑数据，数据中是否存在可疑数据，这方面的分析工作称为残差分析这方面的分析工作称为残差分析。编号编号12345678身高身高165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382我们可以利用图形来分析残差特性，作图时纵坐标我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为或体重估计值等，这样作出的图形称为残差图残差图。残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域横轴为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明：第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合的值越大，说明残差平方和越小，也就是说模型拟合效果越好。效果越好。R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越接近越接近1，表示解析，表示解析变量和预报变量的线性相关性越强）。变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较则可以通过比较R R2 2的值来做出选择，即的值来做出选择，即选取选取R R2 2较大的模型作为较大的模型作为这组数据的模型这组数据的模型。总的来说：总的来说：相关指数相关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型中，它在线性模型中，它代表自变量刻画预报变量的能力代表自变量刻画预报变量的能力。用身高预报体重时，需要注意下列问题：用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们所研究的样本的总体；、回归方程只适用于我们所研究的样本的总体；2、我们所建立的回归方程一般都有时间性；、我们所建立的回归方程一般都有时间性；3、样本采集的范围会影响回归方程的适用范围；、样本采集的范围会影响回归方程的适用范围；4、不能期望回归方程得到的预报值就是预报变量的、不能期望回归方程得到的预报值就是预报变量的精确值。事实上，它是预报变量的可能取值的平均值。精确值。事实上，它是预报变量的可能取值的平均值。练习练习1 在一段时间内，某中商品的价格在一段时间内，某中商品的价格x元和需求量元和需求量Y件件之间的一组数据为：之间的一组数据为：求出求出Y对的回归直线方程，并说明拟合效果的好坏。对的回归直线方程，并说明拟合效果的好坏。价格价格x1416182022需求量需求量Y1210753解：解：练习练习1 在一段时间内，某中商品的价格在一段时间内，某中商品的价格x元和需求量元和需求量Y件之件之间的一组数据为：间的一组数据为：求出求出Y对的回归直线方程，并说明拟合效果的好坏。对的回归直线方程，并说明拟合效果的好坏。价格价格x1416182022需求量需求量Y1210753列出残差表为列出残差表为0.994因而，拟合效果较好。因而，拟合效果较好。00.3-0.4-0.10.24.62.6-0.4-2.4-4.4练习练习2 关于关于x与与y有如下数据：有如下数据：有如下的两个线性模型：有如下的两个线性模型：（1）；（；（2）试比较哪一个拟合效果更好。试比较哪一个拟合效果更好。x24568y3040605070案例2 一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据列于表中：（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。（2）你所建立的模型中温度在多大程度上解释了产卵数的变化？温度xoC21232527293235产卵数y/个711212466115325非线性回归问题假设线性回归方程为：=bx+a选 模 型由计算器得：线性回归方程为y=19.87x-463.73 相关指数R2=r20.8642=0.7464估计参数 解：选取气温为解释变量x，产卵数 为预报变量y。选变量所以，二次函数模型中温度解释了74.64%的产卵数变化。探索新知画散点图050100150200250300350036912151821242730333639方案1分析和预测当x=28时，y=19.8728-463.73 93一元线性模型 y=bx2+a 变换 y=bt+a非线性关系 线性关系方案2选用y=bx2+a，还是y=bx2+cx+a？产卵数气温如何求a、b？t=x2二次函数模型方案2解答平方变换：令t=x2，产卵数y和温度x之间二次函数模型y=bx2+a就转化为产卵数y和温度的平方t之间线性回归模型y=bt+a温度21232527293235温度的平方t44152962572984110241225产卵数y/个711212466115325作散点图，并由计算器得：y和t之间的线性回归方程为y=0.367t-202.543，相关指数R2=0.802将t=x2代入线性回归方程得：y=0.367x2-202.543当x=28时，y=0.367282-202.5485，且R2=0.802，所以，二次函数模型中温度解释了80.2%的产卵数变化。t 变换 y=bx+a非线性关系 线性关系产卵数气温指数函数模型方案3方案3解答温度xoC21232527293235z=lny1.9462.3983.0453.1784.1904.7455.784产卵数y/个711212466115325xz当x=28oC 时，y 44，指数回归模型中温度解释了98.5%的产卵数的变化由计算器得：z关于x的线性回归方程为 对数变换：在 中两边取常用对数得令 ，则 就转换为z=bx+a.相关指数R2=0.98最好的模型是哪个?产卵数气温产卵数气温线性模型二次函数模型指数函数模型比一比函数模型函数模型相关指数相关指数R2线性回归模型线性回归模型0.7464二次函数模型二次函数模型0.80指数函数模型指数函数模型0.98最好的模型是哪个?作业：作业：在在7块并排的、形状大小相同的实验田上进行施块并排的、形状大小相同的实验田上进行施肥量对水稻产量影响的试验，得到如下一组表所示肥量对水稻产量影响的试验，得到如下一组表所示的数据（单位：的数据（单位：kg）施化肥量施化肥量x x1515202025253030353540404545水稻产量水稻产量y y330330345345365365405405445445450450455455(1)以以x为解释变量，为解释变量，y为预报变量，作出散点图为预报变量，作出散点图(2)求求y与与x之间的回归方程，并求施肥量为之间的回归方程，并求施肥量为28kg时时 的水稻产量的预报值的水稻产量的预报值(3)计算各组残差，并计算残差平方和计算各组残差，并计算残差平方和(4)求求R2，并说明残差变量对产量影响有多大？，并说明残差变量对产量影响有多大？练习3 假设关于某设备的使用年限x和所支出的维修费用 y（万元），有如下的统计资料。使用年限使用年限x 23456维修费用维修费用y 2.23.85.56.57.0若由资料知,y对x呈线性相关关系。试求：（1）线性回归方程 的回归系数 ；（2）求残差平方和；（3）求相关系数 ；（4）估计使用年限为10年时，维修费用是多少？一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：（1 1）确定研究对象，明确哪个变量是解析变量，哪个变量是）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。预报变量。（2 2）画出确定好的解析变量和预报变量的散点图，观察它）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。们之间的关系（如是否存在线性关系等）。（3 3）由经验确定回归方程的类型（如我们观察到数据呈线性）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程关系，则选用线性回归方程y=y=bx+abx+a）.（4 4）按一定规则估计回归方程中的参数（如最小二乘法）。）按一定规则估计回归方程中的参数（如最小二乘法）。（5 5）得出结果后分析残差图是否有异常（个别数据对应残差过）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。查数据是否有误，或模型是否合适等。