SPSS的线性回归分析.ppt
《SPSS的线性回归分析.ppt》由会员分享,可在线阅读,更多相关《SPSS的线性回归分析.ppt(63页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第九章第九章SPSS回归分析回归分析本章内容9.1 回归分析概述回归分析概述9.2 线性回归分析线性回归分析9.3 回归方程的统计检验回归方程的统计检验9.4 多元回归分析中的其他问题多元回归分析中的其他问题9.5 线性回归分析的基本操作线性回归分析的基本操作9.6 线性回归分析的应用举例线性回归分析的应用举例9.7 曲线估计曲线估计9.1 回归分析概述1.线性回归分析的内容线性回归分析的内容(1)能否找到一个)能否找到一个线性组合线性组合来说明一组自变量和因变量来说明一组自变量和因变量的关系的关系(2)如果能的话,这种关系的)如果能的话,这种关系的强度强度有多大,也就是利用有多大,也就是利用
2、自变量的线性组合来预测因变量的能力有多强自变量的线性组合来预测因变量的能力有多强(3)整体整体解释能力是否具有统计上的解释能力是否具有统计上的显著显著性意义性意义(4)在整体解释能力显著的情况下,)在整体解释能力显著的情况下,哪些自变量哪些自变量有显著有显著意义意义2.回归分析的一般步骤回归分析的一般步骤(1)确定回归方程中的解释变量(自变量)和被解释变)确定回归方程中的解释变量(自变量)和被解释变量(因变量)量(因变量)(2)确定回归模型)确定回归模型-选用合适的数学模型概括回归线选用合适的数学模型概括回归线(3)确定回归方程)确定回归方程-根据样本数据及确定的回归模型,在根据样本数据及确定
3、的回归模型,在一定的统计拟合准则下估计模型的参数,得到确定的回一定的统计拟合准则下估计模型的参数,得到确定的回归方程。归方程。(4)对回归方程进行各种检验)对回归方程进行各种检验-基于样本得到的回归方程基于样本得到的回归方程是否真实地反映了总体间的统计关系?回归方程能否用是否真实地反映了总体间的统计关系?回归方程能否用于预测?于预测?(5)利用回归方程进行预测)利用回归方程进行预测线性回归模型线性回归模型 1.一元线性回归模型的数学模型一元线性回归模型的数学模型其中:其中:x为自变量;为自变量;y为因变量;为因变量;为截距,即常量;为截距,即常量;为回归系数,表明自变量对因变量的影响程度为回归
4、系数,表明自变量对因变量的影响程度9.2 线线 性性 回回 归归 分分 析析X的变化引起的的变化引起的y的线性变化部分:的线性变化部分:其他随机因素引起的其他随机因素引起的y的变化部分:的变化部分:用用最小二乘法最小二乘法求解方程中的两个参数,得到:求解方程中的两个参数,得到:多元线性回归模型2.多元线性回归方程:多元线性回归方程:(1)1、2、p为偏回归系数。为偏回归系数。(2)1表示在其他自变量保持不变的情况下,自表示在其他自变量保持不变的情况下,自变量变量x1变动一个单位所引起的因变量变动一个单位所引起的因变量y的的平均变动平均变动 回归方程的拟合优度检验回归方程的拟合优度检验 回归直线
5、与各观测点的回归直线与各观测点的接近程度接近程度称为回归方程的拟合优度,称为回归方程的拟合优度,也就是也就是样本观测值聚集在回归线周围的样本观测值聚集在回归线周围的紧密程度紧密程度。1.离差平方和的分解离差平方和的分解建立直线回归方程可知:建立直线回归方程可知:y y的观测值的总变动可由的观测值的总变动可由 来反映,称为总变差。引起总变差的原因有两个:来反映,称为总变差。引起总变差的原因有两个:(1)1)由于由于x x的取值不同,使得与的取值不同,使得与x x有线性关系的有线性关系的y y值不同;值不同;(2 2)随机因素的影响。)随机因素的影响。9.3 线性回归方程的统计检验线性回归方程的统
6、计检验xy总离差平方和可分解为(1 1)总平方和()总平方和(SST)=SST)=剩余平方和剩余平方和(SSE)+(SSE)+回归平方和(回归平方和(SSR)SSR)(2 2)SST:SST:反映因变量的反映因变量的 n 个观察值与其均值的总离差。个观察值与其均值的总离差。(3 3)SSRSSR:由:由x x和和y y的直线回归关系引起的,可以由回归直线做出的直线回归关系引起的,可以由回归直线做出 解释;解释;(4 4)SSESSE:除了:除了x x对对y y的线性影响之外的随机因素所引起的的线性影响之外的随机因素所引起的Y Y的变动,的变动,是回归直线所不能解释的。是回归直线所不能解释的。2
7、.2.可决系数(判定系数、决定系数)可决系数(判定系数、决定系数)(1)可决系数:回归平方和在总平方和中所占的比例可决系数:回归平方和在总平方和中所占的比例(2)用来衡量)用来衡量X与与Y 的关系密切程度以及回归直线的代表性好坏。的关系密切程度以及回归直线的代表性好坏。(3)对于一元线性回归方程:)对于一元线性回归方程:(4)对于多元线性回归方程)对于多元线性回归方程多元线性回归分析中,引起判定系数增加的原因有两个:多元线性回归分析中,引起判定系数增加的原因有两个:方程中的方程中的解释变量个数增多解释变量个数增多方程中引入了对被解释变量方程中引入了对被解释变量有重要影响有重要影响的解释变量的解
8、释变量如果某个自变量引入方程后对因变量的线性解释有重要贡献,那么必然如果某个自变量引入方程后对因变量的线性解释有重要贡献,那么必然会使误差平方和显著减小,并使平均的误差平方和也显著减小,从而使调会使误差平方和显著减小,并使平均的误差平方和也显著减小,从而使调整的判定系数提高整的判定系数提高如果某个自变量对因变量的线性解释不明显,那么将其引入只会使如果某个自变量对因变量的线性解释不明显,那么将其引入只会使SSE减少,但不会使平均的减少,但不会使平均的SSE减少,因此,多元线性回归分析中,调整的判减少,因此,多元线性回归分析中,调整的判定系数比判定系数更能准确的反映回归方程的拟合优度定系数比判定系
9、数更能准确的反映回归方程的拟合优度(1)回归方程的显著性检验是要检验)回归方程的显著性检验是要检验被解释被解释变量与变量与所有的所有的解释解释变量之间的变量之间的线性线性关系是否关系是否显著显著。(2)对于一元线性回归方程,检验统计量为:对于一元线性回归方程,检验统计量为:平均的平均的SSA/平均的平均的SSE,反映了回归方程所,反映了回归方程所能能解释的变差与解释的变差与不能不能解释的变差的比例。解释的变差的比例。SPSS自动计算自动计算F统计量值和统计量值和p值,根据值,根据p值与显著性水平的大值与显著性水平的大小进行判断。小进行判断。9.3.2 回归方程的显著性检验(方差分析回归方程的显
10、著性检验(方差分析F检验)检验)(3)对于多元线性回归方程,检验统计量为)对于多元线性回归方程,检验统计量为也即:也即:回归方程的拟合优度越高回归方程的拟合优度越高回归方程的显著性检验也会越回归方程的显著性检验也会越显著显著回归方程的显著性检验越显著回归方程的显著性检验越显著回归方程的拟合优度越高回归方程的拟合优度越高回归方程的拟合优度检验仅是一种回归方程的拟合优度检验仅是一种刻画性描述刻画性描述,不涉及假,不涉及假设检验中:提出原假设、选择检验统计量、计算检验统计设检验中:提出原假设、选择检验统计量、计算检验统计量的值、决策等内容,而回归方程的显著性检验均涉及这量的值、决策等内容,而回归方程
11、的显著性检验均涉及这些内容。些内容。回归系数的显著性检验(回归系数的显著性检验(t检验)检验)(1)回归系数的显著性检验是要检验回归方程中)回归系数的显著性检验是要检验回归方程中被解释变量被解释变量与与每一个每一个解释变解释变量之间的量之间的线性线性关系是否关系是否显著显著。(2)对于一元线性回归方程,)对于一元线性回归方程,检验统计量为:检验统计量为:为回归方程的标准误差,是为回归方程的标准误差,是SSE的均方根,反映了回归方程无法解释的均方根,反映了回归方程无法解释y 变动的程度。变动的程度。SPSS自动计算自动计算t值和值和p值,根据值,根据p值进行决策。值进行决策。一元线性回归中,回归
12、方程显著性检验和回归系数显著性检验的作用相同,一元线性回归中,回归方程显著性检验和回归系数显著性检验的作用相同,可相互替代,且回归方程显著性检验的可相互替代,且回归方程显著性检验的F统计量等于回归系数显著性检验统计量等于回归系数显著性检验t统统计量的平方计量的平方(3)对于多元线性回归方程,检验统计量为:)对于多元线性回归方程,检验统计量为:SPSS自动计算自动计算 统计量的值和相应的统计量的值和相应的p值,可根据值,可根据p值值进行决策进行决策多元线性回归中,回归方程显著性检验和回归系数显著性多元线性回归中,回归方程显著性检验和回归系数显著性检验的作用不相同:检验的作用不相同:(a)回归方程
13、显著性检验)回归方程显著性检验检验检验所有所有偏回归系数是否同时为偏回归系数是否同时为零。即使偏回归系数不同时为零,并不能保证方程中不存零。即使偏回归系数不同时为零,并不能保证方程中不存在解释力较差的自变量。在解释力较差的自变量。(b)回归系数显著性检验对)回归系数显著性检验对每个每个偏回归系数是否为零逐一进偏回归系数是否为零逐一进行检验行检验(c)两种检验不能相互替代。)两种检验不能相互替代。(1)残差是指由回归方程计算得到的)残差是指由回归方程计算得到的预测值预测值与与实际样本值实际样本值之间之间的差距,定义为:的差距,定义为:(2)对于线性回归分析来讲,如果方程能够较好的反映被解释)对于
14、线性回归分析来讲,如果方程能够较好的反映被解释变量的特征和规律性,那么残差序列中应变量的特征和规律性,那么残差序列中应不包含不包含明显的明显的规律性规律性和和趋势性趋势性。(3)残差分析包括以下内容:)残差分析包括以下内容:残差是否服从均值为零的正态分布;残差是否服从均值为零的正态分布;残差是否为等方差的正态分布;残差是否为等方差的正态分布;残差序列是否独立;残差序列是否独立;借助残差探测样本中的异常值。借助残差探测样本中的异常值。9.3.4 残差分析残差分析残差均值为零的正态性检验残差均值为零的正态性检验 (1)通过绘制残差图进行分析)通过绘制残差图进行分析 (2)残差图是一种散点图:横轴为
15、解释变量,纵)残差图是一种散点图:横轴为解释变量,纵轴为残差。轴为残差。(3)如果残差均值为零,残差图的点应该在纵坐)如果残差均值为零,残差图的点应该在纵坐标为标为0的中心带状区域中的中心带状区域中随机散落随机散落,(,(P290图图9-1)残差独立性检验残差独立性检验1.残差序列独立性指:残差序列残差序列独立性指:残差序列前期前期和和后期后期数值之间数值之间不不存在存在相相关关系关关系,即:,即:2.方法方法(1)绘制残差序列散点图:时间为横轴,残差为纵轴,若残差)绘制残差序列散点图:时间为横轴,残差为纵轴,若残差随时间推移呈有规律变化,则存在相关性。随时间推移呈有规律变化,则存在相关性。(
16、2)计算残差的自相关系数:)计算残差的自相关系数:(3)DW检验检验DW检验用来检验残差的自相关。检验统计量为:检验用来检验残差的自相关。检验统计量为:DW=2,表示无自相关,表示无自相关,DW=4,表示完全负自相关,表示完全负自相关DW=0,表示完全正自相关,表示完全正自相关DW在在0-2之间说明存在正自相关,之间说明存在正自相关,DW在在2-4之间说明存在负的自相关。之间说明存在负的自相关。一般情况下,一般情况下,DW值在之间即可说明无自相关现象值在之间即可说明无自相关现象(4)残差序列存在自相关可能表明:)残差序列存在自相关可能表明:回归方程没有充分说明被解释变量的变化规律,回归方程没有
17、充分说明被解释变量的变化规律,遗漏了一些重要的解释变量遗漏了一些重要的解释变量 变量存在取值滞后性变量存在取值滞后性 回归模型选择不合适回归模型选择不合适异方差分析1.残差分析的方差不随解释变量或被解释变量取值的残差分析的方差不随解释变量或被解释变量取值的变化而变化,否则,存在异方差。变化而变化,否则,存在异方差。2.异方差的后果异方差的后果(1)参数的最小二乘估计)参数的最小二乘估计不再是不再是最小方差、无偏、最小方差、无偏、有效有效估计估计(2)导致回归系数显著性检验的)导致回归系数显著性检验的t值偏高值偏高,进而容易,进而容易拒绝原假设,使无用变量保留下来,拒绝原假设,使无用变量保留下来
18、,增大增大模型的预模型的预测测偏差偏差。3.异方差的检验异方差的检验(1)绘制散点图)绘制散点图 横轴解释变量,纵轴残差,若残差随解释变量的增加呈增加横轴解释变量,纵轴残差,若残差随解释变量的增加呈增加(减少)趋势,则存在异方差。(减少)趋势,则存在异方差。(2)等级相关分析)等级相关分析 对残差序列取绝对值对残差序列取绝对值计算残差和解释变量的秩计算残差和解释变量的秩计算计算Spearman等级相关系数。等级相关系数。若等级相关分析检验统计量的若等级相关分析检验统计量的p值值给定的显著性水平,给定的显著性水平,则拒绝原假设,解释变量与残差存在相关关系,出现了异则拒绝原假设,解释变量与残差存在
19、相关关系,出现了异方差。方差。4.异方差的处理异方差的处理(1)对解释变量实施)对解释变量实施方差稳定变换方差稳定变换,再进行回归方程,再进行回归方程参数的估计。参数的估计。残差与预测值的平方根成比例变化残差与预测值的平方根成比例变化对解释变量作开方处理对解释变量作开方处理残差与预测值成比例变化残差与预测值成比例变化对解释变量取对数对解释变量取对数残差与预测值的平方成比例变化残差与预测值的平方成比例变化对解释变量求倒数对解释变量求倒数(2)利用)利用加权最小二乘法加权最小二乘法估计回归方程参数估计回归方程参数9.3.4.4.探测样本中的异常值探测样本中的异常值1.异常值:远离均值的样本数据点,
20、对回归方程参数估计有异常值:远离均值的样本数据点,对回归方程参数估计有较大影响。较大影响。2.被解释变量中异常值的探测方法被解释变量中异常值的探测方法(1)标准化残差)标准化残差 对残差进行标准化,根据对残差进行标准化,根据 准则,准则,的绝对值大于的绝对值大于3的为的为异常值异常值(2)学生化残差)学生化残差 计算学生化残差,计算学生化残差,绝对值大于绝对值大于3对应的观察值为异常值。对应的观察值为异常值。(3)剔除残差)剔除残差 计算第计算第i个样本残差时,用剔除该样本后剩余的(个样本残差时,用剔除该样本后剩余的(n-1)个样)个样本拟合方程,并计算第本拟合方程,并计算第i个样本的预测值和
21、相应的残差,此残差个样本的预测值和相应的残差,此残差称为剔除残差。称为剔除残差。剔除学生化残差的绝对值大于剔除学生化残差的绝对值大于3对应的观察值为异常值。对应的观察值为异常值。3.解释变量中异常值的探测方法解释变量中异常值的探测方法(1)杠杆值)杠杆值(2)库克距离)库克距离(3)标准化回归系数的变化和标准化预测值的变化)标准化回归系数的变化和标准化预测值的变化 在剔除第在剔除第i个样本后,观察标准化回归系数的前后变化,个样本后,观察标准化回归系数的前后变化,如果标准化回归系数变化的绝对值大于如果标准化回归系数变化的绝对值大于 ,则可认为,则可认为第第i个样本可能是异常值。个样本可能是异常值
22、。观察预测值的前后变化,如果标准化预测值变化的绝对观察预测值的前后变化,如果标准化预测值变化的绝对值大于值大于 ,则可认为第,则可认为第i个样本可能是异常值。个样本可能是异常值。9.4 多元回归中的其他问题多元回归中的其他问题解释变量的筛选问题解释变量的筛选问题1.引入引入多少个多少个解释变量解释变量?太少太少不能很好解释因变量的变化不能很好解释因变量的变化太多太多自变量间可能存在多重共线性自变量间可能存在多重共线性2.筛选策略筛选策略(1)向前筛选()向前筛选(Forward)策略)策略解释变量解释变量不断进入不断进入回归方程的过程。回归方程的过程。首先选择与被解释变量具有首先选择与被解释变
23、量具有最高线性相关系数最高线性相关系数的变量进入方的变量进入方程,并进行回归方程的各种检验;程,并进行回归方程的各种检验;在剩余的变量中寻找与被解释变量在剩余的变量中寻找与被解释变量偏相关系数偏相关系数最高且通过检最高且通过检验的变量进入回归方程,并对新建立的回归方程进行各种检验的变量进入回归方程,并对新建立的回归方程进行各种检验;验;这个过程一直重复,直到再也没有可进入方程的变量为止。这个过程一直重复,直到再也没有可进入方程的变量为止。(2)向后筛选()向后筛选(Backward)策略)策略变量不断剔除出回归方程的过程。变量不断剔除出回归方程的过程。首先把所有变量全部引入回归方程,并对回归方
24、程进行各首先把所有变量全部引入回归方程,并对回归方程进行各种检验;种检验;在回归系数显著性检验不显著的一个或多个变量中,剔除在回归系数显著性检验不显著的一个或多个变量中,剔除t检验值最小的变量,并重新建立回归方程和进行各种检检验值最小的变量,并重新建立回归方程和进行各种检验验如果新建回归方程中所有变量的回归系数检验都显著,则如果新建回归方程中所有变量的回归系数检验都显著,则回归方程建立结束;否则按上述方法再一次剔除最不显著回归方程建立结束;否则按上述方法再一次剔除最不显著的变量,直到再也没有可剔除的变量为止。的变量,直到再也没有可剔除的变量为止。(3)逐步筛选()逐步筛选(Stepwise)策
25、略)策略 在向前筛选策略的基础上结合向后筛选策略:向在向前筛选策略的基础上结合向后筛选策略:向前策略中,变量一旦进入方程将不再被剔除,随着前策略中,变量一旦进入方程将不再被剔除,随着变量的不断引入,会由于变量间的变量的不断引入,会由于变量间的多重共线性多重共线性,使,使得已经引入的变量不再显著。得已经引入的变量不再显著。在每个变量进入方程后再次判断是否存在应该剔在每个变量进入方程后再次判断是否存在应该剔除出方程的变量。除出方程的变量。逐步筛选策略在引入变量的每一个阶段都提供了逐步筛选策略在引入变量的每一个阶段都提供了再剔除不显著变量的机会。再剔除不显著变量的机会。1.多重共线性是指多重共线性是
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- SPSS 线性 回归 分析
限制150内