第十章多元相关与回归分析ppt课件.ppt
《第十章多元相关与回归分析ppt课件.ppt》由会员分享,可在线阅读,更多相关《第十章多元相关与回归分析ppt课件.ppt(82页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物第 10 章 多元线性回归10.1 多元线性回归模型多元线性回归模型 10.2 回归方程的拟合优度回归方程的拟合优度10.3 显著性检验显著性检验10.4 多重共线性多重共线性10.5 哑变量回归哑变量回归10.6 非线性回归非线性回归我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物学习目标1. 回归模型、回归方程、估计的回归方程回归模型、回归方程、估计的回归方程2. 回归
2、方程的拟合优度回归方程的拟合优度回归方程的显著性检验回归方程的显著性检验利用回归方程进行估计和预测利用回归方程进行估计和预测非线性回归非线性回归3. 用用 SPSS 进行回归分析进行回归分析我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物10.1 多元线性回归模型10.1.1 多元回归模型与回归方程多元回归模型与回归方程10.1.2 估计的多元回归方程估计的多元回归方程10.1.3 参数的最小二乘估计参数的最小二乘估计我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到
3、愉快,证实我的猜测没有错:表里边有一个活的生物多元回归模型与回归方程我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多元回归模型 (multiple regression model)一个因变量与两个及两个以上自变量的回归描述因变量 y 如何依赖于自变量 x1 , x2 , xk 和误差项 的方程,称为多元回归模型涉及 k 个自变量的多元回归模型可表示为kkxxxy22110我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生
4、物多元回归模型(基本假定) 误差项是一个期望值为0的随机变量,即E()=0对于自变量x1,x2,xk的所有值,的方差 2都相同误差项是一个服从正态分布的随机变量,即N(0, 2),且相互独立我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多元回归方程 (multiple regression equation)描述因变量 y 的平均值或期望值如何依赖于自变量 x1, x2 ,xk的方程多元线性回归方程的形式为 E( y ) = 0+ 1 x1 + 2 x2 + k xk我吓了一跳,蝎子是多么丑恶和恐怖的东西
5、,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物二元回归方程的直观解释22110 xxy22110)(xxyE我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物估计的多元回归方程我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物估计的多元回归的方程估计的多元回归的方程(estimated multiple regression equation)(estimated mult
6、iple regression equation)用样本统计量 估计回归方程中的 参数 时得到的方程由最小二乘法求得一般形式为k,210k,210kkxxxy22110k,210k,210y 我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物参数的最小二乘估计我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物参数的最小二乘法最小niiniiikeyyQ1212210)(),()21(00000kiQQiii, k,210我吓
7、了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物参数的最小二乘法(例题分析)我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物10.2 10.2 回归方程的拟合优度回归方程的拟合优度10.2.1 多重判定系数多重判定系数10.2.2 估计标准误差估计标准误差我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重判定系数我吓了一跳,蝎子是多么丑
8、恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重判定系数(multiple coefficient of determination) 回归平方和占总平方和的比例回归平方和占总平方和的比例计算公式为计算公式为因变量取值的变差中,能被估计的多元回归方程因变量取值的变差中,能被估计的多元回归方程所解释的比例所解释的比例 SSTSSESSTSSRyyyyRniinii112122我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物 在样本容量一定的条
9、件下,不断向模型中在样本容量一定的条件下,不断向模型中增加自变量,即使新增的变量与增加自变量,即使新增的变量与Y Y不相关,不相关,模型的模型的R R2 2也可能上升,至少不会下降。也可能上升,至少不会下降。 在实际应用中,研究人员更欢迎简单的模在实际应用中,研究人员更欢迎简单的模型,这样的模型更简单和易于解释。如果型,这样的模型更简单和易于解释。如果根据根据R R2 2来选择模型,显然会倾向于复杂的来选择模型,显然会倾向于复杂的模型。模型。 更常用的指标是更常用的指标是“修正后的修正后的R Ra a2 2”。修正的判定系数修正的判定系数我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这
10、样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物修正多重判定系数(adjusted multiple coefficient of determination) 用样本量n和自变量的个数k去修正R2得到 计算公式为避免增加自变量而高估 R2意义与 R2类似数值小于R2111122knnRRa我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物估计标准误差 Se对误差项的标准差 的一个估计值衡量多元回归方程的拟合优度计算公式为MSEknSSEknyySniiie1112我吓了一跳,
11、蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物12.3 显著性检验12.3.1 线性关系检验线性关系检验12.3.2 回归系数检验和推断回归系数检验和推断我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物线性关系检验我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物线性关系检验检验因变量与所有自变量之间的线性关系是否显著也被称为总体的显著性总体的显
12、著性检验检验方法是将回归均方(MSR)同残差均方(MSE)加以比较,应用应用 F 检验检验来分析二者之间的差别是否显著如果是显著的,因变量与自变量之间存在线性关系如果不显著,因变量与自变量之间不存在线性关系我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物线性关系检验提出假设提出假设H H0 0: 1 1 2 2 k k=0 =0 线性关系不显著线性关系不显著H H1 1: 1 1, 2 2, k k至少有一个不等于至少有一个不等于0 0) 1,() 1() 1(1212knkFknyykyyknSSEkSS
13、RFniinii我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物回归系数检验和推断我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物回归系数检验和推断 回归方程显著,并不意味着每个解释变量对因回归方程显著,并不意味着每个解释变量对因变量变量Y Y的影响都重要的影响都重要, ,因此需要进行检验:因此需要进行检验:回归系数检验的必要性回归系数检验的必要性回归方程显著回归方程显著每个回归系数每个回归系数都显著都显著我吓了一跳,蝎
14、子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物回归系数的检验回归系数的检验( (步骤步骤) )提出假设H0: i = 0 (自变量 xi 与 因变量 y 没有线性关系) H1: i 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t) 1(kntStii我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物回归系数的推断 (置信区间)回归系数在(1-)%置信水平下的置信区间为 isknti2) 1(2xxssiei我吓了
15、一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物10.4 多重共线性10.4.1 多重共线性及其所产生的问题多重共线性及其所产生的问题10.4.2 多重共线性的判别多重共线性的判别10.4.3 多重共线性问题的处理多重共线性问题的处理我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性及其产生的问题多重共线性及其产生的问题我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实
16、我的猜测没有错:表里边有一个活的生物多重共线性多重共线性回归模型中两个或两个以上的自变量彼此相关回归模型中两个或两个以上的自变量彼此相关多重共线性带来的问题有多重共线性带来的问题有t t检验值会减小、系数的显著性下降。检验值会减小、系数的显著性下降。对于一组存在高度多重共线性的自变量,很难对单对于一组存在高度多重共线性的自变量,很难对单个系数进行解释。个系数进行解释。 有可能导致各回归系数的符号同我们的预期相反有可能导致各回归系数的符号同我们的预期相反 。我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重
17、共线性的识别多重共线性的识别我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性的识别多重共线性的识别检测多重共线性的最简单的一种办法是计算模型检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数,并对各相关系数中各对自变量之间的相关系数,并对各相关系数进行显著性检验进行显著性检验 若有一个或多个相关系数显著,就表示模型中所用若有一个或多个相关系数显著,就表示模型中所用的自变量之间相关,存在着多重共线性的自变量之间相关,存在着多重共线性如果出现下列情况,暗示存在多重共线性如果出现下列情
18、况,暗示存在多重共线性 模型中各对自变量之间显著相关模型中各对自变量之间显著相关 当模型的线性关系检验当模型的线性关系检验( (F F检验检验) )显著时,几乎所有回显著时,几乎所有回归系数的归系数的t t检验却不显著检验却不显著 回归系数的正负号与预期的相反回归系数的正负号与预期的相反我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性(例题分析)【例】【例】判别各自变量之间是否存在多重共线性贷款余额、应收贷款、贷款项目、固定资产投资额之间的相关矩阵贷款余额、应收贷款、贷款项目、固定资产投资额之间的
19、相关矩阵我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性(例题分析)【例】【例】判别各自变量之间是否存在多重共线性相关系数的检验统计量相关系数的检验统计量我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性(例题分析) t (25-2)=2.0687,所有统计量,所有统计量t t (25-2)=2.0687,所以均拒绝原假设,说明这所以均拒绝原假设,说明这4个自变量两两之间都有显个自变量两两之间都有显著的
20、相关关系著的相关关系由 表 中 的 结 果 可 知 , 回 归 模 型 的 线 性 关 系 显 著由 表 中 的 结 果 可 知 , 回 归 模 型 的 线 性 关 系 显 著(Significance-F1.03539E-06 =0.05) 。这也暗示了模型中存。这也暗示了模型中存在多重共线性在多重共线性固定资产投资额的回归系数为负号固定资产投资额的回归系数为负号(-0.029193) ,与预,与预期的不一致期的不一致我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性问题的处理多重共线性问题的处理
21、我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多重共线性(问题的处理)将一个或多个相关的自变量从模型中剔除,将一个或多个相关的自变量从模型中剔除,使保留的自变量尽可能不相关使保留的自变量尽可能不相关如果要在模型中保留所有的自变量,则应如果要在模型中保留所有的自变量,则应 避免根据避免根据 t t 统计量对单个参数进行检验统计量对单个参数进行检验 对因变量值的推断对因变量值的推断( (估计或预测估计或预测) )的限定在自的限定在自变量样本值的范围内变量样本值的范围内我吓了一跳,蝎子是多么丑恶和恐怖的东西,为
22、什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物多元回归中的变量筛选多元回归中的变量筛选 在多元回归中,预先选定的自变量不一定都对在多元回归中,预先选定的自变量不一定都对Y Y有显著的影响。有一些统计方法可以帮助我们有显著的影响。有一些统计方法可以帮助我们从众多可能的自变量中筛选出重要的自变量。从众多可能的自变量中筛选出重要的自变量。SPSSSPSS软件提供了多种筛选自变量的方法:软件提供了多种筛选自变量的方法: “向前引入法(向前引入法(ForwardForward)” “向后剔除法(向后剔除法(BackwardBackward)” “逐步引入逐
23、步引入剔除法(剔除法(StepwiseStepwise)”我吓了一跳,蝎子是多么丑恶和恐怖的东西,为什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物变量选择过程在建立回归模型时,对自变量进行筛选在建立回归模型时,对自变量进行筛选选择自变量的原则是对统计量进行显著性检验选择自变量的原则是对统计量进行显著性检验将一个或一个以上的自变量引入到回归模型中时,是否使将一个或一个以上的自变量引入到回归模型中时,是否使得残差平方和得残差平方和( (SSESSE) )有显著的减少。如果增加一个自变量使有显著的减少。如果增加一个自变量使SSESSE的减少是显著的,则
24、说明有必要将这个自变量引入回归的减少是显著的,则说明有必要将这个自变量引入回归模型,否则,就没有必要将这个自变量引入回归模型模型,否则,就没有必要将这个自变量引入回归模型确定引入自变量是否使确定引入自变量是否使SSESSE有显著减少的方法,就是使用有显著减少的方法,就是使用F F统计量的值作为一个标准,以此来确定是在模型中增加一统计量的值作为一个标准,以此来确定是在模型中增加一个自变量,还是从模型中剔除一个自变量个自变量,还是从模型中剔除一个自变量n变量选择的方法主要有:变量选择的方法主要有:n 逐步回归、向前选择、向后剔除逐步回归、向前选择、向后剔除我吓了一跳,蝎子是多么丑恶和恐怖的东西,为
25、什么把它放在这样一个美丽的世界里呢?但是我也感到愉快,证实我的猜测没有错:表里边有一个活的生物向前选择 (forward selection)从模型中没有自变量开始从模型中没有自变量开始对对k k个自变量分别拟合对因变量的一元线性回归模个自变量分别拟合对因变量的一元线性回归模型,共有型,共有k k个,然后找出个,然后找出F F统计量的值最高的模型统计量的值最高的模型及其自变量,并将其首先引入模型及其自变量,并将其首先引入模型 分别拟合引入模型外的分别拟合引入模型外的k k-1-1个自变量的线性回归模个自变量的线性回归模型型 如此反复进行,直至模型外的自变量均无统计显如此反复进行,直至模型外的自
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第十 多元 相关 回归 分析 ppt 课件
限制150内