第三章-单变量描述统计分析讲-解.ppt

《第三章-单变量描述统计分析讲-解.ppt》由会员分享，可在线阅读，更多相关《第三章-单变量描述统计分析讲-解.ppt（53页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第八章第八章 相关分析和线性回归分析相关分析和线性回归分析28.1 概述n函数关系：两变量之间一一对应的关系，即当x取一定值，另一变量y会依据函数取唯一确定的值。例如：n统计关系：两变量之间确实存在的互相依存关系，但变量间的数量依存关系的具体关系值不是固定的。例如：身高和体重，子代身高与父代身高。n相关分析和回归分析是以不同的方式测度变量间统计关系的非常有效的工具。38.2 相关关系n相关关系的种类：线性相关和非线性相关(形态），正线性相关和负线性相关（方向），强线性相关和弱线性相关（程度）。n相关分析的两种有效方式：一散点图:它将数据以点的形式画在直角平面上，通过观察散点图能够直观地发现变量

2、间地统计关系以及它们的强弱程度和数据的可能走向。二相关系数：以数值的方式精确的反映了两变量间线性关系的强弱程度。4散点图 Graphs Scatter/Dot简单散点图简单散点图矩阵散点图矩阵散点图重叠散点图重叠散点图三维散点图三维散点图简单的点图简单的点图n简单散点图：表示一对变量间统计关系的散点图。n重叠散点图：表示多对变量间统计关系的散点图。n矩阵散点图：以矩阵的形式在多个坐标轴上分别显示多对变量间的统计关系。n三维散点图：以立体图的形式展示三对变量间的统计关系。56Y Y轴变量轴变量X X轴变量轴变量分组变量分组变量标记变量标记变量7将标签值写在样本点的旁边将标签值写在样本点的旁边简单

3、散点图8作为标签的变量在该点的取值作为标签的变量在该点的取值矩阵散点图9注意：在矩阵散点图中，选择变量的先后顺序决定了矩阵对角线上变量的排列顺序。横轴、纵轴的代表变量见边框旁的标识。三维散点图10重叠散点图11n评价：各种散点图虽然能够简单直观展现变量之间的统计关系，但并不精确。1213相关系数n相关系数r的取值在11之间。nr0表示两变量存在正的相关关系；r0.8表示两变量之间具有较强的线性关系；/r/0.3表示两变量之间的线性相关关系较弱。nAnalyze Correlate Bivariate相关系数的种类nPearson简单相关系数：用来度量两定距型变量间的线性关系，如收入与储蓄，身高

4、与体重等。在X和Y的Pearson相关系数是无量纲的，故可以进行不同对变量之间的比较。Pearson相关系数度量的是统计关系而不是函数关系，更不是因果关系。Pearson相关系数用来度量两变量之间的线性关系的密切程度，但它并不是度量非线性关系的有效工具。Pearson相关系数中的两变量具有对称性。14nSpearman等级相关系数：用来度量定序变量间的线性相关关系。该统计量的设计思想与Pearson简单相关系数完全相同，只是利用数据的秩代替原始数据计算Pearson相关系数。例如：对商品的偏好与价格。该方法属于非参数方法。Spearman等级相关系数对数据的要求是两变量中有一个或两个定序变量，

5、或两个变量是定距的但母体分布不清楚或严重偏离二元正态，等级相关比Pearson相关更适合描述两变量间的相关关系。15n秩：设有样本X1，X2，X3，Xn，把它们从小到大排列，若Xi在这个次序中占第Ri个位置，则称Xi的秩为Ri。n例如：某样本为 8，3，5，9，12，6，9 则它的秩依次为4，1，2，5.5，7，3，5.516nKendall s tau-b偏秩相关：用来度量定序变量间的线性相关关系，它利用变量秩，通过计算“一致对数目”和“非一致对数目”获得系数。该方法属于非参数方法。与交叉列联表中两定序变量类中的Kendall s tau-b统计量是一致的。与Spearman等级相关系数相比

6、，当样本数量较少时用Kendall s tau-b较为合适。17相关分析n步骤：一，计算样本相关系数；二，对样本来自的总体是否存在显著的线性关系进行推断。n原因：由于存在抽样的随机性和样本数量较少等原因，通常样本的相关系数不能直接用来说明样本来自的两总体是否具有显著的线性相关性，而需要通过假设检验的方式对样本来自的总体是否存在显著线性相关进行统计推断。n检验规则：pa，认为两总体零相关。1819选中时表示相关分析结果中，除显示统计检验的相伴概率值选中时表示相关分析结果中，除显示统计检验的相伴概率值p p以外，而且还以以外，而且还以(*)(*)表示：表示：*：a=0.05a=0.05，且伴随概率

7、，且伴随概率p p值值0.050.05，故在故在0.050.05下有显著性意义的相关系数；下有显著性意义的相关系数；*：a=0.01a=0.01，且伴随概率，且伴随概率p p值值0.010.01，故在故在0.010.01下有显著性意义的相关系数；下有显著性意义的相关系数；Pearson相关系数相关系数定距变量定距变量Kendalls偏秩相关系数偏秩相关系数定类变量定类变量 Spearman秩相关系数秩相关系数定序变量定序变量20显示每一个变量的均值与标准差显示每一个变量的均值与标准差每一对变量的叉集离差积与协方差每一对变量的叉集离差积与协方差排除带有缺失值的所有样品排除带有缺失值的所有样品排除

8、在分析变量上带有缺失值的样品排除在分析变量上带有缺失值的样品21叉积离差叉积离差协方差协方差注注意意：*比比*的的结结论论更更准准确确。例：n结论：两变量之间相关性显著，且属于高度相关。n注：需要特别关注p值，只有在pa的情况下才会关注相关系数的大小。否则相关系数没有意义。22例：n考查某人对8种电视机品牌的喜好是否与价格有显著的负相关？23n结论：偏好和价格存在显著负相关，程度为中等。n注：Spearman和Pearson的结果有细微差别，建议按照数据特征选择恰当的统计量。n注：假设检验中“大于”，“小于”的问题应该建立单侧假设检验。“等于”建立双侧的假设检验。24n注：与Spearman的

9、相关系数略有差异，当都是一致的认为具有显著负相关，程度中等。25268.3 偏相关分析n偏相关分析的意义：在某些情况下，单纯利用相关系数来评价变量间的相关性显然是不准确的，而需要在剔除其他相关因素影响的条件下计算变量间的相关。n偏相关分析：也称净相关分析，它在控制其它变量的线性影响的条件下分析两变量间的线性相关。n当控制变量的个数为k时，偏相关系数称为k阶偏相关。当控制变量的个数为0时，偏相关系数称为零阶偏相关，也就是相关系数。nAnalyze Correlate Partial27参与分析的变量参与分析的变量选择一个或多个选择一个或多个控制变量控制变量表示输出零阶偏相关系数表示输出零阶偏相关

10、系数28零零阶阶偏偏相相关关系系数数偏偏相相关关系系数数注：偏相关分析对辨别变量间的虚假变量有极为重要的作用。注：偏相关分析对辨别变量间的虚假变量有极为重要的作用。29308.4 线性回归分析 Regressionn相关分析和回归分析都是对客观事物数量依存关系的分析，均有一元和多元、线性和非线性之分，在应用中相互结合与渗透。n相关分析与线性回归分析的差别主要是：(1)相关分析主要是刻画变量间线性相关的密切度；而回归分析则揭示一个变量如何与其他变量相联系，并通过回归方程的形式描述和反映这种关系，帮助人们准确把握变量受其它一个或多个变量影 响的程度，进而为预测和控制提供科学依据。31 (2)相关分

11、析中，变量y与x处于平等地位；在回归分析中需确定哪个变量是需要被解释的，即被解释变量（记为y），哪个变量是用于解释其它变量的，即解释变量（记为x）。(3)相关分析中x与y全是随机变量，而在回归分析中认为y是随机变量，x可以是随机或非随机变量，但一般理论上处理时认为x是非随机变量。32回归分析的一般步骤n确定回归方程中的解释变量和被解释变量n确定回归模型：一元线性回归模型 一元线性回归方程n建立回归方程 一元线性经验回归方程n对方程进行各种检验n利用回归方程进行预测33回归方程的各种统计检验n回归方程的拟合优度检验：是通过检验样本数据点聚集在回归线周围的密集程度，从而评价回归方程对样本数据的代表

12、程度。方法：决定系数或判定系数 ，调整的决定系数或判定系数 。系数越接近于1，说明回归方程的拟合优度越高；反之，越接近于0，说明拟合优度越低。在多元线性回归分析中，调整的决定系数更能准确的反映回归方程对样本数据的拟合程度。34n回归方程的显著性检验 是要检验被解释变量与所有解释变量之间的线性关系是否显著，用线性模型来描述它们之间的关系是否恰当。方法：F检验 F统计量的观测值越大越好，或观测值对应的概率p值，pa,认为用线性模型是不恰当的。35n回归系数的显著性检验 是研究回归方程中每个解释变量与被解释变量之间是否存在显著的线性关系，也就是研究解释变量能否有效的解释被解释变量的线性变化，它们能否

13、保留在线性回归方程中。方法：T检验 T统计量的观测值对应的概率p值，pa,认为y与x之间线性关系不显著，x不应该保留在回归方程中。36n残差分析n变量的多重共线性问题多元回归中特有的37多元回归分析中变量筛选策略n1.全回归法全回归法(Enter)所有自变量进入回归方程。优点：一般具有较高回归系数；缺点：对变量无明显影响的自变量也可能进入回归方程。n2.向前法向前法(Forwards)该方法比较所有自变量与因变量的偏相关系数，然后选择最大的一个作回归系数显著性检验，决定其是否进入回归方程。每次选择一个变量进入回归方程，直到所有符合判别条件的变量都进入模型为止。缺点：“只进不出”。38n3.向后

14、法（向后法（Backward）该方法首先计算包含所有变量的回归方程，然后用偏F检验逐个剔除对因变量无明显影响的自变量，直到每一个变量在偏F检验下都有显著性结果为止。缺点：“只出不进”。n4.逐步筛选法（逐步筛选法（Stepwise）该方法是对“向前法”的改进，既有引入变量也有剔除变量，原来剔除的变量在后面又可能被引入到回归方程中来。它是目前应用较为广泛的一种多元回归方法。39曲线配合过程曲线配合过程线性回归分析线性回归分析40被解释变量被解释变量一个或多个解释变量一个或多个解释变量多元中解释变量的筛选策略多元中解释变量的筛选策略选择一个变量作为条件变量选择一个变量作为条件变量在样本数据中挑选满

15、足一定条件在样本数据中挑选满足一定条件的样本数据进行线性回归分析的样本数据进行线性回归分析41所选变量强行进入回归方程所选变量强行进入回归方程逐步筛选策略逐步筛选策略从回归方程中剔除所选变量从回归方程中剔除所选变量向后筛选策略向后筛选策略向前筛选策略向前筛选策略作图时，指定以哪个作图时，指定以哪个变量作标志变量变量作标志变量加权最小二乘法加权最小二乘法 42Statistics参差分析对话框参差分析对话框输出与回归系输出与回归系数有关的统计数有关的统计量：回归系数量：回归系数其标准误差，其标准误差，标准化回归系标准化回归系数，回归系数数，回归系数的的(Bate)(Bate)检验检验t t值及双

16、侧值及双侧P P值值等。等。输出拟和优度统计量：判定系输出拟和优度统计量：判定系数、校正判定系数、回归方程数、校正判定系数、回归方程的标准误差、回归方程显著性的标准误差、回归方程显著性F F检验方差分析表检验方差分析表多重共线性分析多重共线性分析43Plots注意：这里主要是利用图形进行参差分析，包括绘制残差图和其它散点图、残差的直方图和正态分布累计概率图。44Save关于预测值关于预测值关于残差关于残差关于区间估计关于区间估计关于强影响点关于强影响点Mean:Mean:当当x x取取x x0 0 时，预时，预测值测值E E（YoYo）的置信区）的置信区间，新变量间，新变量Imci_1Imci

17、_1为下为下限，限，Umci_1Umci_1为上限为上限.Individual:Individual:当当x x取取x x0 0 时，时，预测值预测值YoYo的置信区间，的置信区间，新变量新变量Iici_1Iici_1为下限，为下限，Uici_1Uici_1为上限为上限.新变量为新变量为Zpr_1新变量为新变量为pre_1关于距离关于距离45Options多元回归中解释变量进多元回归中解释变量进入或剔除回归方程的标入或剔除回归方程的标准：使用准：使用F F显著性检验的显著性检验的相伴概率值：相伴概率值：=0.05=0.1=0.1，剔除。或，剔除。或使用使用F F值：大于值：大于3.843.84

18、，引，引入；小于入；小于2.712.71，剔除。，剔除。表示是否进行中心表示是否进行中心化处理化处理排除带有缺失值的所有样品排除带有缺失值的所有样品排除在分析变量上带有缺失值的样品排除在分析变量上带有缺失值的样品某变量上缺失值以该变量的均值代替某变量上缺失值以该变量的均值代替468.5 曲线估计n本质线性关系：是指变量形式上虽然呈现非本质线性关系，但可以通过变量变换化为线性关系，并最终可通过线性回归分析建立线性模型。n本质非线性关系：是指变量关系不仅形式上呈非线性关系，而且也无法通过变量变换化为线性关系，最终无法通过线性回归分析建立线性模型。n本节讨论的是本质线性关系。nSpss曲线估计还可以以时间为解释变量实现时间序列的简单回归分析和趋势外推分析。47被解释变量被解释变量解释变量解释变量变量变量时间时间绘制实际值绘制实际值及回归线及回归线输出各个模型的方差分析表和输出各个模型的方差分析表和各回归系数显著性检验结果各回归系数显著性检验结果方程中包含常数项方程中包含常数项48预测值（理论值）预测值（理论值）残差（实际值理论值）残差（实际值理论值）预测值的区间估计预测值的区间估计仅追溯样本数据的预测值仅追溯样本数据的预测值包含样本个数的包含样本个数的预测期数预测期数确定一种超过时间确定一种超过时间序列的预测周期序列的预测周期4950515253