属性(定性)数据分析_SPSS应用方法(第一部分).pdf

《属性(定性)数据分析_SPSS应用方法(第一部分).pdf》由会员分享，可在线阅读，更多相关《属性(定性)数据分析_SPSS应用方法(第一部分).pdf（60页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1研究方法研究方法IIII郑郑 明明郁郁 文文第一章：数据的描述第一章：数据的描述统计学统计学是研究怎样去有效地是研究怎样去有效地 收集收集、整理整理和和分析分析带有带有随机性的数据随机性的数据，以对所考察，以对所考察的问题做出的问题做出推断推断或或预测预测，直至为采取一，直至为采取一定的决策和行动定的决策和行动提供依据和建议提供依据和建议。理解统计学，了解统计基本概念、基本理解统计学，了解统计基本概念、基本方法；方法；熟悉统计语言；熟悉统计语言；并知道如何评价统计结果。并知道如何评价统计结果。珍惜您的数据珍惜您的数据信息技术的发展使企业的各级管理人员都信息技术的发展使企业的各级管理人员都面临

2、面临巨大数量的数据巨大数量的数据现代化的现代化的管理管理离不开科学地离不开科学地积累和利用积累和利用企企业内外的各项数据业内外的各项数据了解和充分利用您的数据是企业管理水平了解和充分利用您的数据是企业管理水平的的重要标志重要标志利用您的数据就是要分析您的数据，将利用您的数据就是要分析您的数据，将数数据据中的中的信息信息变成有用的变成有用的知识知识，为，为决策支持决策支持服务服务2纽约时报（2009年8月6日）统计是未来10年最炙手可热（性感）的专业，即每10个工作岗位中9个岗位需要统计。Google的高管明确数据分析的目的明确数据分析的目的一项数据分析任务在计划阶段就要明确以一项数据分析任务在

3、计划阶段就要明确以下几方面：下几方面：分析的目的分析的目的明确对象（总体）明确对象（总体）确定数据的由来，是否要抽样，要记录确定数据的由来，是否要抽样，要记录哪些指标哪些指标采用的分析方法采用的分析方法Example:1936 U.S.presidential election,Alf Landon vs Franklin RooseveltOctober 1936,Literary Digest conducted largest poll in history(10 million voters).They predicted that Landon would win by 4:3 in

4、 share of popular vote.One month later,Roosevelt was re-elected with the largest majority in U.S.history.The magazine went bankrupt soon after.What happened?A Failed Survey观测数据和实验数据观测数据和实验数据数据收集有两种主要的方法：观测数据(Observational data):仅凭观测而非通过操作或控制事物所得到的数据。例环境的数据，民意测验数据和证券交易的数据实验数据(Experimental data):在实验中控

5、制实验对象而收集到的变量的数据。如：新药试验中各阶段的临床实验数据3分析的对象数据表在一项研究中，数据被收集后(不管是实验或观测的)，由于它记录了许多对象的各种属性，通常以表格的形式存放。每一行表示一个个体(对象，观测)每一列表示一个变量(属性，指标)分析的对象数据表通常企业的数据往往存放在不同的数据表中(尤其是记录日常运行的数据)。这时为了进行分析就必须将不同表中有用的数据拼接到新的一张表中。这项工作是必须的。而且往往需要花费很多精力。发现和剔除例外数据在数据分析开始之前和过程中，发现(或剔除)例外数据(Outlier)是保证数据分析质量的重要环节。例外数据是指个别观测有别于其它多数数据其取

6、值特别的大或特别小分析的不同阶段可能发现不同的例外数据例外数据需认真对待：记录错误的要剔除，有的例外数据正是改进分析方法的依据数据的缺失值在数据的收集过程中，有时无法得到关心对象的所有项目的记录。这时在汇总数据表中某些记录的字段无法填入。通常用某些特殊符号表示。也称它们为缺失值(missing value)。在数据处理和分析中给以特殊的处理。413变量的类型数据表中各变量由其记录的形式来看可粗分为数值的(价格)和字符的(行业)各变量由其表示的内容可分为定性的(地区)和定量的(交易量)由其在分析中的作用又可分为区间型(interval)和分类型(Categorical)(包括有序的(Ordina

7、l)和名义型(nominal)区间型(Interval)数量型(Metric)(连续型)有序的(Ordinal)顺序型(Rank)(p.204)名义型(Nominal)分类型(Categorical)变量的类型变量按其含义来看可作如下分类：定量的(Quantitative)定性的(Qualitative)分类的(Categorical)连续(区间)的(Continuous或Interval)连续的(Continuous)离散的(Discrete)有序的(Ordinal)名义的(Nominal)变量的类型定量的：连续的(Continuous):取值充满区间。例产值、交易量、体重等离散的(Disc

8、rete):只取不多的几个数值。例年龄、事故次数、每周的第几个交易日等定性的：有序的(Ordinal):取值有自然的次序关系。例型号、疗效等名义的(Nominal):取值无自然的次序关系。例性别、省份、品种等变量的类型名义型变量的值之间无逻辑次序可按任何次序排序编码变量：饮料的种类5变量的类型有序型变量：饮料杯的型号小中大有序变量的值有明确的逻辑次序，但各个值之间的距离并不清楚变量的类型区间型变量：饮料的体积区间(连续)型变量的值有逻辑次序，且它们之间的距离也是有意义的变量的类型区间型和名义型数值型字符型区间型(连续型)分类型(名义型,有序型)以连续变化尺度测量具有可进行分析的数值区间型(In

9、terval)有数值或字符值用于作分类变量名义型(Nominal)有序型(Ordinal)数据的描述用数字描述数据详细数据：数据表本身汇总数据：名义型：不同类别的频数(个数)区间型：频数、均值、最大值等指标用图形描述数据详细数据：枝页图、散点图汇总数据：名义型：条形图、饼图、拼花图区间型：直方图、盒型图6数据的描述频数统计对数据表中的变量，要概括地描述它取不同数值的情况，就要给出：变量可能取到什么值取不同值的比例是多少这两者也称为变量取值的分布22数据的描述频数统计在频数统计中可以得到变量可能取什么值以及取不同值的频数(frequency)、百分数(percent)、累积频数(cumulati

10、ve frequency)和累积百分数(cumulative percent)数据的描述频数统计对于名义型变量其频数分布是仅有的最全面的统计特征对于区间型变量详细的频数分布并不适用,常用的是按变量取值分组后统计频数数据的描述用图形表示频数统计各种条形图和饼图是表示频数统计的图形工具。在这些图里都有一个区分不同类别的分类变量。该变量的每个值对应一个类别在条形图里，一个水平或垂直的“条”代表一个类别，条的长度表示频数或百分数在饼图中，饼的一角表示一个类别，一角饼的角度大小表示频数或百分数7数据的描述用图形表示频数统计26数据的描述分组统计频数和直方图对于区间(连续)型变量详细的频数分布并不适用。更

11、多地是使用直方图直方图将连续变量的取值范围(均匀)地分为若干个组，然后统计变量在不同的组取值的频数，按这一过程制作的条形图常称为直方图数据不多时分组方式会影响直方图的形态数据的描述用图形表示频数统计与直方图类似的显示数据分布的还有盒型图、茎叶图、点线图等盒型图直方图茎叶图频数分布可以完整地描述数据取值的分布。但它需要用多个值来描述。有时需要用少数几个数值来描述变量取值的某一方面的特征。这就是要计算变量取值的汇总统计量。从功能看，最常用的有：描述中心位置的、描述数据变差的等从计算的类型看：矩型、基于顺序统计量等数据的描述计算汇总统计量8数据的描述计算汇总统计量从功能看，最常用的有：描述中心位置的

12、、描述数据变差的等从计算的类型看：矩型、基于顺序统计量等中心位置分散度其 它矩型均值基于分位数其它30数据的描述计算汇总统计量各种中心位置变量值（样本）：XXXn12,.4,3,11,3,1 5,8niinXnnXXX111.:)(测个数 所有观测值相加除以观均值 Mean0.57/)85131134(x数据的描述计算汇总统计量各种中心位置中位数是描述数据取值中心位置的一个指标。它将观测值分为个数相同的两组，使一半观测值小于等于这个数，另一半大于等于这个数。均值中位数数据的描述计算汇总统计量各种中心位置4,3,11,3,1 5,8变量值：1,3,3,4,5,8,11排序：中位数(Median)

13、49数据的描述计算汇总统计量各种中心位置在茎叶图可以直接算出中位数盒型图直方图茎叶图数据的描述计算汇总统计量各种中心位置中位数：很好地代表了一组数据的中点它的计算较为简单（基于数据的排序）它不受个别极端数据的影响它没有利用数据所有的信息均值：它利用了变量的每个观测值在多数情况下均值可用于进一步的分析数据的描述计算汇总统计量各种中心位置众数(mode,峰值)就是在变量数据中出现次数最多的值。也就是在频数统计中对应频数(或百分数)最大的(分类变量的)值数据的描述计算汇总统计量各种中心位置描述中心位置的统计量除了均值、中位数和众数外还有其他各种平均：加权平均修削平均(稳健性)观测值(x)权数(w)x

14、*w10.50.520.40.830.10.31.612789212578981278921252278921211010数据的描述计算汇总统计量描述数据的变差仅用数据的某个中心位置概括数据是不够的。还需要考虑数据的分散程度。数据的描述计算汇总统计量描述数据的变差常用的描述数据分散程度的统计量有：极差(Range)方差(Variance)、标准差(Standard Deviation)四分位距(IQRInterquartile range)极差就是数据中最大值和最小值之差数据的描述计算汇总统计量描述数据的变差极差就是数据中最大值和最小值之差XXXn12,.4,3,11,3,1 5,8变量值：最

15、大值=Max(Xi)=11，最小值=Min(Xi)=1极差=最大值-最小值=10极差给出了数据变化范围的大小极差便于计算极差只受极端数据的影响Xi-5-1-26-2-403数据的描述计算汇总统计量描述数据的变差Xi43113158 5XiXi-5(Xi-5)24-113-24116363-241-416500839均值：570Var=11.67Std=3.42-niiXXnS122)(11 :)(Variance方差-niiXXnSS122)(11 :)(deviation Standard标准差XYXYiiSaSSaSbaXY|,22211数据的描述计算汇总统计量描述数据的变差方差和标准差是

16、统计分析中最常用的描述数据分散程度的统计量方差是数据各个观测值相对与均值偏差平方的一种平均标准差就是方差的开方方差和标准差都是非负的数。两者为零表示变量的每个观测值只取同一个数值数据的描述计算汇总统计量描述数据的变差-niiniinXXiXXSnSXXS121211)(:)(2 :)(%100 :)(:)()(:)(CSSUSSCVError StdDev Std校正平方和未校平方和变异系数标准误标准差数据的描述计算汇总统计量描述数据的变差有时还用下列变异系(coefficient of variation)数来描写数据的分散程度%100 :XSCV变异系数 它是一个没有量纲的数数据的描述计算

17、汇总统计量描述数据的变差为了对不同变量的数据比较各个观测在整个数据中的位置，有时就将每个变量的数据分别进行标准化：Yi 又称为Xi 的标准得分(Standard Score)标准化后的数据的均值为0，方差和标准差都是1XiiSXXY-12数据的描述计算汇总统计量分位数p 分位数(Quantile)是这样的一个数，使小于或等于p-分位数的样本数约占样本总数的100p%，而大于等于p-分位数的样本数约占样本总数的100(1-p)%0.4分位数第40个百分数数据的描述计算汇总统计量分位数0.5-分位数即中位数0.25-分位数称下四分位数(Q1)0.75-分位数称上四分位数(Q3)样本观测值：4,3,

18、11,3,1,5,8(1,3,3,4,5,8,11)438(或其它)四分位距(IQR-Interquartile range):Q3-Q1 5四分位距也是描写数据分散程度的一个统计量数据的描述计算汇总统计量分位数盒型图形象地展示了与分为数有关的各种信息100908070605040302010-盒外不超过1.5IQR的最大点IQR:Q3-Q1四分位距盒外不超过1.5IQR的最小点盒外超过1.5IQR的点+25th百分数，下四分位数75th百分数，上四分位数50th百分数，中位数数据的描述计算汇总统计量偏度和峰度偏度:(Skewness)1313nSXXiin()-精确地nnnSXXiin()(

19、)()-12331数数频频偏向右偏向右数数频频对对 称称数数频频MIDPRICEMIDPRICEMIDPRICE偏向左偏向左 0=013细尾细尾正态正态粗尾粗尾数据的描述计算汇总统计量偏度和峰度峰度：(Kurtosis)13441nSXXiin()-精确地n nnnnXXSnnniin()()()()()()()-11233123412 0 00,称为一致对(concordant)(xi-xj)(yi-yj)0,称为不一致对(discordant)(xi-xj)(yi-yj)=0,称为平分对(tied)YX121III2IIIIVI,IV中的对为一致的II,III中的对为不一致的其它的对为平分

20、的3关联性的度量对有序变量关联性的度量对有序变量关联性的度量对有序变量)11(,)()(Gamma-DCDC,)(KendallbCRwwDC-jjCiiRnnwnnw,2222),min(,/)1()(Stuart 2CRmmmnDCc-RwDCRCD/)()|(Somers-iijjnnsWnjCiRr,/)()()(Spearman 22秩相关,)()()(,2/)1()(3333121-jjiiiikknnnnWjjCinniR列的刻度为第 行的刻度,为第 1第二章：定性数据分析第二章：定性数据分析-列联表分析列联表分析(3)(3)关联性的度量相对风险和优比率相对风险和优比率对22列联

21、表，还有相对风险(relative risk)和优比(Odds ratio)两个量是常用的有无行和A(常锻炼)35465500B(不常锻炼)50450500 有无心血管疾病锻炼与否前瞻性研究(prospective,cohort)不同组的选择在获得响应之前A组有心血管病的百分率=35/500=7%B组有心血管病的百分率=50/500=10%RR(相对风险)=0.07/0.10=0.70关联性的度量相对风险和优比对 22列联表：12An11n12Bn21n22观测结果组别122212121211)2(,)1(nnnnRRnnnnRR估计：0 RR 1,A组更可能发生结果1OR(1)1,B组更可能

22、发生结果1可以做进一步的假设检验关联性的度量相对风险和优比是否抽烟发病控制是172173否90346合计262519心肌梗塞4分层分析有无单身23032已婚6145151心血管疾病婚姻状况优比率=1.6有无单身34120154已婚73037心血管疾病婚姻状况优比率=1.2经常锻炼不经常锻炼有无单身36150186已婚13175188心血管疾病婚姻状况优比率=3.2不分层数据：1976年至年至1977年美国佛罗里达州年美国佛罗里达州29个地区凶杀个地区凶杀案件中凶手肤色和被判死刑的案件中凶手肤色和被判死刑的326个犯人的情个犯人的情况：况：凶手凶手白人白人黑人黑人死死 刑刑 判判 决决是否死刑判

23、决的比例死刑判决的比例19171411490.1190.102凶手的肤色和是否被判死刑的犯人的情况若考虑凶手的肤色，还考虑被害人的肤色，若考虑凶手的肤色，还考虑被害人的肤色，得到下列三维列联表：得到下列三维列联表：死刑判决比例死刑判决比例被害人被害人凶手凶手死死 刑刑 判判 决决是是否否白人白人黑人黑人白人白人黑人黑人白人白人黑人黑人191320.12611520.1750690.000970.058若被害人是白人若被害人是白人，白人凶手被判死刑的比例白人凶手被判死刑的比例为为12.6%，而黑人凶手被判死刑的比例为而黑人凶手被判死刑的比例为17.5%。若被害人是黑人若被害人是黑人，白人凶手被判

24、死刑的比例为白人凶手被判死刑的比例为0，而黑人凶手被判死刑的比例为而黑人凶手被判死刑的比例为5.8%。这说明这说明，无无论被害人是白人还是黑人论被害人是白人还是黑人，白人凶手被判死刑的白人凶手被判死刑的比例都比黑人凶手被判死刑的比例低比例都比黑人凶手被判死刑的比例低，因此死刑因此死刑判决与被害人的肤色有关判决与被害人的肤色有关。相比之下相比之下，被害人是被害人是白人时白人时，无论凶手是白人还是黑人无论凶手是白人还是黑人，都判得严都判得严，而当被害人是黑人时而当被害人是黑人时，不论凶手是白人还是黑人不论凶手是白人还是黑人，都判得不严都判得不严。说明法院的判决有种族歧视说明法院的判决有种族歧视。S

25、impson 悖论5考虑呼吸与吸烟的关系：考虑呼吸与吸烟的关系：合计合计呼吸呼吸吸烟吸烟不不吸吸年龄年龄40正常正常不正常不正常正常正常不正常不正常5678741441142842328 278011086870Chi-Square检验的结果：男性吸烟与呼吸是不独立的小于40岁的男性吸烟与呼吸是条件独立的大于40岁的男性吸烟与呼吸不是条件独立的性别与录取的关系性别与录取的关系男生男生女生女生录取录取是否录取比例录取比例73342892698544.2%30.3%专业 性别 录取列联表1A2A3A专业录取人数未录取人数性别合计录取比例男生女生4A5A男生女生男生女生男生女生男生女生4233396

26、9016220045947112771726334513629621418486143650504255453102741813909315465.1%66.0%38.1%36.7%24.9%24.1%31.0%32.7%7.5%7.1%6Chi-Square检验的结果：各专业男女生录取比例都没有显著差异各专业男女生录取比例都没有显著差异分层Chi-Square检验H0:每层的行列变量间无关联检验统计量为在原假设下，检验统计量渐近服从分层分析将列联表的数据按行列变量以外的其它变量进行分组后分别制作列联表进行行列关联性分析称为分层分析(Stratified Analysis)分层分析常用的是CM

27、H(Cochran-Mantel-Haenszel)统计量，它检验的原假设为：H0:每层的行列变量间无关联分层分析CMH检验统计量为在原假设下，检验统计量渐近服从1第三章：定性数据分析第三章：定性数据分析-Logistic Logistic 回归回归(1)(1)属性数据分析属性数据分析两个连续变量的相关分析用相关系数度量变量间的线性联系程度并检验其显著性对两个分类的属性变量，度量并检验其关联性属性数据分析在研究两个属性变量的关联性时，有其他变量的影响影响变量亦为分类变量分层列联表分析与CMH检验多个影响变量？影响变量为连续变量？因变量(目标变量)与自变量(预测变量)？回归分析回归分析2属性数据

28、分析对连续因变量，用回归分析或更广泛的一般线性模型来描述自变量与因变量间的关系对于分类的属性因变量，用Logistic回归、probit回归或更广泛的广义线性模型(GLM-generalized linear model)来描述自变量与因变量间的关系回归分析与关联性分析的联系与区别回归分析与关联性分析的联系与区别属性数据分析属性数据分析(Categorical data analysis)是当目标变量(因变量)为属性记录时的数据分析，不管问题的预测变量是否为属性或连续的。属性的结果通常反映属性分类的信息连续数据分析连续数据分析(Continuous data analysis)是当目标变量(因

29、变量)为连续记录时的数据分析，不论它的预测变量是属性的或连续的。属性数据分析Logistic回归问 题回归分析或方差分析：用一些变量(自变量)说明或预测因变量的变化 连续的连续的 属性的属性的 线线 性性 回归分析回归分析 因因变量变量 分析方法分析方法 回归分析回归分析 Logistic 属性的或连续的自变量自变量Logistic回归是用于说明或预测属性因变量的回归，不论自变量是连续的或属性的Logistic回归问 题3Logistic回归问 题 因变量因变量 Y e s N o 二值的二值的 两个类别两个类别 Logistic 回归类型回归类型 二值的二值的 列名的列名的 有序的有序的 三

30、个或三个或 多个类别多个类别 列名的列名的 有序的有序的 Logistic回归模 型在线性回归模型中，Y=b0+b1x1+.+bpxp+e e是用自变量的线性组合预测或说明因变量Y 的(条件)均值 E(Y)=b0+b1x1+.+bpxp在Logistic回归模型中，因变量Y为属性变量，重要的是它取什麽值，以及取这些值的概率。对于只有二种类别的因变量，总可以将其赋值为 0、1，于是取1的概率就是该因变量的均值。Logistic回归模 型Logistic回归模 型4Logistic回归模 型在二值Logistic回归中，预测或解释的是属性因变量取1的概率若仿照一般线性回归用自变量的线性组合来预测或

31、说明属性因变量取1的概率p b0+b1x1+.+bpxp不足:概率在(0,1)中取值，而上式右端可以取负值或超过1因此概率往往假设成预测量的非线性函数Logistic回归模 型所以一般是假设p F(b0+b1x1+.+bpxp)g(p)b0+b1x1+.+bpxpF(x)-S型曲线g(p)-F 的反函数Logistic回归模 型其中g是一个将(0,1)变为整个数轴的变换是一种常用的变换g 常称为Link functionppppg1log)logit()(g(p)=b0+b1x1+.+bpxpxxeexgxF1)()(1Logistic回归模 型P自变量自变量Logit 变换xbbxbbeep

32、10101xbbp10)logit(xx5Logistic回归模 型这一回归模型就称为Logistic回归模型回归模型kkxbxbbp.)logit(110等价地).exp(1).exp(110110kkkkxbxbbxbxbbp使用logit变换，就是拟合在 Logistic模型中，自变量可以是连续连续变量或属性变量，对属性变量需引入示性示性变量将其转为数值Logistic回归估 计在二值Logistic 回归模型中：Y=p+e elogit(p)=b0+b1x1+.+bpxp其中的误差项 e 已不再是正态分布，虽然不同的观测误差相互独立，但不是同方差的，其方差随不同的 p 取不同的值所以在

33、拟合Logistic 模型一般不使用OLS法(通常的LS法)，而采用最大似然估计法最大似然估计法Logistic 模型的似然函数Logistic回归估 计（单个连续自变量）Logistic回归也可用于名义型属性自变量的情形购买购买性别性别收入水平收入水平NFemaleLowNFemaleLowBMaleModerateBMaleModerateNFemaleModerateNFemaleHighNMaleHighNMaleHighLogistic回归估 计（单个属性自变量）6购买与性别的数据可整理成如下四格表BNFemale101139Male61130Logistic回归估 计（单个属性自变

34、量）Logistic回归系数与优势比优势比(Odds 结果C1，G1对G2):BNFemale101139Male61130Logistic回归系数与优势比Logistic回归多自变量Logistic回归也可用于包含分类型和连续型的多个自变量的情形7logit(pi)=b0+b1X1+b2X2+b3X3Logistic回归多自变量PurchaseGender IncomeAgeLogistic回归多自变量Logistic回归多自变量PurchasePurchaseGenderIncomeAgeFullModelReducedModel.?对多自变量的Logistic回归也可使用逐步回归方法进行

35、变量选择，这就需要对回归系数进行检验检验Logistic回归检 验在回归分析中，因为使用最小平方和拟合，所以使用残差平方和平方和分解等方法来评价回归拟合的好坏在Logistic回归中，由于使用了最大似然估计法，所以使用了与似然函数有关的指标来评价回归的好坏，它们在形式上与线性模型回归分析有许多类似的地方8Logistic回归检 验衡量模型作用(检验模型显著性)：原假设：除截距项外，所有自变量对应的回归系数均为0Logistic回归检 验在Logistic回归中，与基于平方和分解的Analysis of Variance对应的是基于似然函数的Analysis of DevianceDevianc

36、e(偏差)是一个与对数似然函数最大值密切有关的量。“饱和模型”(Saturated model)用n个参数“完美”地解释n个数据拟合模型(M)用几个参数拟合数据Logistic回归检 验M0：只含截距项的Logistic回归模型M1：纳入所有自变量的Logistic回归模型原假设：除截距项外，所有自变量对应的回归系数均为0Logistic回归检 验9Logistic回归检 验基于Deviance，可以对一个Logistic回归模型中任意的一个或几个自变量进行显著性检验，从而进行变量选择基于Deviance的检验等价于似然比检验(LR test)Logistic回归检 验在一般的正态回归分析中，

37、Deviance与误差平方和等价，因此在一般的模型拟合中就用它的变化来衡量模型的作用与显著性。此外，模型中每个自变量对应的系数估计都有渐近正态性，也可由此对于单个系数的显著性给出检验(对应于正态回归分析中回归系数的 t 检验)，并进行变量选择。1第三章：定性数据分析第三章：定性数据分析-Logistic Logistic 回归回归(2)(2)Logistic回归简 单 回 顾kkxbxbbp.)logit(110等价地).exp(1).exp(110110kkkkxbxbbxbxbbpLogistic回归模型：回归系数估计：极大似然法极大似然法回归系数的解释：与odds ratio相联系回归系

38、数显著性检验：Analysis of DevianceLogistic回归Logistic回归模型的建立步骤(1)初步分析(4)模型修正(2)估计、检验与模型选择(3)拟合优度YES(5)解释与预测NO变量选择基于回归系数显著性的各种检验，如Deviance分析、似然比(LR)检验、Wald检验等。向前选择法向后选择法逐步回归法Logistic回归变 量 选 择2Logistic回归拟 合 优 度当自变量为分类型分类型变量时，拟合模型的Deviance G2与Pearson c2均可作为模型拟合优度的度量，它们均渐近服从开方分布。Logistic回归预 测当模型确定后，可以利用拟合的回归进行预

39、测Logistic回归预 测拟合的Logistic回归公式可用于预测Logistic回归预测与分类Logistic回归可预测事件的概率，并由此推断事件是否发生用作分类器。由此也可评价数据拟合拟合的好坏，作为拟合优度的度量3Logistic回归预测与分类分类正确的比例:42.7+35.6=78.34%Sensitivity:82.80%Specificity:73.56%Sensitivity:阳性被正确检出的比例Specificity:阴性被正确检出的比例Sensitivity:P(预测愿购买预测愿购买|实际愿购买实际愿购买)Specificity:P(预测不愿购买预测不愿购买|实际不愿购买实

40、际不愿购买)Logistic回归预测与分类False POS:23.00%False NEG:20.00%假阳性(False POS):检出阳性为错假阴性(False Neg)检出阴性为错False POS:P(实际不愿购买实际不愿购买|预测愿购买预测愿购买)False Neg:P(实际愿购买实际愿购买|预测不愿购买预测不愿购买)Logistic回归预测与分类预测与分类时，截止点(Cutoff)值的选取BNFemale101139Male61130Logistic回归预测与分类对预测的概率选择不同的截止点值可以得到不同的分类4Logistic回归预测与分类ROC(Receiver Operat

41、ing Characteristic)曲线描绘了不同截止点下敏感性与分辨性的对应关系Logistic回归预测与分类Logistic回归预测与分类在Logistic回归中，对观测和拟合结果(Yi,pi),(Yj,pj),也可用一致对与不一致对的个数来衡量回归拟合的效果：(Yi-Yj)(pi-pj)0,称为一致对一致对(Concordant)(Yi-Yj)(pi-pj)2)个有序类别，按序排列后记因变量属于第j个类别的概率为pj：多值有序因变量累计概率累计概率：第j个累计概率指因变量属于第j个或更低的类别的概率：Logistic回归多值有序因变量比例优势模型(Proportional Odds M

42、odel)考虑自变量取值对(条件)累计概率的影响：J=2时退化成二值Logistic回归模型！7Logistic回归多值有序因变量第J个累计概率必为1，无需放入模型对于不同的累计概率，只假设截距项不同截距项不同，而自变量对应的回归系数均相同回归系数均相同回归系数的估计仍使用极大似然方法模型可以对在不同自变量取值下的(条件)累计概率给出描述以及预测Logistic回归多值有序因变量将年龄(12-17岁)看作有序因变量，身高作为自变量Logistic回归多值有序因变量Logistic回归多值有序因变量12131415168Logistic回归probit 回归在Logistic回归中，对事件的概率

43、 p 拟合:g(p)=b0+b1x1+.+bpxp 其中g(p)=logit(p)是一个将(0,1)变为整个数轴的变换若取 g(p)=F-1(p)=probit(p),即正态分布分布函数的反函数，它也是一个将(0,1)变为整个数轴的变换，拟合的回归probit(p)=b0+b1x1+.+bpxp 就称为probit回归回归Logistic回归probit 回归Logistic回归probit 回归Logistic回归probit 回归ProbitLogit使用Probit和Logit回归预测的结果也是相仿的9Logistic回归probit 回归probitlogitLogistic回归小 结

44、Logistic回归：因变量Y：两值(频率)拟合：p=E(Y)变换：logit logit(p)b0+b1x1+.+bpxp选择：Deviance分析、参数估计与检验拟合优度：分类器、ROC曲线、一致对系数解释、预测概率及推断事件发生多值与有序的Logistic回归，probit回归Logistic回归小 结按自变量或因变量的不同类型采用不同的统计方法建立变量之间的关系式(模型)名义型区间型名义型列联表分析方差分析区间型Logistic回归回归分析Logistic回归一般线性模型因变量(Y)广义线性模型自变量(X)混合型1第四章：对数线性模型第四章：对数线性模型属性数据分析属性变量分类型的属性

45、变量名义的、有序的计数型计数型的属性变量取值于非负整数非负整数上午九点至十一点半经过管理学院门口的汽车数某电脑专卖店一天内销售电脑的台数计数型属性变量可以“简化”成分类型属性变量，但这样会损失信息也可以将计数型属性变量当作连续型变量分析，但有些时候也并不合适用什么统计模型描述计数型属性变量？因变量为计数型属性变量时，如何描述其与自变量之间的关系？属性数据分析因变量：吸引雄性的个数(Satellite)马蹄蟹(horseshoe crab)的例子自变量：雌蟹的颜色、壳损状况、宽度、重量 2马蹄蟹(horseshoe crab)的例子编号编号吸引雄性数吸引雄性数颜色颜色壳损状况壳损状况宽度（厘米）

46、宽度（厘米）重量（千克）重量（千克）18mediumboth worn or broken28.33.0520dark mediumboth worn or broken22.51.5539light mediumboth good262.340dark mediumboth worn or broken24.82.154dark mediumboth worn or broken262.660mediumboth worn or broken23.82.170light mediumboth good26.52.3580dark mediumone worn or broken24.71.9

47、90mediumboth good23.71.95100dark mediumboth worn or broken25.62.15110dark mediumboth worn or broken24.32.15120mediumboth worn or broken25.82.651311mediumboth worn or broken28.23.05140darkone worn or broken21.01.851514mediumboth good26.02.3马蹄蟹(horseshoe crab)的例子初步分析：将宽度分成8组后计算每组的样本平均值问题一：自变量对于是否能吸引到雄

48、性的影响转变成二值的分类型变量，用Logistic回归或probit回归问题二：自变量对于吸引雄性个数的影响正态线性回归不合适不合适计数型数据的概率模型Poisson分布分布马蹄蟹(horseshoe crab)的例子Y服从Poisson()，则E(Y)=希望用自变量预测或解释计数型因变量的(条件)均值仍仿照一般线性回归 b0+b1x1+.+bpxp对数线性模型模 型不足:总是非负的，而上式右端可以取负值负值3所以类似于Logistic回归，假设 F(b0+b1x1+.+bpxp)g()b0+b1x1+.+bpxp这里函数g是一个将正半轴变为整个数轴的变换，常用的是对数线性模型模 型)log(

49、)(gxexgxF)()(1g g仍称为Link function自变量自变量Log 变换对数线性模型模 型xbbe10 xbb10)log(xx这一回归模型就称为对数线性对数线性模型模型，与Logistic回归模型一样，其也是广义线性模型的一种kkxbxbb.)log(110等价地).exp(110kkxbxbb使用log变换，就是拟合对数线性模型模 型对数线性模型估 计在对数线性模型中：Y=+e elog()=b0+b1x1+.+bpxp类似于Logistic回归，对数线性模型中的误差项 e e 也不服从正态分布，且不是同方差，其方差随不同的取不同的值因为假设Y服从Poisson分布，所以

50、在拟合对数线性模型时仍采用最大似然估计法最大似然估计法对数线性模型的似然函数4对数线性模型估 计马蹄蟹的例子：单个自变量宽度(width)width对数线性模型估 计马蹄蟹的例子：多自变量宽度(width)+颜色(color)light mediummediumdark mediumdarkwidth对数线性模型检 验衡量模型作用(检验模型显著性)：原假设：除截距项外，所有自变量对应的回归系数均为0与Logistic回归类似，对数线性模型的估计是基于似然函数，故此检验仍可以由Analysis of Deviance给出：M0：只含截距项的对数线性模型M1：纳入所有自变量的对数线性模型基于Dev