第7章---方差分析.pptx

《第7章---方差分析.pptx》由会员分享，可在线阅读，更多相关《第7章---方差分析.pptx（90页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、ANOVA研究的目的？第1页/共90页 方差分析(Analysis of Variance，简称ANOVA)，又称“变异数分析”，是R.A.Fisher发明的，用于两个及两个以上样本均数差别的显著性检验。第2页/共90页 为纪念Fisher，方差分析又称 F 检验(F Test)。用于推断多个总体均数有无差异 第3页/共90页 方差分析：用于多组均数 之间的显著性检验。要求：各组观察值服从正态分布或近似正态分布，并且各组之间的方差具有齐性。第4页/共90页 把所有观察值之间的变异分解为几个部分。把描写观察值之间的变异的离均差平方和分解为某些因素的离均差平方和及随机抽样误差的离均差平方和，进而计

2、算其相应的均方差，构成F统计量。基本思想第5页/共90页 由于各种因素的影响，研究所得的数据呈现波动状。造成波动原因可分成两类：一类是不可控的随机因素，另一类是研究中施加的对结果形成影响的可控因素第6页/共90页7.1 7.1 方差分析引论方差分析引论 7.2 7.2 单因素方差分析单因素方差分析7.3 7.3 双因素方差分析双因素方差分析学习内容学习内容第7页/共90页学习目标学习目标1.解释方差分析的概念解释方差分析的概念2.解释方差分析的基本思想和原理解释方差分析的基本思想和原理3.掌握单因素方差分析的方法及应用掌握单因素方差分析的方法及应用4.理解多重比较的意义理解多重比较的意义5.掌

3、握双因素方差分析的方法及应用掌握双因素方差分析的方法及应用6.掌握试验设计的基本原理和方法掌握试验设计的基本原理和方法第8页/共90页7.1 7.1 方差分析引论方差分析引论方差分析及其有关术语方差分析及其有关术语方差分析的基本思想和原理方差分析的基本思想和原理方差分析的基本假定方差分析的基本假定问题的一般提法问题的一般提法第9页/共90页为什么不做两两比较？为什么不做两两比较？1.1.设设有有四四个个总总体体的的均均值值分分别别为为m m1 1、m m2 2、m m3 3 、m m4 4 ，要要检检验验四四个个总总体体的的均均值值是是否否相相等等，每每次次检检验验两两个个的的作作法法共共需需

4、要要进进行行6 6次次不不同同的的检检验验，每每次次检检验验犯犯第第一一类类错错误误的的概概率率为为，连连续续作作6 6次次检检验验犯犯第第类类错错误误的的概概率率增增加加到到1-(1-1-(1-)6 6=0.265=0.265，大大于于0.050.05。相相应应的置信水平会降低到的置信水平会降低到0.950.956 6=0.735=0.7352.2.一一般般来来说说，随随着着增增加加个个体体显显著著性性检检验验的的次次数数，偶偶然然因因素素导导致致差差别别的的可可能能性性也也会会增增加加，(并并非非均均值值真真的的存在差别存在差别)3.3.方方差差分分析析方方法法则则是是同同时时考考虑虑所所

5、有有的的样样本本，因因此此排排除除了了错错误误累累积积的的概概率率，从从而而避避免免拒拒绝绝一一个个真真实实的的原原假假设设第10页/共90页方差分析及其有关术语方差分析及其有关术语第11页/共90页什么是方差分析什么是方差分析(ANOVA)?(ANOVA)?(analysis of variance)(analysis of variance)1.检验多个总体均值是否相等检验多个总体均值是否相等通过分析数据的误差判断各总体均值是否相等2.研究分类型自变量对数值型因变量的影响研究分类型自变量对数值型因变量的影响 一个或多个分类型自变量两个或多个(k 个)处理水平或分类一个数值型因变量3.有单因

6、素方差分析和双因素方差分析有单因素方差分析和双因素方差分析单因素方差分析：涉及一个分类的自变量双因素方差分析：涉及两个分类的自变量第12页/共90页什么是方差分析什么是方差分析?(例题分析例题分析)消费者对四个行业的投诉次数消费者对四个行业的投诉次数 行业行业观测值观测值零售业零售业旅游业旅游业航空公司航空公司家电制造业家电制造业12345675766494034534468392945565131492134404451657758【例例例例 】为了对几个行业的服务质量进行评价，消费者为了对几个行业的服务质量进行评价，消费者为了对几个行业的服务质量进行评价，消费者为了对几个行业的服务质量进行

7、评价，消费者协会在协会在协会在协会在4 4 4 4个行业分别抽取了不同的企业作为样本。最近一个行业分别抽取了不同的企业作为样本。最近一个行业分别抽取了不同的企业作为样本。最近一个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共年中消费者对总共年中消费者对总共年中消费者对总共23232323家企业投诉的次数如下表家企业投诉的次数如下表家企业投诉的次数如下表家企业投诉的次数如下表第13页/共90页什么是方差分析什么是方差分析?(例题分析例题分析)1.1.分分析析4 4个个行行业业之之间间的的服服务务质质量量是是否否有有显显著著差差异异，也也就就是是要要判判断断“行行业业”对对“投投诉诉次次

8、数数”是否有显著影响是否有显著影响2.2.作作出出这这种种判判断断最最终终被被归归结结为为检检验验这这四四个个行行业被投诉次数的均值是否相等业被投诉次数的均值是否相等3.3.若若它它们们的的均均值值相相等等，则则意意味味着着“行行业业”对对投投诉诉次次数数是是没没有有影影响响的的，即即它它们们之之间间的的服服务务质质量量没没有有显显著著差差异异；若若均均值值不不全全相相等等，则则意意味味着着“行行业业”对对投投诉诉次次数数是是有有影影响响的的，它们之间的服务质量有显著差异它们之间的服务质量有显著差异第14页/共90页方差分析中的有关术语方差分析中的有关术语1.1.因素或因子因素或因子(fact

9、or)(factor)所要检验的对象分析行业对投诉次数的影响，行业是要检验的因子2.2.水平或处理水平或处理(treatment)treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业3.观察值观察值在每个因素水平下得到的样本数据每个行业被投诉的次数第15页/共90页方差分析中的有关术语方差分析中的有关术语1.试验试验这里只涉及一个因素，因此称为单因素4水平的试验2.总体总体因素的每一个水平可以看作是一个总体零售业、旅游业、航空公司、家电制造业是4个总体3.样本数据样本数据被投诉次数可以看作是从这4个总体中抽取的样本数据第16页/共90页方差分析的基本思想和原理方差分析的基本思

10、想和原理第17页/共90页方差分析的基本思想和原理方差分析的基本思想和原理(图形分析图形分析散点图散点图)零售业 旅游业 航空公司 家电制造第18页/共90页1.从散点图上可以看出从散点图上可以看出不同行业被投诉的次数有明显差异同一个行业，不同企业被投诉的次数也明显不同家电制造被投诉的次数较高，航空公司被投诉的次数较低2.行业与被投诉次数之间有一定的关系行业与被投诉次数之间有一定的关系如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近方差分析的基本思想和原理方差分析的基本思想和原理(图形分析图形分析)第19页/共90页1.散散点点图图观观

11、察察不不能能提提供供充充分分的的证证据据证证明明不不同同行业被投诉的次数之间有显著差异行业被投诉的次数之间有显著差异这种差异可能是由于抽样的随机性造成的2.需需要要有有更更准准确确的的方方法法来来检检验验这这种种差差异异是是否否显著，也就是进行方差分析显著，也就是进行方差分析所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源方差分析的基本思想和原理方差分析的基本思想和原理第20页/共90页方差分析的基本思想和原理方差分析的基本思想和原理(两类

12、误差两类误差)1.随机误差随机误差因素的同一水平(总体)下，样本各观察值之间的差异比如，同一行业下不同企业被投诉次数之间的差异这种差异可以看成是随机因素的影响，称为随机误差 2.系统误差系统误差因素的不同水平(不同总体)之间观察值的差异比如，不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的，也可能是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差第21页/共90页方差分析的基本思想和原理方差分析的基本思想和原理(误差平方和误差平方和SS)SS)1.1.数数据据的的误误差差用用平平方方和和(sum sum of of squaressquares)

13、表示表示2.2.组内平方和组内平方和(within groups)(within groups)因素的同一水平下数据误差的平方和比如，零售业被投诉次数的误差平方和只包含随机误差3.3.组间平方和组间平方和(between groups)(between groups)因素的不同水平之间数据误差的平方和比如，4个行业被投诉次数之间的误差平方和既包括随机误差，也包括系统误差第22页/共90页方差分析的基本思想和原理方差分析的基本思想和原理(均方均方MS)MS)1.1.平方和除以相应的自由度平方和除以相应的自由度2.2.若若原原假假设设成成立立，组组间间均均方方与与组组内内均均方方的的数数值值就就应

14、应该很接近，它们的比值就会接近该很接近，它们的比值就会接近1 13.3.若若原原假假设设不不成成立立，组组间间均均方方会会大大于于组组内内均均方方，它它们之间的比值就会大于们之间的比值就会大于1 14.4.当当这这个个比比值值大大到到某某种种程程度度时时，就就可可以以说说不不同同水水平平之间存在着显著差异，即自变量对因变量有影响之间存在着显著差异，即自变量对因变量有影响判断行业对投诉次数是否有显著影响，也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响第23页/共90页方差分析的基本假定方差分析的基本假定第24页/共90页方差分析

15、的基本假定方差分析的基本假定1.每个总体都应服从正态分布每个总体都应服从正态分布对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本比如，每个行业被投诉的次数必须服从正态分布2.各个总体的方差必须相同各个总体的方差必须相同各组观察数据是从具有相同方差的总体中抽取的比如，4个行业被投诉次数的方差都相等3.观察值是独立的观察值是独立的比如，每个行业被投诉的次数与其他行业被投诉的次数独立第25页/共90页方差分析中的基本假定方差分析中的基本假定1.1.在在上上述述假假定定条条件件下下，判判断断行行业业对对投投诉诉次次数数是是否否有有显显著著影影响响，实实际际上上也也就就是是检检验验具具

16、有有同方差的同方差的4 4个正态总体的均值是否相等个正态总体的均值是否相等2.2.如如果果4 4个个总总体体的的均均值值相相等等，可可以以期期望望4 4个个样样本的均值也会很接近本的均值也会很接近4个样本的均值越接近，推断4个总体均值相等的证据也就越充分样本均值越不同，推断总体均值不同的证据就越充分 第26页/共90页方差分析中的基本假定方差分析中的基本假定 如果原假设成立，即如果原假设成立，即H0：1=2=3=44个行业被投诉次数的均值都相等意味着每个样本都来自均值为、方差为 2的同一正态总体 X X Xf(X)f(X)f(X)1 1 1 1 2 2 2 2 3 3 3 3 4 4 4 4

17、第27页/共90页方差分析中的基本假定方差分析中的基本假定若备择假设成立，即若备择假设成立，即H1：i(i=1,2,3,4)不全相等不全相等至少有一个总体的均值是不同的4个样本分别来自均值不同的4个正态总体 X X Xf(X)f(X)f(X)3 3 3 3 1 1 1 1 2 2 2 2 4 4 4 4 第28页/共90页问题的一般提法问题的一般提法第29页/共90页问题的一般提法问题的一般提法1.设因素有k个水平，每个水平的均值分别用 1,2,k 表示2.要检验k个水平(总体)的均值是否相等，需要提出如下假设：H0：1 2 k H1：1,2,，k 不全相等3.设 1为零售业被投诉次数的均值，

18、2为旅游业被投诉次数的均值，3为航空公司被投诉次数的均值，4为家电制造业被投诉次数的均值，提出的假设为H0：1 2 3 4 H1：1,2,3,4 不全相等第30页/共90页7.2 7.2 单因素方差分析单因素方差分析数据结构数据结构分析步骤分析步骤关系强度的测量关系强度的测量方差分析中的多重比较方差分析中的多重比较第31页/共90页单因素方差分析的数据结构单因素方差分析的数据结构(one-way analysis of variance)(one-way analysis of variance)观察值观察值 (j)因素因素(A)i 水平水平A1 水平水平A2 水平水平Ak12:n x11 x

19、21 xk1 x12 x22 xk2 :x1n x2n xkn第32页/共90页分析步骤分析步骤提出假设提出假设构造检验统计量构造检验统计量统计决策统计决策第33页/共90页提出假设提出假设1.一般提法一般提法H0：1=2=k 自变量对因变量没有显著影响 H1：1，2，k不全相等自变量对因变量有显著影响 2.2.注注意意：拒拒绝绝原原假假设设，只只表表明明至至少少有有两两个个总总体体的的均均值值不不相相等等，并并不不意意味味着着所所有有的的均均值值都不相等都不相等 第34页/共90页构造检验的统计量构造检验的统计量构造统计量需要计算构造统计量需要计算水平的均值水平的均值全部观察值的总均值全部观

20、察值的总均值误差平方和误差平方和均方均方(MSMS)第35页/共90页构造检验的统计量构造检验的统计量(计算水平的均值计算水平的均值)1.1.假假定定从从第第i i个个总总体体中中抽抽取取一一个个容容量量为为n ni i的的简简单单随随机机样样本本，第第i i个个总总体体的的样样本本均均值值为为该该样样本本的的全全部部观观察察值值总总和和除除以以观观察察值值的的个个数数2.2.计算公式为计算公式为 式中：式中：n ni i为第为第 i i 个总体的样本观察值个数个总体的样本观察值个数 x xij ij 为第为第 i i 个总体的第个总体的第 j j 个观察值个观察值 第36页/共90页构造检验

21、的统计量构造检验的统计量(计算全部观察值的总均值计算全部观察值的总均值)1.1.全部观察值的总和除以观察值的总个数全部观察值的总和除以观察值的总个数2.2.计算公式为计算公式为 第37页/共90页构造检验的统计量构造检验的统计量(例题分析例题分析)第38页/共90页构造检验的统计量构造检验的统计量(计算总误差平方和计算总误差平方和 SSTSST)1.1.全全部部观观察察值值 与与总总平平均均值值 的的离离差差平平方方和和2.2.反映全部观察值的离散状况反映全部观察值的离散状况3.3.其计算公式为其计算公式为 前例的计算结果前例的计算结果 SST SST=(57-47.869565)=(57-4

22、7.869565)2 2+(58-47.869565)(58-47.869565)2 2 =115.9295 =115.9295第39页/共90页构造检验的统计量构造检验的统计量(计算组间平方和计算组间平方和 SSASSA)1.1.各各组组平平均均值值 与与总总平平均均值值 的离差平方和的离差平方和2.2.反映各总体的样本均值之间的差异程度反映各总体的样本均值之间的差异程度3.3.该该平平方方和和既既包包括括随随机机误误差差，也也包包括括系系统统误误差差4.4.计算公式为计算公式为 前例的计算结果前例的计算结果 SSA SSA=1456.608696=1456.608696第40页/共90页构

23、造检验的统计量构造检验的统计量(计算组内平方和计算组内平方和 SSE SSE)1.1.每每个个水水平平或或组组的的各各样样本本数数据据与与其其组组平平均均值值的离差平方和的离差平方和2.2.反映每个样本各观察值的离散状况反映每个样本各观察值的离散状况3.3.该平方和反映的是随机误差的大小该平方和反映的是随机误差的大小4.4.计算公式为计算公式为 前例的计算结果前例的计算结果 SSE SSE=2708=2708第41页/共90页构造检验的统计量构造检验的统计量(三个平方和的关系三个平方和的关系)总总离离差差平平方方和和(SSTSST)、误误差差项项离离差差平平方方和和(SSESSE)、水水平平项

24、项离离差差平平方方和和 (SSASSA)之之间间的的关系关系SST=SSA+SSE 前例的计算结果前例的计算结果 4164.608696=1456.608696+2708 4164.608696=1456.608696+2708 第42页/共90页构造检验的统计量构造检验的统计量(计算均方计算均方MSMS)1.各各误误差差平平方方和和的的大大小小与与观观察察值值的的多多少少有有关关，为为消消除除观观察察值值多多少少对对误误差差平平方方和和大大小小的的影影响响，需需要要将将其其平平均均，这这就就是是均均方方，也也称称为为方差方差2.由误差平方和除以相应的自由度求得由误差平方和除以相应的自由度求得

25、3.三个平方和对应的自由度分别是三个平方和对应的自由度分别是SST 的自由度为n-1，其中n为全部观察值的个数SSA的自由度为k-1，其中k为因素水平(总体)的个数SSE 的自由度为n-k第43页/共90页构造检验的统计量构造检验的统计量(计算均方计算均方 MSMS)1.1.组组间间方方差差：SSA的均方，记为MSA，计算公式为2.2.组组组组内内内内方方方方差差差差：SSESSE的的均均方方，记记为为MSEMSE，计计算算公公式式为为第44页/共90页构造检验的统计量构造检验的统计量(计算检验统计量计算检验统计量 F F)1.1.将将MSAMSA和和MSEMSE进进行行对对比比，即即得得到到

26、所所需需要要的的检验统计量检验统计量F F2.2.当当H H0 0为为真真时时，二二者者的的比比值值服服从从分分子子自自由由度度为为k k-1-1、分分母母自自由由度度为为 n n-k k 的的 F F 分分布布，即即 第45页/共90页构造检验的统计量构造检验的统计量(F F分布与拒绝域分布与拒绝域)如果均值相等，如果均值相等，如果均值相等，F F F=MSAMSAMSA/MSEMSEMSE1 1 1 F 分布F(k-1,n-k)0 0拒绝拒绝HH0 0不能拒绝不能拒绝H H H H0 0 0 0F F第46页/共90页统计决策统计决策 将将统统计计量量的的值值F F与与给给定定的的显显著著

27、性性水水平平 的的临临界界值值F F 进进行行比比较较，作作出出对对原原假假设设H H0 0的的决决策策根据给定的显著性水平，在F分布表中查找与第一自由度df1k-1、第二自由度df2=n-k 相应的临界值 F 若FF ，则拒绝原假设H0，表明均值之间的差异是显著的，所检验的因素对观察值有显著影响若FF ，拒绝原假设H0，表明均值之间的差异是显著的，即所检验的行因素对观察值有显著影响若FC F ，拒绝原假设H0，表明均值之间有显著差异，即所检验的列因素对观察值有显著影响 第75页/共90页双因素方差分析表双因素方差分析表(基本结构基本结构)误差来误差来源源平方和平方和(SS)自由度自由度(df

28、)均方均方(MS)F值值P值值F临界值临界值行因素行因素SSRk-1MSRMSRMSE列因素列因素SSCr-1MSCMSCMSE误差误差SSE(k-1)(r-1)MSE总和总和SSTkr-1第76页/共90页双因素方差分析双因素方差分析(例题分析例题分析)提出假设提出假设对品牌因素提出的假设为H0：1=2=3=4 (品牌对销售量无显著影响）H1：i (i=1,2,4)不全相等 (有显著影响)对地区因素提出的假设为H0：1=2=3=4=5(地区对销售量无显著影响)H1：j(j=1,2,5)不全相等 (有显著影响)第77页/共90页双因素方差分析双因素方差分析(例题分析例题分析)结论：结论：F F

29、R R18.1077718.10777F F 3.49033.4903，拒绝原假设拒绝原假设H H0 0，说明，说明彩电的品牌对销售量有显著影响彩电的品牌对销售量有显著影响 F FC C2.1008462.100846 F F 3.25923.2592，不拒绝原假设，不拒绝原假设H H0 0，无证据表明销售地区对彩电的销售量有显著影响无证据表明销售地区对彩电的销售量有显著影响第78页/共90页双因素方差分析双因素方差分析(关系强度的测量关系强度的测量)1.行平方和(SSR)度量了品牌这个自变量对因变量(销售量)的影响效应2.列平方和(SSC)度量了地区这个自变量对因变量(销售量)的影响效应3.

30、这两个平方和加在一起则度量了两个自变量对因变量的联合效应4.联合效应与总平方和的比值定义为R25.其平方根R反映了这两个自变量合起来与因变量之间的关系强度 第79页/共90页双因素方差分析双因素方差分析(关系强度的测量关系强度的测量)例题分析例题分析品牌因素和地区因素合起来总共解释了销售量差异的83.94%其他因素(残差变量)只解释了销售量差异的16.06%R=0.9162，表明品牌和地区两个因素合起来与销售量之间有较强的关系 第80页/共90页有交互作用的双因素方差分析有交互作用的双因素方差分析(可重复双因素分析可重复双因素分析)第81页/共90页可重复双因素分析可重复双因素分析(例题例题)

31、【例例】城城市市道道路路交交通通管管理理部部门门为为研研究究不不同同的的路路段段和和不不同同的的时时间间段段对对行行车车时时间间的的影影响响，让让一一名名交交通通警警察察分分别别在在两两个个路路段段和和高高峰峰期期与与非非高高峰峰期期亲亲自自驾驾车车进进行行试试验验，通通过过试试验验共共获获得得了了2020个个行行车车时时间间(单单位位：min)min)的的数数据据，如如下下表表。试试分分析析路路段段、时时段段以以及及路路段段和和时时段段的的交交互互作作用对行车时间的影响用对行车时间的影响 第82页/共90页交互作用的图示交互作用的图示(interaction)(interaction)路段与

32、时段对行车时间的影响路段与时段对行车时间的影响路段与时段对行车时间的影响路段与时段对行车时间的影响交互作用交互作用无交互作用无交互作用行车时间行车时间路段路段1 1路段路段2 2高峰期高峰期非高峰期非高峰期行车时间行车时间路段路段1 1路段路段2 2高峰期高峰期非高峰期非高峰期第83页/共90页可重复双因素方差分析表可重复双因素方差分析表(基本结构基本结构)误差来源误差来源平方和平方和(SS)自由度自由度(df)均方均方(MS)F值值P值值F临界值临界值行因素行因素SSRk-1MSRFR列因素列因素SSCr-1MSCFC交互作用交互作用SSRC(k-1)(r-1)MSRCFRC误差误差SSEK

33、r(m-1)MSE总和总和SSTn-1m为样本的行数为样本的行数第84页/共90页可重复双因素分析可重复双因素分析(平方和的计算平方和的计算)设：为对应于行因素的第i个水平和列因素的第j个 水平的第l行的观察值 为行因素的第i个水平的样本均值 为列因素的第j个水平的样本均值 对应于行因素的第i个水平和列因素的第j个水 平组合的样本均值 为全部n个观察值的总均值 第85页/共90页可重复双因素分析可重复双因素分析(平方和的计算平方和的计算)1.总平方和：总平方和：2.行变量平方和：行变量平方和：3.列变量平方和：列变量平方和：4.交互作用平方和：交互作用平方和：5.误差项平方和：误差项平方和：S

34、STSST=SSRSSR+SSCSSC+SSRCSSRC+SSESSE第86页/共90页可重复双因素分析可重复双因素分析(Excel(Excel检验步骤检验步骤)第1步：选择“工具”下拉菜单，并选择【数据分析】选项第2步：在分析工具中选择【方差分析：可重复双因素分 析】，然后选择【确定】第3步：当对话框出现时 在【输入区域】方框内键入数据区域(A1：C11)在【】方框内键入0.05(可根据需要确定)在【每一样本的行数】方框内键入重复试验次数(5)在【输出选项】中选择输出区域 选择【确定】第87页/共90页本章小结本章小结1.1.方差分析方差分析(ANOVA)(ANOVA)的概念的概念2.2.方差分析的思想和原理方差分析的思想和原理3.3.方差分析中的基本假设方差分析中的基本假设4.4.单因素方差分析单因素方差分析5.5.双因素方差分析双因素方差分析第88页/共90页End of Chapter 7第89页/共90页感谢您的观看！第90页/共90页