应用多元统计分析全套ppt课件最全电子教案完整版教学教程整套全书课件ppt.pptx

《应用多元统计分析全套ppt课件最全电子教案完整版教学教程整套全书课件ppt.pptx》由会员分享，可在线阅读，更多相关《应用多元统计分析全套ppt课件最全电子教案完整版教学教程整套全书课件ppt.pptx（56页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 第第1 1章章 绪绪 论论应用多元统计分析应用多元统计分析 - 1- 多元统计分析是研究多个随机变量之间相互依赖关系及内在多元统计分析是研究多个随机变量之间相互依赖关系及内在统计规律的一门统计学科统计规律的一门统计学科, ,其内容既包括一元统计理论方法的推其内容既包括一元统计理论方法的推广，也包括多个随机变量特有的一些理论和方法，后者有大量的广，也包括多个随机变量特有的一些理论和方法，后者有大量的实际应用背景。实际应用背景。 在实际问题中，涉及到的随机变量往往有多个，且这些变量在实际问题中，涉及到的随机变量往往有多个，且这些变量之间又存在一定的联系。例如之间又存在一定的联系。例如, , 一个

2、国家的经济状况需要用多个一个国家的经济状况需要用多个指标来刻画。人的体能需要用年龄、体重、肺活量等多项指标来指标来刻画。人的体能需要用年龄、体重、肺活量等多项指标来反映。反映。 例例1.1 1.1 考察学生的学考察学生的学习情况时，需要了解学生习情况时，需要了解学生在几个主要科目的学习成在几个主要科目的学习成绩，等等。表绩，等等。表1.11.1给出给出2020名名中学生中学生5 5门主课期末考试成门主课期末考试成绩。我们希望根据表绩。我们希望根据表1.11.1提提供的数据对这供的数据对这2020名学生的名学生的学习情况进行评价。学习情况进行评价。 如果用一元统计方法，需要对各门课程成绩分别分析

3、。这样处理，如果用一元统计方法，需要对各门课程成绩分别分析。这样处理，由于忽视了课程之间可能存在的相关性，因此会丢失许多信息，分析的由于忽视了课程之间可能存在的相关性，因此会丢失许多信息，分析的结果不能客观全面地反映学生的真实学习情况。结果不能客观全面地反映学生的真实学习情况。 如果采用多元分析方法，可以同时对多门课程的成绩进行综合分析，如果采用多元分析方法，可以同时对多门课程的成绩进行综合分析，给出比较客观和全面的分析结果。给出比较客观和全面的分析结果。 1. 1. 多元统计理论基础多元统计理论基础 包括多维随机向量，特别是多维正态随包括多维随机向量，特别是多维正态随机向量，以及由此定义的各

4、种统计量的分布及其性质，多元统计分机向量，以及由此定义的各种统计量的分布及其性质，多元统计分布理论。布理论。 2. 2. 多元统计推断多元统计推断 包括多元正态总体的参数估计和假设检验问包括多元正态总体的参数估计和假设检验问题，特别是均值向量和协方差阵的估计和假设检验等问题。题，特别是均值向量和协方差阵的估计和假设检验等问题。 3. 3. 变量之间的相互关系变量之间的相互关系 (1) (1) 多元回归分析：多元回归分析：分析变量之间的分析变量之间的因果关系因果关系, ,建立一个变量或几个变量与另一些变量的定量关系式建立一个变量或几个变量与另一些变量的定量关系式, ,并并用于预测或控制。用于预测

5、或控制。(2) (2) 典型相关分析：典型相关分析：分析两组变量之间的相关关分析两组变量之间的相关关系。系。多元统计分析概述多元统计分析概述 4. 4. 分类与判别问题分类与判别问题 (1) (1) 判别分析：判别分析：根据观测到的样品数根据观测到的样品数据据( (训练样本训练样本) )，按相似程度大小对所考察的样品或变量进行分，按相似程度大小对所考察的样品或变量进行分类类( (归类归类) )，常称其为，常称其为“”。(2) (2) 聚类分析：聚类分析：对观测到的数据，按相似程度大小对样品或变量进行分类。常对观测到的数据，按相似程度大小对样品或变量进行分类。常称其为称其为“”。 5. 5. 简

6、化数据结构简化数据结构 将高维数据降为低维数据将高维数据降为低维数据, ,使使数据结构得到有效简化数据结构得到有效简化, ,并在此基础上分析变量之间或样品之间并在此基础上分析变量之间或样品之间的复杂关系。这类问题的统计方法包括的复杂关系。这类问题的统计方法包括主成分分析主成分分析、因子分析因子分析以及对应分析，等等。以及对应分析，等等。多元统计分析概述多元统计分析概述 多元统计分析起源于多元统计分析起源于2020世纪初，世纪初，19281928年年WishartWishart发表的一篇论发表的一篇论文文多元正态总体样本协方差阵的精确分布多元正态总体样本协方差阵的精确分布被公认为是多元统被公认为

7、是多元统计的开端。之后计的开端。之后FisherFisher、HotellingHotelling、RoyRoy和许宝騄等著名统计学和许宝騄等著名统计学家的开创性工作，使多元统计分析在理论上得到了迅速发展，并家的开创性工作，使多元统计分析在理论上得到了迅速发展，并在许多领域得到实际应用。但是，由于使用多元统计方法解决实在许多领域得到实际应用。但是，由于使用多元统计方法解决实际问题时需要的计算量很大，使其发展受到一定限制。际问题时需要的计算量很大，使其发展受到一定限制。多元统计分析概述多元统计分析概述 到了到了2020世纪中后期，随着电子计算机的出现和发展，使得多元世纪中后期，随着电子计算机的出

8、现和发展，使得多元统计分析方法在自然科学和社会科学的许多领域得到广泛的应用，统计分析方法在自然科学和社会科学的许多领域得到广泛的应用，并由此带来其理论的进一步发展。另一方面，不断提出一些新理论、并由此带来其理论的进一步发展。另一方面，不断提出一些新理论、方法和技术，又促使其应用范围进一步扩大。方法和技术，又促使其应用范围进一步扩大。2121世纪初，随着现代世纪初，随着现代信息技术的高速发展和广泛应用，人类进入了大数据时代。信息技术的高速发展和广泛应用，人类进入了大数据时代。多元统计分析概述多元统计分析概述 海量数据和超高维数据的大量涌现，对统计理论、方法和技术海量数据和超高维数据的大量涌现，对

9、统计理论、方法和技术的发展提出新的挑战。近年来，我国学者在多元统计分析的理论研的发展提出新的挑战。近年来，我国学者在多元统计分析的理论研究和应用方面取得了显著成绩，有不少研究工作已达到国际领先水究和应用方面取得了显著成绩，有不少研究工作已达到国际领先水平，并形成许多高水平的科研团队，活跃在各个领域。平，并形成许多高水平的科研团队，活跃在各个领域。多元统计分析概述多元统计分析概述多元数据的直观表示多元数据的直观表示 多元数据可以通过图形直观表示，以便对所研究的数据的直多元数据可以通过图形直观表示，以便对所研究的数据的直观了解。观了解。另一方面，对具体问题的多元分析结果或过程也可以通另一方面，对具

10、体问题的多元分析结果或过程也可以通过图形来展示，以便人们对分析结果或计算过程有直观的理解。过图形来展示，以便人们对分析结果或计算过程有直观的理解。本章主要介绍多元数据的几个常用直观表示方法，本章主要介绍多元数据的几个常用直观表示方法，对于多元分析对于多元分析的结果或过程的直观表示方法，将在本书后面几章介绍的各种多的结果或过程的直观表示方法，将在本书后面几章介绍的各种多元分析方法中介绍。元分析方法中介绍。 包括包括轮廓图、散布矩阵图、均值轮廓图、散布矩阵图、均值条条形形图、箱图、箱线线图、星相图、图、星相图、脸谱图、调和曲线图等图形脸谱图、调和曲线图等图形。 要求学生了解多元数据的直观表示方法及

11、多变量图形的要求学生了解多元数据的直观表示方法及多变量图形的一些特点，并掌握一些复杂的多元数据的图示技术。一些特点，并掌握一些复杂的多元数据的图示技术。 图形有助于对所研究数据的直观了解，如果能把一些多元图形有助于对所研究数据的直观了解，如果能把一些多元数据直接绘图显示，便可从图形一目了然看出多元变量之间数据直接绘图显示，便可从图形一目了然看出多元变量之间的关系。的关系。 例例1.21.2 为了研究全国为了研究全国3131个省、市、自治区个省、市、自治区20201818年城镇居民年城镇居民生活消费的分布规律，根据调查资料做区域消费类型划分生活消费的分布规律，根据调查资料做区域消费类型划分。食品

12、食品x1x1：人均食品支出：人均食品支出( (元元/ /人人) ) 衣着衣着x2x2：人均衣着商品支出：人均衣着商品支出( (元元/ /人人) ) 居住居住x3x3：人均居住支出：人均居住支出( (元元/ /人人) ) 生活生活x4x4：人均家庭设备用品及服务支出：人均家庭设备用品及服务支出( (元元/ /人人) ) 交通交通x5x5：人均交通和通讯支出：人均交通和通讯支出( (元元/ /人人) )教育教育x6x6：人均娱乐教育文化服务支出：人均娱乐教育文化服务支出( (元元/ /人人) )医疗医疗x7x7：人均医疗保健支出：人均医疗保健支出( (元元/ /人人) ) 其他其他x8x8：人均杂

13、项商品和服务支出：人均杂项商品和服务支出( (元元/ /人人) )地区x1x2x3x4x5x6x7x8北京8064.92175.514110.32371.94767.43999.43274.51078.6天津8647.51990.06406.31818.44280.93186.62676.9896.3河北4271.31257.44050.41138.72355.41734.51540.5373.8山西3688.21261.03228.5855.61845.21940.01635.1356.4内蒙古5324.31751.23680.01204.63074.32245.41847.5537.9辽宁

14、5727.81628.14169.51259.42968.22708.02257.1680.2吉林4417.41397.03294.8899.42479.72193.42012.0506.7黑龙江4573.21405.43176.3866.42196.62030.32235.3490.4上海10728.22036.814208.52095.54881.25049.43070.21281.5江苏6529.81541.06731.21493.33522.82582.62016.4590.4浙江8198.31813.57721.21652.44302.03031.32059.4692.6安徽5414

15、.71137.43941.91041.22082.11810.41224.0392.8福建7572.91212.16130.01223.12923.32194.01234.8505.8江西4809.01074.13795.21047.71872.11813.01000.0381.0山东5030.91391.83928.51394.32834.32174.41627.6398.1河南3959.81172.83512.01054.41838.01769.11541.5321.0湖北5491.31316.24310.61253.22584.12187.51907.9487.0湖南5260.01215

16、.53976.11190.22322.92786.21705.5351.5广东8480.81135.36643.31440.83423.92750.91520.8658.2广西4545.7616.73268.5898.22150.11798.91364.6291.9海南6552.2655.93744.0826.61919.02185.51236.1409.2重庆6220.81454.53498.81338.92545.02087.81660.0442.8四川5937.91173.83368.01182.22398.81599.71568.6434.5贵州3792.9934.72760.7878

17、.12408.01660.01083.5280.1云南3983.4789.13081.1859.92212.81772.71267.7283.2西藏4330.51285.22102.6622.31847.7609.3460.1262.6陕西4292.51141.13388.21200.82005.82008.81749.4373.2甘肃4253.31111.53095.0896.91640.71710.31573.9342.4青海4671.61350.62990.0932.02671.41655.61842.0444.0宁夏4234.11388.23014.31067.12724.42139.

18、51727.1420.4新疆4691.61456.02894.31082.82274.41762.51592.6434.9X=read.table(biao1.2.txt,header=T) pairs(X) #pairs(X) #画散布矩阵画散布矩阵图图从该图可以看出从该图可以看出, ,食品支出与生活用品及服务食品支出与生活用品及服务支出、教育及文化娱乐支出之间存在显著线支出、教育及文化娱乐支出之间存在显著线性相关关系，而教育及文化娱乐支出又与居性相关关系，而教育及文化娱乐支出又与居住支出、其他支出之间存在显著线性相关关住支出、其他支出之间存在显著线性相关关系，等等。系，等等。食品10002

19、00010001000400040010004000900010002000衣着居住2000100001000生活交通2000400010004000教育医疗500250040009000400100020001000020004000500 2000其他# #按行做均值条形图按行做均值条形图barplot(apply(X,1,mean) 北京天津河北山西内蒙古辽宁吉林黑龙江上海江苏浙江安徽福建江西山东河南湖北湖南广东广西海南重庆四川贵州云南西藏陕西甘肃青海宁夏新疆010002000300040005000# #按行做均值条形图按行做均值条形图barplot(apply(X,2,mean) 食

20、品衣着居住生活交通教育医疗其他010002000300040005000boxplot(X) #boxplot(X) #按列做按列做垂直垂直箱线图箱线图boxplot(X,horizontal=T)#boxplot(X,horizontal=T)#水平水平箱线图箱线图从该图可以看出，食品消费支出远高从该图可以看出，食品消费支出远高于其它指标的支出。于其它指标的支出。食品衣着居住生活交通教育医疗其他02000400060008000100001200014000# #简单星相图简单星相图stars(X) stars(X) 北 京天 津河 北山 西内 蒙 古辽 宁吉 林黑 龙 江上 海江 苏浙 江

21、安 徽福 建江 西山 东河 南湖 北湖 南广 东广 西海 南重 庆四 川贵 州云 南西 藏陕 西甘 肃青 海宁 夏新 疆食 品衣 着居 住生 活交 通教 育医 疗其 他# #带图例度彩色星相图带图例度彩色星相图stars(Xstars(X, ,key.loc=c(key.loc=c(1717, ,7 7),), draw.segments=T) draw.segments=T) 北 京天 津河 北山 西内 蒙 古辽 宁吉 林黑 龙 江上 海江 苏浙 江安 徽福 建江 西山 东河 南湖 北湖 南广 东广 西海 南重 庆四 川贵 州云 南西 藏陕 西甘 肃青 海宁 夏新 疆居 住生 活交 通教 育

22、#加载aplpack包library(aplpack) #按每行7个做脸谱图faces(X,ncol.plot=7) 脸谱图：运用样本各变量值构造脸的各部位，通过分析脸部位大小或形状来运用样本各变量值构造脸的各部位，通过分析脸部位大小或形状来 分析各样本数据特征分析各样本数据特征# #加载加载mvstatsmvstats包包library(library(mvstatsmvstats) ) plot.andrewsplot.andrews(X) (X) 调和曲线图：使用高维空间中的一个样本对应于二维平面上的一条曲线的方法 分析数据特征-3-2-1012302000400060008000100

23、0012000北 京天 津河 北山 西内 蒙 古辽 宁吉 林黑 龙 江上 海江 苏浙 江安 徽福 建江 西山 东河 南湖 北湖 南广 东广 西海 南重 庆四 川贵 州云 南西 藏陕 西甘 肃青 海宁 夏新 疆# #也可以直接从镜像站也可以直接从镜像站加载加载andrewsandrews包绘制调和曲包绘制调和曲线图线图library(andrews)library(andrews)andrews(X,type=3,clr=5,andrews(X,type=3,clr=5,ymax=3)ymax=3)调和曲线图：使用高维空间中的一个样本对应于二维平面上的一条曲线的方法 分析数据特征02468101

24、2-3-2-10123 第第2 2章章 多元正态抽样分布多元正态抽样分布应用多元统计分析应用多元统计分析 - 25- 在多元统计分析中，多元正态分布占有相当重要的地位。这是在多元统计分析中，多元正态分布占有相当重要的地位。这是因为，许多实际问题涉及到的随机向量服从正态分布或近似服从正因为，许多实际问题涉及到的随机向量服从正态分布或近似服从正态分布；当样本量很大时，许多统计量的极限分布往往和正态分布态分布；当样本量很大时，许多统计量的极限分布往往和正态分布有关。此外，对多元正态分布，理论与实践都比较成熟，已有一整有关。此外，对多元正态分布，理论与实践都比较成熟，已有一整套行之有效的统计推断方法。

25、套行之有效的统计推断方法。 基于这些理由，我们在介绍多元统计分析的种种具体方法之前，基于这些理由，我们在介绍多元统计分析的种种具体方法之前，首先介绍多元正态分布的定义、性质及多元正态分布中参数的估计首先介绍多元正态分布的定义、性质及多元正态分布中参数的估计问题。问题。第第2 2章章 多元正态抽样分布多元正态抽样分布 多元统计分析讨论的是多变量总体。以多元统计分析讨论的是多变量总体。以p p个随机变量作为分量个随机变量作为分量构成的向量构成的向量称为称为p p维维随机向量随机向量。如果我们同时对。如果我们同时对p p个变量作一次观测，得到观个变量作一次观测，得到观测值测值 ，它是一个样品。如果我

26、们观察，它是一个样品。如果我们观察n n次得到次得到n n个样品个样品品品 ，而，而n n个样品就构成一个个样品就构成一个样本。样本。ppxxxxX11),(),(11211)1(pxxxXnixxxXipiii, 2 , 1,),(21)( 常把常把n n个样品排成一个个样品排成一个n np p矩阵，称为矩阵，称为样本数据矩阵样本数据矩阵（或样本资料（或样本资料阵），记为阵），记为 .)()2()1(212222111211nnpnnppXXXxxxxxxxxxM 在多元统计分析理论中涉及到的向量一般都是随机向量，或是由在多元统计分析理论中涉及到的向量一般都是随机向量，或是由多个随机向量构成

27、的随机矩阵。多个随机向量构成的随机矩阵。均均值向量和协方差阵值向量和协方差阵 设设 是一个随机向量。称向量是一个随机向量。称向量为随机向量为随机向量X X 的的均值向量均值向量。称矩阵。称矩阵为随机向量为随机向量X X 的的协方差矩阵协方差矩阵，其中，其中 。),(1pxxXppxExEXE11)()()(ppppppppXEXXEXEXVar212222111211)()()()(),(jjiijiijxxExxCov均均值向量和协方差阵值向量和协方差阵 设设 是另一个随机向量。称矩阵是另一个随机向量。称矩阵为随机向量为随机向量X X 与与Y Y 的的协方差矩阵协方差矩阵，其中，其中),(1

28、qyyYqppqppqqYEYXEXEYXCov212222111211 )()(),()()(),(jjiijiijyEyxExEyxCov均均值向量和协方差阵值向量和协方差阵 若若 为为X X 的协方差阵，则的协方差阵，则 称为称为X X 的相的相关阵，其中关阵，其中 若记若记 ，则有则有 或或 ppijXVar)( ppijrR)., 1,(pjirjjiiijij),(112/1ppdiagV2/12/1RVV.)()(2/12/112/112/1VVVVR均值向量和协方差阵的性质均值向量和协方差阵的性质 性质性质1.1. 设设X X 和和Y Y 是适当维数的随机向量，是适当维数的随机

29、向量，A A和和B B是适当阶数的常是适当阶数的常数矩阵，则有数矩阵，则有 ),()(XAEAXE,)()(BXAEAXBE, )()(AXADAXVar.),(),(BYXACovBYAXCov均值向量和协方差阵的性质均值向量和协方差阵的性质 性质性质2 2. . 若若X X 与与Y Y 相互独立，则相互独立，则 ；反之则不一定成立。反之则不一定成立。 性质性质3.3. 随机向量随机向量X X 的协方差阵的协方差阵 是对称非负定矩阵是对称非负定矩阵。 性质性质4.4. ，其中其中L L 为非负定矩阵，称为为非负定矩阵，称为 的平方根矩阵，记的平方根矩阵，记为为 ，即，即 。 证明证明 由于由

30、于 ，利用实对称非负定矩阵的对角化原理，存在正交，利用实对称非负定矩阵的对角化原理，存在正交矩阵矩阵 ，使得，使得0),(YXCovppijXVar)(2L2/1L2/12/10001p均值向量和协方差阵的性质均值向量和协方差阵的性质 ,00002/12/12/12/112/12/11pp其中其中 这里这里 为为 的特征值，的特征值， 为为 的与的与 对应的单位正交特征向量。对应的单位正交特征向量。),(, 0012/12/112/1ppll ), 1(0pii), 1(pilii均值向量和协方差阵的性质均值向量和协方差阵的性质 性质性质5.5. ，其中其中A A为列满秩矩阵，若为列满秩矩阵，

31、若 则则A A为非退化矩阵。为非退化矩阵。 定理定理2.12.1 设设 ，则，则其中其中 表示矩阵表示矩阵B B 的迹。的迹。AA, 0)(,)(XVarXE,)()(AAtrAXXE)(Btr多元正态分布的定义和性质多元正态分布的定义和性质 定义定义2.1. 2.1. 设设 为随机向量，其中为随机向量，其中 相互独立，同服相互独立，同服从标准正态分布从标准正态分布 。设。设 为为p p维常数向量，维常数向量，A A 为为 常数矩阵，则称常数矩阵，则称向量向量 所服从的分布为所服从的分布为p p维正态分布，并称维正态分布，并称X X 为为p p维正态随机向维正态随机向量，记为量，记为 ，或简记

32、为，或简记为 , ,其中其中 。 性质性质1 1. 设设 ，B B 为为 常数矩阵，常数矩阵，d d为为s s维常数向量。维常数向量。令令 ，则，则 性质性质1 1说明，正态随机向量的任意线性组合仍然服从正态分布。说明，正态随机向量的任意线性组合仍然服从正态分布。),(1quuUquu,1) 1 , 0(NqpAUX),(pNX),(NXAA),(pNXpsdBXY) ,(BBdBNYs多元正态分布的定义和性质多元正态分布的定义和性质 推论推论2.1.2.1.设设 将将 分块为分块为则则 。 此推论说明此推论说明, ,多元正态分布的边缘分布仍为正态分布。但反之不一定多元正态分布的边缘分布仍为正

33、态分布。但反之不一定成立（例如见例成立（例如见例2.12.1）。）。),()2()1(prrpNXXX,22211211)2()1(rrprrp),(),(22)2()2(11)1()1(rprNXNX多元正态分布的定义和性质多元正态分布的定义和性质 例例2.2.2.2.设设 其中其中求求 的分布的分布, ,这里这里),(3NX,430311012,203dBXY.73,839102dB多元正态分布的定义和性质多元正态分布的定义和性质 性质性质2. 2. 若若 ，则，则 。 此性质给出多元正态分布中参数的明确统计意义。此性质给出多元正态分布中参数的明确统计意义。 性质性质3.3. 设设 相互独

34、立，且相互独立，且 为任意为任意常数。则常数。则),(NX)(,)(XVarXEkXX,1, 1),(kiNXiipikcc,1.,1121kikiiiipkiiicNXc多元正态分布的定义和性质多元正态分布的定义和性质 性质性质4. 4. 设设 则则 性质性质5.5. 设设 则则X X 的密度函数为的密度函数为其中其中 是是p p维向量。维向量。, 0),(NX).()()(21pXX, 0),(NX,)()(21exp|)2(1)(12/12/xxxfp),(1pxxx条件分布和独立性条件分布和独立性 设设 将将 分块为分块为由推论由推论2.12.1可知可知 定理定理2.2. 2.2. 设

35、设则则 与与 独立，当且仅当独立，当且仅当 。),()2()1(prrpNXXX,22211211)2()1(rrprrp),(),(22)2()2(11)1()1(rprNXNX,22211211)2()1()2()1(prrpNXXX)1(X)2(X12多元正态分布的定义和性质多元正态分布的定义和性质 定理定理2.3. 2.3. 设设 分块为分块为则给定则给定 时，时， 的条件分布为的条件分布为其中其中),()2()1(prrpNXXX, 0,.,22211211)2()1(rrprrp)2()2(xX)1(X),(|2 .112 . 1)2()2()1(rNxXX.),(21122121

36、12 .11)2()2(12212)1(2 . 1x多元正态分布的定义和性质多元正态分布的定义和性质 推论推论2.4. 2.4. 在定理在定理2.32.3条件下有条件下有 （1 1） 与与 相互独立；相互独立； （2 2） 与与 相互独立；相互独立； （3 3） 其中其中)2(X)2(12212)1(XX)1(X)1(11121)2(XX),(|1 .221 . 2)1()1()2(rpNxXX.),(1211121221 .22)1()1(11121)2(1 . 2x多元正态分布的定义和性质多元正态分布的定义和性质 例例2.4. 2.4. 设设 其中其中试求已知试求已知 时时 的条件分布。的

37、条件分布。),(),(3321NxxxX,201043138,221212xx 1232xxxx样本均值向量和样本协方差阵样本均值向量和样本协方差阵 设设 为来自总体为来自总体 的一个随机样的一个随机样本，且本，且 。记样本数据矩阵为。记样本数据矩阵为 下面我们引入样本均值向量、样本离差阵、样本协方差阵和样本相下面我们引入样本均值向量、样本离差阵、样本协方差阵和样本相关阵。关阵。), 1(),(1)(nixxXipii),(),(1ppNxxX0.)()1(1111nnpnpXXxxxxM样本均值向量和样本协方差阵样本均值向量和样本协方差阵 样本均值向量样本均值向量为为其中其中为为 的样本均值

38、。的样本均值。 ,1 1111)(npniiMnxxXnX, 1,11pixnxnjijiix样本均值向量和样本协方差样本均值向量和样本协方差阵阵 样本离差阵样本离差阵为为其中其中 ,)(11)( )()(1)(ppijnnniniiaMIMXXnMMXXXXAntjtjitiijpjixxxxa1., 1,),)(样本均值向量和样本协方差样本均值向量和样本协方差阵阵 样本协方差阵样本协方差阵为为其中其中 称为变量称为变量 的样本方差，称其算术平方根的样本方差，称其算术平方根 为变量为变量 的样本标准的样本标准差。差。,)(11ppijsAnSntjtjitiijpjixxxxs1., 1,)

39、,)(iisixixiis样本均值向量和样本协方差阵样本均值向量和样本协方差阵 样本相关阵样本相关阵为为其中其中 ,)(ppijrR., 1,pjiaaasssrjjiiijjjiiijij样本均值向量和样本协方差阵样本均值向量和样本协方差阵 定理定理2.4. 2.4. 设设 和和A A 分别为来自总体分别为来自总体 的样本均值向量和样本的样本均值向量和样本离差阵离差阵, ,则则 (1) (1) (2) (2) A A 可表示为可表示为 其中其中 独立同服从分布独立同服从分布 ; ; (3) (3) 和和A A 相互独立。相互独立。 X),(pN;1,nNXp, 11niiiZZA11,nZZ

40、 ), 0(pNX极大似然估计及其性质极大似然估计及其性质 设设 为来自正态分布为来自正态分布 的一个随机样的一个随机样本，且本，且 。本节我们讨论参数。本节我们讨论参数 和和 的极大似然估计。的极大似然估计。 为此我们把样本的联合密度函数为此我们把样本的联合密度函数视为视为 和和 的函数，并称其为的函数，并称其为似然函数似然函数，即，即 ), 1(),(1)(nixxXipii),(pN0niixfL1)(),(),(,)(21|)2(1 )(21exp|)2(1 )(21exp|)2(1 )()(21exp|)2(1 )()(21exp|)2(1 )()(21exp|)2(1),(1)()

41、(12/2/1)()(12/2/1)()(12/2/1)(1)(2/2/112/2/112/12/niiinnpniiinnpniiinnpniiinnpniiinnpiinipxxetrxxtrxxtrxxtrxxxxL极大似然估计及其性质极大似然估计及其性质由于由于我们有我们有,)()()()()(1)()(1)()(1)()(XXnAXXnXxXxXXxXXxxxniiiniiiniii极大似然估计及其性质极大似然估计及其性质 令令,)(21|)2(1),(12/2/XXnAetrLnnp).(21)(2),(ln),(),(ln11AdiagAdiagnnXLXnL, 0),(ln ,

42、 0),(ln1XLL极大似然估计及其性质极大似然估计及其性质得到得到 和和 的极大似然估计为的极大似然估计为其中其中 因为因为故故 是是 的无偏估计。的无偏估计。,1,AnXniiiniiXXXXAXnX1)()(1)().)(,1,1)(1)(11)(niniinXEnXEX极大似然估计及其性质极大似然估计及其性质 又由定理又由定理2.42.4可得可得因此因此 的极大似然估计不是的极大似然估计不是 的无偏估计，而的无偏估计，而才是才是 的无偏估计。常称的无偏估计。常称 为样本均值为样本均值，S S 为样本协方差阵为样本协方差阵。11111111,) 1()() ()(niniiniiiniiinZVarZZEZZEAE111nnAnSX