多元正态分布的参数估计精选PPT.ppt

第1页，讲稿共67张，创作于星期日第一节第一节 引言引言 n多元统计分析涉及到的都是随机向量或多个随机向量放在一多元统计分析涉及到的都是随机向量或多个随机向量放在一起组成的随机矩阵。例如在研究公司的运营情况时，要考虑起组成的随机矩阵。例如在研究公司的运营情况时，要考虑公司的获利能力、资金周转能力、竞争能力以及偿债能力等公司的获利能力、资金周转能力、竞争能力以及偿债能力等财务指标；又如在研究国家财政收入时，税收收入、企业收财务指标；又如在研究国家财政收入时，税收收入、企业收入、债务收入、国家能源交通重点建设基金收入、基本建设入、债务收入、国家能源交通重点建设基金收入、基本建设贷款归还收入、国家预算调节基金收入、其他收入等都是需贷款归还收入、国家预算调节基金收入、其他收入等都是需要同时考察的指标。显然，如果我们只研究一个指标或是将要同时考察的指标。显然，如果我们只研究一个指标或是将这些指标割裂开分别研究，是不能从整体上把握研究问题的这些指标割裂开分别研究，是不能从整体上把握研究问题的实质的，解决这些问题就需要多元统计分析方法。为了更好实质的，解决这些问题就需要多元统计分析方法。为了更好的探讨这些问题，本章我们首先论述有关随机向量的基本概的探讨这些问题，本章我们首先论述有关随机向量的基本概念和性质。念和性质。第2页，讲稿共67张，创作于星期日n在实用中遇到的随机向量常常是服从正态分布或近似正态分在实用中遇到的随机向量常常是服从正态分布或近似正态分布，或虽本身不是正态分布，但它的样本均值近似于正态分布，或虽本身不是正态分布，但它的样本均值近似于正态分布。因此现实世界中许多实际问题的解决办法都是以总体服布。因此现实世界中许多实际问题的解决办法都是以总体服从正态分布或近似正态分布为前提的。在多元统计分析中，从正态分布或近似正态分布为前提的。在多元统计分析中，多元正态分布占有很重要地位，本书所介绍的方法大都假定多元正态分布占有很重要地位，本书所介绍的方法大都假定数据来自多元正态分布。为此，本章将要介绍多元正态分布数据来自多元正态分布。为此，本章将要介绍多元正态分布的定义和有关性质。的定义和有关性质。n 然而在实际问题中，多元正态分布中均值向量和协差阵通常然而在实际问题中，多元正态分布中均值向量和协差阵通常是未知的，一般的做法是由样本来估计。这是本章讨论的重是未知的，一般的做法是由样本来估计。这是本章讨论的重要内容之一，在此我们介绍最常见的最大似然估计法对参数要内容之一，在此我们介绍最常见的最大似然估计法对参数进行估计，并讨论其有关的性质。进行估计，并讨论其有关的性质。第3页，讲稿共67张，创作于星期日第二节第二节 基本概念基本概念一一 随机向量随机向量二二 多元分布多元分布三三 随机向量的数字特征随机向量的数字特征 第4页，讲稿共67张，创作于星期日一、随机向量一、随机向量n 我们所讨论的是多个变量的总体，所研究的数据是同时我们所讨论的是多个变量的总体，所研究的数据是同时包含包含 p 个指标（变量），又进行了个指标（变量），又进行了 n 次观测得到的，我们把次观测得到的，我们把这个这个 p 指标表示为指标表示为 X1，X2，Xp，通常运用，通常运用 p 维向量维向量 X=(X1，X2，XP)表示对同一个体观测的表示对同一个体观测的 p 个变量。个变量。n 这里我们应该强调，在多元统计分析中，仍然将所研究这里我们应该强调，在多元统计分析中，仍然将所研究对象的全体称为总体，它是由许多（有限和无限）的个体构对象的全体称为总体，它是由许多（有限和无限）的个体构成的集合，如果构成总体的个体是具有成的集合，如果构成总体的个体是具有 p 个需要观测指标的个需要观测指标的个体，我们称这样的总体为个体，我们称这样的总体为 p 维总体（或维总体（或 p 元总体）。上面元总体）。上面的表示便于人们用数学方法去研究的表示便于人们用数学方法去研究 p 维总体的特性。这里维总体的特性。这里“维维”（或（或“元元”）的概念，表示共有几个分量。若观测了）的概念，表示共有几个分量。若观测了个数为个数为 n 的个体，则可得到如表的个体，则可得到如表 2.1 的数据，称每一个个体的数据，称每一个个体的的 p 个变量为一个样品，而全体个变量为一个样品，而全体 n 个样品组成一个样本。个样品组成一个样本。第5页，讲稿共67张，创作于星期日 第6页，讲稿共67张，创作于星期日n n 第7页，讲稿共67张，创作于星期日二、多元分布二、多元分布n 第8页，讲稿共67张，创作于星期日 n 第9页，讲稿共67张，创作于星期日n n 第10页，讲稿共67张，创作于星期日n 第11页，讲稿共67张，创作于星期日n 第12页，讲稿共67张，创作于星期日n 第13页，讲稿共67张，创作于星期日n n 第14页，讲稿共67张，创作于星期日n n 第15页，讲稿共67张，创作于星期日n 第16页，讲稿共67张，创作于星期日三、随机向量的数字特征三、随机向量的数字特征 n 第17页，讲稿共67张，创作于星期日n 第18页，讲稿共67张，创作于星期日 定义随机向量定义随机向量 X X 和和 Y Y 的协差阵为的协差阵为 第19页，讲稿共67张，创作于星期日n n 第20页，讲稿共67张，创作于星期日n n 第21页，讲稿共67张，创作于星期日n 第22页，讲稿共67张，创作于星期日第三节第三节 多元正态分布多元正态分布一一 多元正态分布的定义多元正态分布的定义 二二 多元正态分布的性质多元正态分布的性质 第23页，讲稿共67张，创作于星期日一、多元正态分布的定义一、多元正态分布的定义n 第24页，讲稿共67张，创作于星期日n n 第25页，讲稿共67张，创作于星期日n 第26页，讲稿共67张，创作于星期日 n 第27页，讲稿共67张，创作于星期日二、多元正态分布的性质二、多元正态分布的性质 n 第28页，讲稿共67张，创作于星期日 n 第29页，讲稿共67张，创作于星期日n 第30页，讲稿共67张，创作于星期日第31页，讲稿共67张，创作于星期日第32页，讲稿共67张，创作于星期日第33页，讲稿共67张，创作于星期日n 第34页，讲稿共67张，创作于星期日第四节第四节 多元正态分布参数估计多元正态分布参数估计 一一 多元样本的数字特征多元样本的数字特征 二二 均值向量与协差阵的最大似然估计均值向量与协差阵的最大似然估计 三三 Wishart分布分布 第35页，讲稿共67张，创作于星期日一、多元样本的数字特征一、多元样本的数字特征 n 第36页，讲稿共67张，创作于星期日n 第37页，讲稿共67张，创作于星期日 第38页，讲稿共67张，创作于星期日第39页，讲稿共67张，创作于星期日 第40页，讲稿共67张，创作于星期日 第41页，讲稿共67张，创作于星期日第42页，讲稿共67张，创作于星期日n 第43页，讲稿共67张，创作于星期日二、均值向量与协差阵的最大似然二、均值向量与协差阵的最大似然 估计估计 n n 第44页，讲稿共67张，创作于星期日n 第45页，讲稿共67张，创作于星期日n 第46页，讲稿共67张，创作于星期日n 第47页，讲稿共67张，创作于星期日n 第48页，讲稿共67张，创作于星期日n 第49页，讲稿共67张，创作于星期日三、三、Wishart分布分布n n 第50页，讲稿共67张，创作于星期日n 第51页，讲稿共67张，创作于星期日n 第52页，讲稿共67张，创作于星期日n 第53页，讲稿共67张，创作于星期日第五节第五节 多元正态分布参数估计多元正态分布参数估计 的实例与计算机实现的实例与计算机实现 一一 均值向量的估计均值向量的估计二二 协差阵的估计协差阵的估计 第54页，讲稿共67张，创作于星期日n通过上面的理论分析知道，多元正态总体均值向量和协差阵通过上面的理论分析知道，多元正态总体均值向量和协差阵的最大似然估计分别是样本均值向量和样本协差阵。利用的最大似然估计分别是样本均值向量和样本协差阵。利用SPSS软件可以迅速地计算出多元分布的样本均值向量、样本软件可以迅速地计算出多元分布的样本均值向量、样本离差阵和样本协差阵。下面通过一个实例来说明多元正态分离差阵和样本协差阵。下面通过一个实例来说明多元正态分布参数估计的布参数估计的SPSS实现过程。实现过程。n从沪深两市上市公司中随机抽取从沪深两市上市公司中随机抽取300家公司，取其三个反映家公司，取其三个反映收益情况的主要财务指标：每股收益率（收益情况的主要财务指标：每股收益率（eps）、净资产收）、净资产收益率（益率（roe）和总资产收益率（）和总资产收益率（roa）。现要求对这三个指标）。现要求对这三个指标的均值和协差阵进行估计。的均值和协差阵进行估计。第55页，讲稿共67张，创作于星期日一、均值向量的估计一、均值向量的估计n在在SPSS中计算样本均值向量的步骤如下：中计算样本均值向量的步骤如下：1.选择菜单项选择菜单项AnalyzeDescriptive StatisticsDescriptives，打开，打开Descriptives对话框，如图对话框，如图2.1。将待估计的三个变量。将待估计的三个变量移入右边的移入右边的Variables列表框中。列表框中。图图2.1 Descriptives对话框对话框第56页，讲稿共67张，创作于星期日2.单击单击Options按钮，打开按钮，打开Options子对话框，如图子对话框，如图2.2所示。所示。在对话框中选择在对话框中选择Mean复选框，即计算样本均值向量。单击复选框，即计算样本均值向量。单击Continue按钮返回主对话框。按钮返回主对话框。图图2.2 Options子对话框子对话框第57页，讲稿共67张，创作于星期日3.单击单击OK按钮，执行操作。则在结果输出窗口中给出样本按钮，执行操作。则在结果输出窗口中给出样本均值向量，如表均值向量，如表2.2。即样本均值向量为（。即样本均值向量为（0.175，0.044，0.026）。）。表表2.2 样本均值向量样本均值向量第58页，讲稿共67张，创作于星期日二、协差阵的估计二、协差阵的估计n在在SPSS中计算样本协差阵的步骤如下：中计算样本协差阵的步骤如下：1.选择菜单项选择菜单项AnalyzeCorrelateBivariate，打开，打开Bivariate Correlations对话框，如图对话框，如图2.3。将三个变量移入右。将三个变量移入右边的边的Variables列表框中。列表框中。图图2.3 Bivariate Correlations对话框对话框第59页，讲稿共67张，创作于星期日2.单击单击Options按钮，打开按钮，打开Options子对话框，如图子对话框，如图2.4。选择。选择Cross-product deviations and covariances复选框，即计算样复选框，即计算样本离差阵和样本协差阵。单击本离差阵和样本协差阵。单击Continue按钮，返回主对话框。按钮，返回主对话框。图图2.4 Options子对话框子对话框第60页，讲稿共67张，创作于星期日3.单击单击OK按钮，执行操作。则在结果输出窗口中给出相关按钮，执行操作。则在结果输出窗口中给出相关分析表。表中分析表。表中Pearson Correlation给出皮尔逊相关系数矩阵，给出皮尔逊相关系数矩阵，Sum of Squares and Cross-products给出样本离差阵，给出样本离差阵，Covariance给出样本协差阵。给出样本协差阵。n值得注意的是，这里给出的样本协差阵是值得注意的是，这里给出的样本协差阵是S/(n-1)，而不是，而不是S/n。第61页，讲稿共67张，创作于星期日表表2.3 样本相关系数矩阵、离差阵与协差阵样本相关系数矩阵、离差阵与协差阵第62页，讲稿共67张，创作于星期日n思考与练习思考与练习 2.1 试述多元联合分布和边缘分布之间的关系。试述多元联合分布和边缘分布之间的关系。2.2 设随机变量设随机变量 服从服从 二元正态分布，写出联合分布密度二元正态分布，写出联合分布密度函数和函数和X1、X2各自的边缘密度函数。各自的边缘密度函数。2.3 已知随机变量已知随机变量 的联合分布密度函数为的联合分布密度函数为 其中，其中，。求：。求：（1）随机变量）随机变量 X1和和 X2各自的边缘密度函数、均值与方差；各自的边缘密度函数、均值与方差；（2）随机变量）随机变量 X1和和 X2 的协方差和相关系数；的协方差和相关系数；（3）判断随机变量）判断随机变量 X1和和 X2 是否相互独立。是否相互独立。2.4 设随机变量设随机变量 服从服从 p 元正态分布，已知协差阵元正态分布，已知协差阵为对角阵，证明为对角阵，证明X 的分量是的分量是相互独立的随机变量相互独立的随机变量。第63页，讲稿共67张，创作于星期日n2.5 从某企业全部职工中随机抽取一个容量为从某企业全部职工中随机抽取一个容量为6的样本，该样本中各职工的的样本，该样本中各职工的目前工资、受教育年限、初始工资和工作经验如下表所示：目前工资、受教育年限、初始工资和工作经验如下表所示：设职工总体的以上变量服从多元正态分布，根据样本资料求出均值向设职工总体的以上变量服从多元正态分布，根据样本资料求出均值向量和协差阵的最大似然估计。量和协差阵的最大似然估计。2.6 均值向量和协差阵的最大似然估计具有哪些优良性质？均值向量和协差阵的最大似然估计具有哪些优良性质？职工编号目前工资(美元)受教育年限(年)初始工资(美元)工作经验(月)12345657 00040 20021 45021 90045 00028 350151612 815 827 00018 75012 00013 20021 00012 000144 36381190138 26第64页，讲稿共67张，创作于星期日n2.7 试证多元正态总体试证多元正态总体 的样本均值向量的样本均值向量 。n2.8 试证多元正态总体试证多元正态总体 的样本协差阵的样本协差阵 为为的无偏估的无偏估计计。n2.9 设设 是从多元正态总体是从多元正态总体 中独立抽取的一个随中独立抽取的一个随机样本，试求样本协差阵机样本，试求样本协差阵 的分布。的分布。2.10 设设 是来自是来自 的数据阵，的数据阵，：（1）已知）已知 且且 ，求，求 和和 的估计。的估计。（2）已知）已知 ，求，求 和和 的估计。的估计。第65页，讲稿共67张，创作于星期日本章结束本章结束第66页，讲稿共67张，创作于星期日感感谢谢大大家家观观看看第67页，讲稿共67张，创作于星期日