《概率论复习》PPT课件.ppt

《《概率论复习》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《概率论复习》PPT课件.ppt（176页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、应用数理统计应用数理统计一、概率论复习一、概率论复习二、二、数理统计数理统计课程安排课程安排教学安排：教学安排：教学安排：教学安排：教材与参考书教材与参考书：吴群英等，应用数理统计，天津大学出吴群英等，应用数理统计，天津大学出版社版社邰淑彩等，应用数理统计（第二版），邰淑彩等，应用数理统计（第二版），武汉大学出版社，武汉大学出版社，20052005张忠占等，应用数理统计，机械工业出张忠占等，应用数理统计，机械工业出版社版社茆诗松茆诗松,概率论与数理统计概率论与数理统计,中国统计出版中国统计出版社社 共共54学时学时内容内容概率论的基本概念概率论的基本概念随机变（向）量及其分布随机变（向）量及其

2、分布随机变量函数的分布随机变量函数的分布数字特征及其特征函数数字特征及其特征函数大数定理及中心极限定理大数定理及中心极限定理概概率率论论第一章第一章 概率论知识概率论知识第二章第二章 数理统计的基本概念数理统计的基本概念第三章第三章 参数估计参数估计 第四章第四章 假设检验假设检验数数理理统统计计第五章第五章 方差分析方差分析第六章第六章 回归分析回归分析 第七章第七章 正交实验设计法正交实验设计法 第一章第一章 概率论补充知识概率论补充知识1.1.概率空间概率空间2.2.随机变（向）量及其分布随机变（向）量及其分布3.3.随机变量的独立性随机变量的独立性4.4.随机变量函数的分布随机变量函数

3、的分布5.5.数字特征与特征函数数字特征与特征函数6.6.多元正态分布极其性质多元正态分布极其性质7.7.极限定理极限定理第一节第一节 概率空间概率空间一、一、样本空间样本空间与事件域与事件域例如在几何概型中就不能把不可度量的子集作为例如在几何概型中就不能把不可度量的子集作为事件。事件。定义定义1 1 设设 是样本空间，是样本空间，F是由是由 的一些子的一些子 集构成的集类，如果满足下列条件：集构成的集类，如果满足下列条件：因此我们可以理解，事件是因此我们可以理解，事件是 中满足某些条件的中满足某些条件的子集。为此下面介绍子集。为此下面介绍事件域事件域的概念。的概念。事件是样本空间事件是样本空

4、间 的一个子集，反之未必成立。的一个子集，反之未必成立。则称则称F为事件域，为事件域，F中的元素称为事件，中的元素称为事件，称为称为必然事件。必然事件。一般对满足上述条件的集类称为一般对满足上述条件的集类称为 -域，域，所以事件域是一个所以事件域是一个 -域。域。它具有下列性质：它具有下列性质：二、概率的定义及性质二、概率的定义及性质定义定义2 2(可列可加性可列可加性)设设 是给定的样本空间，是给定的样本空间，个事件域，个事件域，是定义在是定义在 F F上一个实值集上一个实值集函数函数,如果它满足条件：如果它满足条件：F F是是 中的一中的一则有（非负性）（非负性）（规范性）（规范性）则称则

5、称P(A)是事件是事件A的概率（简称为概率）的概率（简称为概率）.描述一个随机实验的三个基本组成部分：描述一个随机实验的三个基本组成部分：事件域F概率P概率空间概率空间设设 是概率空间，概率是概率空间，概率P有如下性质：有如下性质：则这个结论可推广为：这个结论可推广为：定义定义定义定义 性质性质为在事件为在事件 发生的条件下发生的条件下,事件事件2 2）3)3)设设 互不相容，互不相容，B发生的发生的条件概率条件概率.设设 是两个随机事件是两个随机事件,且且 则称则称1)1)对于任一事件对于任一事件 ,4)4)三、条件概率与事件的独立性三、条件概率与事件的独立性三、条件概率与事件的独立性三、条

6、件概率与事件的独立性1、条件概率、条件概率得得推广推广（1 1）乘法公式）乘法公式）乘法公式）乘法公式由由(2)(2)全概率公式全概率公式定理定理 为为 的一个的一个划分划分,设随机试验设随机试验 的样本空间为的样本空间为 为为 的任意一事件的任意一事件,理论和实用意义：在较复杂情况下直接计算理论和实用意义：在较复杂情况下直接计算P(A)P(A)不易，但不易，但A A总是伴随着某些总是伴随着某些 出现，适当地去构造这一组出现，适当地去构造这一组 往往往往可以使问题简化。可以使问题简化。（3 3）贝叶斯公式贝叶斯公式引例引例 2 23 31 11 1红红4 4白白?任取一箱子，再从任取一箱子，再

7、从 中任取一球中任取一球,发现是红球，发现是红球，求该球取自一号箱的概率求该球取自一号箱的概率.解解 设设=“=“球取自球取自 号箱号箱”=“=“取得红球取得红球”求求 运用全概率公式运用全概率公式 计算计算已知已知“结果结果”求求“原因原因”贝叶斯公式贝叶斯公式 贝叶斯公式贝叶斯公式则则为为 的一个划分的一个划分,设随机试验设随机试验 的样本空间为的样本空间为 ,它是在观察到事件它是在观察到事件A A已发生的条件下，寻找导致已发生的条件下，寻找导致A A发生发生的每个原因的概率。的每个原因的概率。2 2 事件的相互独立性事件的相互独立性1 1）掷一颗均匀的掷一颗均匀的骰子骰子两次两次,可知可

8、知2 2）掷甲乙两枚掷甲乙两枚骰子骰子,可知可知 =甲掷出偶数点甲掷出偶数点 =乙乙掷出掷出偶数点偶数点=第一次掷出第一次掷出6 6 点点=第二次第二次掷出掷出6 6点点 一般地一般地定义定义定义定义例例1 1 从一副不含大小王的扑克牌中任取一张，从一副不含大小王的扑克牌中任取一张，解解 设设 是两个事件是两个事件,如果如下等式成立如果如下等式成立则称则称事件事件 相互独立相互独立。记记 =抽到抽到 ,=,=抽到的牌是黑色的抽到的牌是黑色的 问事件问事件A,B是否相互独立？是否相互独立？即即事件事件A,B相互独立相互独立多个事件的独立性多个事件的独立性若下面四个等式同时成立若下面四个等式同时成

9、立实质实质:任何事件发生的概率都不受其它事件发任何事件发生的概率都不受其它事件发 生与否的影响生与否的影响两两独立两两独立相互独立相互独立定义成立，则称n个事件相互独立.若它们之中的任意有限个事件独立，则称事件序列独立.包含等式总数为：包含等式总数为：事件独立的性质事件独立的性质 一一、随机变量及其分布随机变量及其分布 二、二、随机向量及其分布随机向量及其分布 三、三、边际分布边际分布 四、四、条件分布条件分布第二节第二节 随机变（向）量及其分布随机变（向）量及其分布 为了更方便地从数量方面研究随机现象为了更方便地从数量方面研究随机现象的统计规律，引入随机变量的概念，即将随的统计规律，引入随机

10、变量的概念，即将随机试验的结果与实数对应起来，机试验的结果与实数对应起来，将随机试验将随机试验的结果数量化的结果数量化一、一、随机变量及其分布随机变量及其分布 定义定义 设随机试验的样本空间设随机试验的样本空间例例1 1 抛一枚均匀硬币抛一枚均匀硬币,观察正反面情况。观察正反面情况。设设 一、随机变量的定义一、随机变量的定义出现结果为反面出现结果为反面,称称 为为随机变量随机变量。上的上的实值单值函数实值单值函数，是定义在样本空间是定义在样本空间试验结果的出现是随机的试验结果的出现是随机的,故故 的取值也是随机的。的取值也是随机的。2 2）随机变量函数的取值在试验之前无法确定随机变量函数的取值

11、在试验之前无法确定,且且取值有一定的概率取值有一定的概率；而普通函数却没有。；而普通函数却没有。随机变量和普通函数的区别随机变量和普通函数的区别1 1）定义域不同定义域不同e e.也可以不是数也可以不是数；而普通函数是定义在实数域上。；而普通函数是定义在实数域上。随机变量定义在样本空间随机变量定义在样本空间 上上,定义域定义域可以是数可以是数随机变量通常用大写字母随机变量通常用大写字母X,Y,ZX,Y,Z或希腊字母或希腊字母,等表示等表示 而表示随机变量所取的值而表示随机变量所取的值时时,一般采用小写字母一般采用小写字母 等等.随机变量的分类随机变量的分类 例如：例如：“抽验一批产品中次品的个

12、数抽验一批产品中次品的个数”，“电话交换台在一定时间内收到的呼叫次数电话交换台在一定时间内收到的呼叫次数”等等1 1）离散型随机变量）离散型随机变量2 2）连续型随机变量）连续型随机变量所有取值可以逐个一一列举所有取值可以逐个一一列举例如：例如：“电视机的寿命电视机的寿命”，实际中常遇到的实际中常遇到的“测量误差测量误差”等等.全部可能取值有无穷多，全部可能取值有无穷多，充满一个或几个区间充满一个或几个区间二、分布函数的概念二、分布函数的概念定义定义1 1设设 是一个随机变量，是一个随机变量，是任意实数是任意实数,称函数称函数为为 的的分布函数分布函数。上的概率上的概率.分布函数分布函数的值就

13、表示的值就表示 落在区间落在区间 分布函数的性质分布函数的性质 单调不减性：右（左）连续性：，且，则上述三条性质，也可以理解为判别函数是否是分布函数的充要条件。4.4.4.4.几个常用的概率公式几个常用的概率公式几个常用的概率公式几个常用的概率公式1.1.2.2.3.3.4.4.（2 2）分布函数是一个普通实值函数）分布函数是一个普通实值函数（1 1）分布函数完整描述了随机变量的统计规律性）分布函数完整描述了随机变量的统计规律性定义定义 若随机变量X 的全部可能取值是有限个有限个或可列无限多个可列无限多个,则称此随机变量是离散型随机变量离散型随机变量。例例 (1)(1)扔一均匀硬币三次，出现正

14、面的次数扔一均匀硬币三次，出现正面的次数 (2)(2)某一时间段进入商场的人数某一时间段进入商场的人数离散型随机变量离散型随机变量离散型随机变量离散型随机变量灯泡的寿命灯泡的寿命非离散型随机变量非离散型随机变量 1、离散型随机变量及其分布、离散型随机变量及其分布分布律分布律也可用如下也可用如下表格表格的形式表示的形式表示定义定义 设随机变量设随机变量X的所有可能取值为的所有可能取值为满足满足kp判断分布律判断分布律的条件的条件则称则称pk为离散型随机变量为离散型随机变量X的的概率分布概率分布或或分布律分布律。二、常用的离散型随机变量二、常用的离散型随机变量1.1.(01)(01)分布分布定义定

15、义 若随机变量若随机变量X 的分布律为的分布律为（0101）分布的分布律也可写成）分布的分布律也可写成注意注意 服从服从(0-1)(0-1)分布的随机变量很多。如果涉及的分布的随机变量很多。如果涉及的试验只有两个互斥的结果：试验只有两个互斥的结果：都可在样本空间上都可在样本空间上定义一个服从定义一个服从(0-1)(0-1)分布的随机变量：分布的随机变量：例如例如 检查某产品的质量是否合格；检查某产品的质量是否合格；抛一枚硬币观察其正反面；抛一枚硬币观察其正反面；一次试验是否成功。一次试验是否成功。容易验证容易验证由二项式定理由二项式定理2 2 二项分布二项分布二项分布描述的是二项分布描述的是

16、n 重贝努里试验中出现重贝努里试验中出现“成功成功”次数次数X 的概率分布的概率分布.3.3.3.3.泊松分布泊松分布泊松分布泊松分布称称服从参数为服从参数为的的泊松分布泊松分布,记为记为其中其中 是常数是常数,若随机变量若随机变量 的分布律的分布律泊泊松松分分布布在在管管理理科科学学、运运筹筹学学以以及及自自然然科科学学的的某某些些问题中都占有重要的地位。问题中都占有重要的地位。泊松分布的应用泊松分布的应用 排队问题排队问题：在一段时间内窗口等待服务的：在一段时间内窗口等待服务的顾客人数顾客人数 生物存活的个数生物存活的个数 放射的粒子数放射的粒子数思考题：思考题：两个分布函数之和仍为分布函

17、数吗？两个分布函数之和仍为分布函数吗？不是不是设设为两个分布函数，为两个分布函数，则则 2 2 连续型随机变量及其分布连续型随机变量及其分布一、定义一、定义其中被积函数其中被积函数 ,称称 为为概率密度函数概率密度函数 或或 概率密度概率密度。如果随机变量如果随机变量 的分布函数为的分布函数为则称则称 为为连续型连续型随机变量随机变量二二.概率密度的性质概率密度的性质1.1.2.2.面积为面积为1 1o o3.3.4.4.在在 的连续点的连续点 处，则处，则 对连续型对连续型 r.v X,有有几种常见的分布几种常见的分布一、均匀分布一、均匀分布分布函数为分布函数为:1.1.若若X的概率密度为的

18、概率密度为 则称则称 服从服从(a,b)上的上的均匀分布均匀分布，记作，记作二、指数分布二、指数分布二、指数分布二、指数分布若若 随机变量随机变量 具有概率密度具有概率密度则称则称 服从参数为服从参数为 的指数分布的指数分布.记为记为 的分布函数的分布函数三、正态分布三、正态分布三、正态分布三、正态分布的的正态分布正态分布,或或高斯分布高斯分布.所确定的曲线称为所确定的曲线称为正态曲线正态曲线若若X具有概率密度具有概率密度 则称则称 服从参数为服从参数为记为记为条关于条关于 对称的钟形曲线对称的钟形曲线.特点是特点是:正态分布的密度曲线是一正态分布的密度曲线是一正态分布的图形特点正态分布的图形

19、特点正态分布的图形特点正态分布的图形特点决决定定了了图图形形决决定定了了图图形形中中峰峰的的陡陡峭峭程程度度的的中中心心位位置置“两头小两头小,中间大中间大,左右对称左右对称”正态分布的分布函数正态分布的分布函数正态分布的分布函数正态分布的分布函数 标准正态分布标准正态分布的正态分布称为的正态分布称为标准正态分布标准正态分布.其密度函数和分布函数常用其密度函数和分布函数常用 和和 表示表示 的分布函数是的分布函数是若若 ,则则 N(0,1)设设 ,定理定理定理定理 若若二二 随机向量及其分布随机向量及其分布 有些随机实验的结果同时涉及若干个随机变量，有些随机实验的结果同时涉及若干个随机变量，我

20、们不但要考虑其中各个随机变量的性质，我们不但要考虑其中各个随机变量的性质，还要研究它们之间的联系，即要研究随机向量及其还要研究它们之间的联系，即要研究随机向量及其分布。分布。定义定义1是定义在这个概率空间上的n个随机变量，称所以它的概率是有意义的。定义定义2二维随机变量的联合分布二维随机变量的联合分布定义定义3 3 设设是二维随机变量是二维随机变量,对于任意实数对于任意实数 ,称称为为 的的分布函数分布函数。分布函数的几何意义分布函数的几何意义分布函数的几何意义分布函数的几何意义 将二维随机变量将二维随机变量看成平面上随机点的坐标看成平面上随机点的坐标落在矩形区域落在矩形区域中的概率为中的概率

21、为分布函数的性质分布函数的性质 当当 时时，对于任意固定的对于任意固定的 ，对于任意固定的对于任意固定的 ，1.1.关于关于x 和和y 单调单调不减不减当当 时时，2.2.3.即即关于关于x右连续右连续关于关于y右连续右连续即即1、离散型随机向量、离散型随机向量只取有限个或可列个不同的向量值，则称概率这时，这时，二维离散型随机变量二维离散型随机变量设设 所有可能取值为所有可能取值为 ，则，则称称定义定义5 5定义定义4 4是是有限多对或可列无限多对有限多对或可列无限多对，则称则称 为二维为二维离散型随机变量离散型随机变量.为随机变量为随机变量 的的分布律分布律。性质性质：若二维随机变量若二维随

22、机变量的所有可能取值的所有可能取值),(YX分布律的分布律的表格表示表格表示 Y X 1y 2y jy 1x 11p 12p jp1 2x 21p 22p jp2 M ix 1 ip 2ip ijp M 离散型随机变量离散型随机变量 的分布函数具有形式的分布函数具有形式其中和式是对一切满足其中和式是对一切满足 的的 求和求和 它满足条件反之，若有满足这两条性质的反之，若有满足这两条性质的n元函数元函数则它一定是某一个则它一定是某一个n维随机向量的分布密度。维随机向量的分布密度。2、连续型随机向量、连续型随机向量多元正态分布是多元连续型分布中的一个重要多元正态分布是多元连续型分布中的一个重要的分

23、布。的分布。为密度函数的概率分布，称为为密度函数的概率分布，称为n元正态分布，元正态分布，简记为简记为上式的向量形式为上式的向量形式为当当n=1时，和以前所述的一元正态分布完全一致；时，和以前所述的一元正态分布完全一致；的二维的二维正态分布正态分布，记为，记为 当当 n=2 n=2 时时的概率密度为的概率密度为其中其中都是常数都是常数,且且，则称，则称服从参数为服从参数为二维连续型随机变量二维连续型随机变量 对于任意的对于任意的 ，有，有 定义定义 设二维随机变量设二维随机变量的分布函数的分布函数若存在若存在非负函数非负函数 ，则称则称 f(x,y)为为(X,Y)的的概率密度概率密度。2)2)

24、3)3)3)3)若若在点在点处连续处连续,则有则有概率密度的性质概率密度的性质1)1)4)4)设设 是是 平面上的任意一个区域，则有平面上的任意一个区域，则有 (表示以表示以 为底，以曲面为底，以曲面 为顶面的曲顶柱体的体积为顶面的曲顶柱体的体积)三三 边缘分布边缘分布（一）（一）定义定义设设是二维随机变量是二维随机变量,同理可得同理可得几何几何表示表示:称为称为关于关于 的的边缘分布函数边缘分布函数。（二）边缘分布律（离散型）设设的分布律为的分布律为记为记为 则则 关于关于 的的边缘分布律边缘分布律为为则有则有:则有则有:称为称为 关于关于 的的边缘分布律边缘分布律 记为记为 同理同理通常用

25、以下表格表示通常用以下表格表示的分布律和边缘分布律的分布律和边缘分布律（三）边缘概率密度（连续型）若若是二维连续型随机变量，是二维连续型随机变量，其概率密度为其概率密度为则则同理同理的边缘概率密度的边缘概率密度例例 设二维随机变量设二维随机变量试求试求的边缘概率密度的边缘概率密度.解解令令即即同理，同理，Y 的边缘概率密度为的边缘概率密度为即即故二维正态分布的两个边际分布都是一维正态分布，故二维正态分布的两个边际分布都是一维正态分布，这是一个重要的结论。这是一个重要的结论。结结结结 论论论论 （一）（一）（一）（一）结结结结 论论论论 （二）（二）（二）（二）结结结结 论论论论 （三）（三）（

26、三）（三）在前面我们曾经定义过事件的条件概率，同样在前面我们曾经定义过事件的条件概率，同样也可以考虑一个随机变量的条件分布，其条件与另也可以考虑一个随机变量的条件分布，其条件与另一随机变量的取值有关。一随机变量的取值有关。离散型离散型四四 条件分布条件分布连续型连续型定义定义例例 其中第一个参数是其中第一个参数是x x的线性函数，第二个参数与的线性函数，第二个参数与x x无关，此无关，此结论在一些统计问题中很重要。结论在一些统计问题中很重要。例例1 设设 的联合分布密度为的联合分布密度为 解解 关于关于 的边缘密度为的边缘密度为 于是于是第三节第三节 随机变量的独立性随机变量的独立性成立，则称

27、随机变量成立，则称随机变量 与与 是是相互独立相互独立的。的。二维随机变量的相互独立性二维随机变量的相互独立性定义定义 若二维随机变量若二维随机变量(X,Y)对对任意实数任意实数x,y,都有都有即即2)2)对于连续型的随机变量对于连续型的随机变量几乎处处成立几乎处处成立1)1)对于离散型随机变量对于离散型随机变量可直接推广至两个以上随机变量的相互独立性可直接推广至两个以上随机变量的相互独立性例例例例 3 3 3 3（正态随机变量的独立性）（正态随机变量的独立性）（正态随机变量的独立性）（正态随机变量的独立性）n维随机变量的独立性维随机变量的独立性定义定义 下面分别给出离散型随机变量和连续型随机

28、下面分别给出离散型随机变量和连续型随机变量相互独立的充要条件变量相互独立的充要条件定理定理1定理定理2还可以证明：还可以证明：第四节第四节 随机变量函数的分布随机变量函数的分布一一 单个随机变量函数的分布单个随机变量函数的分布1 离散型离散型注：注：注：注：1 1、设、设、设、设互不相等时，则事件互不相等时，则事件由由2、当、当 则把那些相等的值合并起来。则把那些相等的值合并起来。并根据概率的可加性把对应的概率相加得到并根据概率的可加性把对应的概率相加得到Y的分布律。的分布律。2 连续型连续型其中其中是连续型随机变量，其分布密度在相应区间内为证明证明二二 随机向量函数的分布随机向量函数的分布（

29、1）离散型）离散型以二维随机向量为例，多维随机向量的情况类似。以二维随机向量为例，多维随机向量的情况类似。(2)(2)连续型连续型设设(X,Y)是二维连续型随机变量，其联合概率密度是二维连续型随机变量，其联合概率密度为为 分布函数为分布函数为 则则和的分布和的分布设设(X,Y)是二维连续型随机变量，其联合概率密度是二维连续型随机变量，其联合概率密度为为 问题：计算问题：计算 的概率密度的概率密度首先计算随机变量首先计算随机变量 的分布函数的分布函数 x+y=z作变换：作变换：则有则有 注意到里层的积分是注意到里层的积分是u的函数：的函数：即有即有 上式对上式对z求导，求导，得得 的概率密度为的

30、概率密度为注意到在前面的积分中注意到在前面的积分中 我们是先对我们是先对y后对后对x积分的，若将其改成先对积分的，若将其改成先对x后对后对y积分，则有积分，则有 特别，如果随机变量特别，如果随机变量X,Y相互独立，则相互独立，则即即与与 我们称上式为函数我们称上式为函数 的卷积公式，的卷积公式，例例例例4 4 4 4两个独立的二项分布随机变量两个独立的二项分布随机变量,当它们的第二个参数相当它们的第二个参数相同时同时,其和也服从二项分布其和也服从二项分布-二项分布的可加性二项分布的可加性特别特别 当当 相互独立且具有相同相互独立且具有相同 分布函数分布函数 时，时，设设 相互独立，相互独立，其

31、分布函数为其分布函数为 则则 的分布函数分别为：的分布函数分别为：第五节第五节数字特征及其特征函数定义定义定义定义1 1 1 1设离散型随机变量的分布律为设离散型随机变量的分布律为 如果级数如果级数 绝对收敛绝对收敛，称为随机变量称为随机变量X的数学期望，的数学期望，记为记为即即的和的和则级数则级数简称简称期望期望或或均值均值。数字特征数字特征若若 不绝对收敛不绝对收敛，则，则X的数学期望不存在。的数学期望不存在。1、随机变量的、随机变量的数学期望数学期望定义定义定义定义2 2 2 2设连续型随机变量设连续型随机变量X 的概率密度为的概率密度为 若积分若积分绝对收敛绝对收敛，则称该积分值为随，

32、则称该积分值为随机变量机变量X X 的数学期望的数学期望或或平均值平均值，简称期望或均值，简称期望或均值记为记为即即离散型和连续型随机变量的期望可以用一个式子表示离散型和连续型随机变量的期望可以用一个式子表示此积分是此积分是Lebesgue-Stieltjes积分，当积分，当X为离散型时，为离散型时，其分布函数是阶梯函数，该积分成为求和的形式。其分布函数是阶梯函数，该积分成为求和的形式。当当X为连续型时，该积分化为为连续型时，该积分化为此积分是此积分是Riemann积分。积分。2 2 2 2、随机变量函数的数学期望随机变量函数的数学期望随机变量函数的数学期望随机变量函数的数学期望定理定理 设随

33、机变量设随机变量Y 是随机变量是随机变量X 的函数，的函数，1)设设X 为离散型随机变量，其分布律为为离散型随机变量，其分布律为 若级数若级数绝对收敛绝对收敛,则有则有 2)设设X 为连续型随机变量，其概率密度为为连续型随机变量，其概率密度为 若积分若积分绝对收敛绝对收敛,则有则有3 二维随机向量函数的数学期望二维随机向量函数的数学期望这里要求广义二重积分是绝对收敛的。这里要求广义二重积分是绝对收敛的。方差刻划了随机变量的取值方差刻划了随机变量的取值若若X 的取值比较集中，则方的取值比较集中，则方差较小；若差较小；若X 的取值比较分的取值比较分散则方差较大散则方差较大 .对于其数学期望的离散程

34、度对于其数学期望的离散程度 方差的算术平方根方差的算术平方根为为X 的方差的方差。定义定义 设设X 是一个随机变量，若是一个随机变量，若存在，则称存在，则称称为称为均方差均方差或或标准差标准差。二、方差的概念二、方差的概念(1)(1)（0-10-1）分布）分布 参数为参数为p 0 16 6常见分布的方差常见分布的方差(2)(2)二项分布二项分布其中其中，且，且相互独立。相互独立。则由方差的性质可得则由方差的性质可得(3)(3)泊松分布泊松分布分布律为分布律为参数为参数为密度函数密度函数（4 4）均匀分布）均匀分布参数为参数为密度函数密度函数（5 5）指数分布指数分布参数为参数为（6 6）正态分

35、布）正态分布参数为参数为密度函数密度函数注：注：服从正态分布的随机变量完全由服从正态分布的随机变量完全由它的数学它的数学期望和方差期望和方差所决定。所决定。特别，特别，当当时时称称Y Y 是随机变量是随机变量X X 的标准化了的随机变量。的标准化了的随机变量。注：为了方便计算，注：为了方便计算，EX,DX EX,DX均为常数。均为常数。常对常对X进行进行标准化。标准化。即当即当X的期望的期望和方差都存在时，考虑它的和方差都存在时，考虑它的标准化。标准化。则则例例设设 X,Y 是两个相互独立的且均服从正态分布是两个相互独立的且均服从正态分布的随机变量的随机变量,则求随机变量则求随机变量的数学的数

36、学期望期望解解 记记则则故故定义定义 设二维随机变量设二维随机变量 则称它为则称它为与与 的的协方差协方差，记为，记为即即若若存在，存在，三、协方差和相关系数的定义三、协方差和相关系数的定义1 1、协方差的性质、协方差的性质（1）（2）（协方差的计算公式）（协方差的计算公式）（3）Pf:若若X,Y 相互独立，则相互独立，则（4）（5）为常数为常数（6）Pf:协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X和和Y相互间相互间的关系，但它还受的关系，但它还受X与与Y本身度量单位的影响本身度量单位的影响.例如：例如：Cov(kX,kY)=k2Cov(X,Y)为了克服这一缺点，对协方差进

37、行标准化，这就引入为了克服这一缺点，对协方差进行标准化，这就引入了了相关系数相关系数.四、四、相关系数相关系数为随机变量为随机变量 X 和和 Y 的相关系数的相关系数.定义定义:设设D(X)0,D(Y)0,称称在不致引起混淆时在不致引起混淆时，记记 为为 .相关系数的性质相关系数的性质1)2)的的充要条件充要条件是是与与以概率以概率1呈线呈线性关系。即性关系。即其中其中为常数为常数定理定理1 设随机变量设随机变量 和和的相关系数存在，则的相关系数存在，则说说 明明相关系数相关系数之间线性关系的一种度量之间线性关系的一种度量.，X 与与Y 的线性关系越显著；的线性关系越显著；，X 与与Y 的线性

38、关系越不显著；的线性关系越不显著；四个等价命题：四个等价命题：2）3）4）1）相关系数）相关系数则称则称与与不相关不相关;不相关：不相关：X 与与Y 之间没有线性关系，并不表示它们之之间没有线性关系，并不表示它们之间没有任何关系。间没有任何关系。所以，当所以，当X 和和Y 独立时，独立时，Cov(X,Y)=0.=0.故故但由但由并不一定能推出并不一定能推出X 和和Y 独立独立.独立：独立：X 与与Y 之间没有任何函数关系。之间没有任何函数关系。X，Y独立 =0X，Y不相关。注意独立与不相关并不是等价的注意独立与不相关并不是等价的.当当(X,Y)服从二维正态分布时，有服从二维正态分布时，有X与与

39、Y独立独立X与与Y不相关不相关若若存在，称它为存在，称它为的的阶原点矩，简称阶原点矩，简称阶矩阶矩。若若存在，称它为存在，称它为的的阶中心矩阶中心矩。阶混合矩阶混合矩。若若存在，称它为存在，称它为和和的的若若存在，存在，和和的的称它为称它为阶混合中心矩阶混合中心矩。和和是随机变量，是随机变量，设设五、五、矩、协方差矩阵矩、协方差矩阵协方差矩阵的定义协方差矩阵的定义 将二维随机变量（将二维随机变量（X1,X2）的四个二阶中心矩）的四个二阶中心矩排成矩阵的形式排成矩阵的形式:称此矩阵为（称此矩阵为（X1,X2）的协方差矩阵）的协方差矩阵.这是一个这是一个对称矩阵对称矩阵 类似定义类似定义n维随机变

40、量维随机变量X=(X1,X2,Xn)的协方差矩阵的协方差矩阵.为为(X1,X2,Xn)的的协方差矩阵协方差矩阵称矩阵称矩阵都存在都存在,i,j=1,2,n若若也常记为也常记为DX或者或者Cov(X,X).协方差矩阵的性质协方差矩阵的性质对于任一对于任一n元实列向量元实列向量有有2）是一个非负定矩阵）是一个非负定矩阵1）是一个对称矩阵）是一个对称矩阵 3）设）设 为为n元随机向量，元随机向量，有有a)对于对于定义定义b)p(x1,x2,xn)则称则称X服从服从n元正态分布元正态分布.其中其中B是是(X1,X2,Xn)的协方差矩阵的协方差矩阵.|B|是它的行列式，是它的行列式，表示表示B的逆矩阵，

41、的逆矩阵，X和和 是是n维列向量，维列向量，表示表示X的转置的转置.设设 =(X1,X2,Xn)是一个是一个n维随机向量维随机向量,若它的概率密度为若它的概率密度为六、下面给出六、下面给出n元正态分布的概率密度的定义元正态分布的概率密度的定义.n元元正态分布的几条重要性质正态分布的几条重要性质1.X=(X1,X2,Xn)服从服从n元正态分布元正态分布a1X1+a2 X2+an Xn均服从一维正态分布均服从一维正态分布.对一切不全为对一切不全为0的实数的实数a1,a2,an，2.若若 X=(X1,X2,Xn)服从服从n元正态分布，元正态分布，Y1,Y2,，Yk是是Xj（j=1,2,n）的线性函数

42、，）的线性函数，则则(Y1,Y2,，Yk)也服从多元正态分布也服从多元正态分布.这一性质称为正态变这一性质称为正态变量的线性变换不变性量的线性变换不变性.3.设设(X1,X2,Xn)服从服从n元正态分布，则元正态分布，则“X1,X2,Xn相互独立相互独立”等价于等价于“X1,X2,Xn两两不相关两两不相关”七七 极限定理极限定理一一 随机变量的收敛性随机变量的收敛性二二 大数定律与中心极限定理大数定律与中心极限定理伯努利试验场合的极限定理伯努利试验场合的极限定理我们已得到 E(n/n)=P(A)=p D(n/n)=pq/n作为随机变量 如何表述它的极限行为?回忆:在伯努利试验中 事件A发生的概

43、率P(A)以 n 记试验中A出现的次数 n频率 n/n 趋近于常数 P(A)依概率收敛(convergence in probability)进一步研究进一步研究进一步研究进一步研究 n n 的极限行为的极限行为的极限行为的极限行为标准化中心极限定理几个常见的大数定律定理（车贝晓夫大数定律）设 X1,X2,是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D(Xi)C，i=1,2,，车贝晓夫则对任意的0，证明车贝晓夫大数定律主要的数学工具是车贝晓夫不等式.设随机变量X有期望E(X)和方差 ，则对于任给 0,因为X1,X2,相互独立1 车贝晓夫大数定律表明，独立随机变量序列

44、Xn，如果方差有共同的上界，则与其数学期望 偏差很小的 概率接近于1.随机的了，取值接近于其数学期望的概率接近于1.即当n充分大时，差不多不再是车贝晓夫大数定律给出了平均值稳定性的科学描述 作为车贝晓夫大数定律的特殊情况，有下面的定理.定理（独立同分布下的大数定律）设X1,X2,是独立同分布的随机变量序列，且E(Xi)=，D(Xi)=，i=1,2,则对任给 0,下面给出的伯努利大数定律，是前定理的一种特例.贝努利 设n是n重伯努利试验中事件A发生的次数，p是事件A发生的概率，引入i=1,2,n则 是事件A发生的频率 于是有下面的定理：设n是n重伯努利试验中事件A发生的 次数，p是事件A发生的概

45、率，则对任给的 0，定理（伯努利大数定律）或贝努利伯努利大数定律表明，当重复试验次数n充分大时，事件A发生的频率n/n与事件A的概率p有较大偏差的概率很小.贝努里大数定律提供了通过试验来确定事件概率的方法.（理论保障）任给0，下面给出的独立同分布下的大数定律，不要求随机变量的方差存在.设随机变量序列X1,X2,独立同分布，具有有限的数学期E(Xi)=,i=1,2,，则对任给 0，定理（辛钦大数定律）辛钦 由于无穷个随机变量之和可能趋于，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量的分布函数的极限.的分布函数的极限.可以证明，满足一定的条件，上述极限分布是标准正态分布.考虑中心极限

46、定理这就是下面要介绍的 在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.我们只讨论几种简单情形.下面给出的独立同分布随机变量序列的中心极限定理，也称林德贝格莱维（Lindberg Levy）定理.定理（独立同分布下的中心极限定理）它表明，当n充分大时，n个具有期望和方差的独立同分布的r.v之和近似服从正态分布.设X1,X2,是独立同分布的随机变量序列，且E(Xi)=，D(Xi)=，i=1,2,，则 虽然在一般情况下，我们很难求出X1+X2+Xn 的分布的确切形式，但当n很大时，可以求出近似分布.棣莫弗拉普拉斯定理（二项分布的正态近似）是上述定理的特殊情况.棣莫弗拉普拉斯极限定理棣莫弗拉普拉斯极限定理（二项分布的正态近似）（二项分布的正态近似）定理：设n是 n 次伯努利试验中事件A出现的次数,0p1,则对任意有限区间a,b：标准化渐近分布积分极限定理