数理统计与随机过程精品文稿.ppt

《数理统计与随机过程精品文稿.ppt》由会员分享，可在线阅读，更多相关《数理统计与随机过程精品文稿.ppt（67页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、数理统计与随机过程第1页，本讲稿共67页第十章第十章 随机过程及其统计描述随机过程及其统计描述10.1 随机过程的概念随机过程的概念 对于一些随机现象，有时不能用随机变量或多维随对于一些随机现象，有时不能用随机变量或多维随机变量来描述，需要用一族机变量来描述，需要用一族(无限多个无限多个)随机变量来描随机变量来描述。现在来看一个具体例子。述。现在来看一个具体例子。热噪声电压热噪声电压:电子元件或器件由于内部微观粒子电子元件或器件由于内部微观粒子(如电子如电子)的随机运动所引起的端电压称为热噪声电压的随机运动所引起的端电压称为热噪声电压,它在任一确定时刻它在任一确定时刻 t 的值都是一随机变量的

2、值都是一随机变量,记为记为V(t)。不同时刻对应不同的随机变量。当时间在某个区间不同时刻对应不同的随机变量。当时间在某个区间,如如0,)上变化时，热噪声电压表现为一族随机变量上变化时，热噪声电压表现为一族随机变量,记记为为 V(t),t0。第2页，本讲稿共67页 在无线电通讯技术中，接收机在接收信号时，机内在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为消除这种干的热噪声电压要对信号产生持续的干扰，为消除这种干扰，就必须掌握热噪声电压随时间变化的过程。为此，扰，就必须掌握热噪声电压随时间变化的过程。为此，我们通过某种装置对元件我们通过某种装置对元件(或器件或器

3、件)两端的热噪声电压进两端的热噪声电压进行长时间的测量，并把结果自动记录下来。行长时间的测量，并把结果自动记录下来。作一次试验作一次试验作一次试验作一次试验(测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压)，得到，得到，得到，得到一个一个一个一个电压电压时间时间函数函数v1(t),t 0(如图如图10-1)。这个。这个电压电压时间时间函数在试验前是不可能预先确知的，只有通过测函数在试验前是不可能预先确知的，只有通过测量才能得到。量才能得到。图图10-1 如果在相同条件下独如果在相同条件下独立地再进行一次测量，得立地再进行一次测量

4、，得到的记录可能是不同的。到的记录可能是不同的。第3页，本讲稿共67页 事实上，在相同条件下每次测量都将产生不同的事实上，在相同条件下每次测量都将产生不同的电压电压时间时间函数。这样，不断独立地一次次重复测量，就函数。这样，不断独立地一次次重复测量，就得到一族不同的得到一族不同的电压电压时间时间函数，这族函数从另一角度函数，这族函数从另一角度规划了热噪声电压。规划了热噪声电压。图图图图10-110-1第4页，本讲稿共67页 以上述例子为背景，引入以上述例子为背景，引入随机过程随机过程的概念。的概念。设设 T 是一个无限实数集。我们把依赖于参数是一个无限实数集。我们把依赖于参数 t T 的的一族

5、一族(无限多个无限多个)随机变量收集在一起，称为随机变量收集在一起，称为随机过程随机过程，记记成成 X(t),t T。这里，对每一个这里，对每一个t T，X(t)都是一个随机变量。都是一个随机变量。T 称为称为参数集参数集。常把。常把 t 看作为时间，称看作为时间，称 X(t)为为 t 时刻时刻 过程的过程的状态状态，称，称 X(t1)x(实数实数)为为t t1 时过程时过程处于状态处于状态 x。对于一切对于一切 t,X(t)所有可能取得一切值的全体称为所有可能取得一切值的全体称为随机过程的随机过程的状态空间状态空间。第5页，本讲稿共67页对随机过程对随机过程 X(t)，t T 进行一次试验进

6、行一次试验(即在即在 T上进上进行一次全程观测行一次全程观测)，其结果是，其结果是 t 的函数，记为的函数，记为x(t)，tT，称它为随机过程的一个称它为随机过程的一个样本函数样本函数或或样本曲线样本曲线。所有不同的试验结果构成一族所有不同的试验结果构成一族(可以只包括有限个，如本节可以只包括有限个，如本节例例1)样本函数。样本函数。随机过程可以看作是多维随机变量的延伸。随机过程可以看作是多维随机变量的延伸。随机过程随机过程与其与其样本函数样本函数的关系就像数理统计中的关系就像数理统计中总体总体与与样本样本的关系一的关系一样。样。依照上面的说法，热噪声电压的变化过程依照上面的说法，热噪声电压的

7、变化过程(t)，t是一随机过程，它的状态空间是是一随机过程，它的状态空间是(-,+)，一次观测到，一次观测到的的电压电压时间时间函数就是这个随机过程的一个样本函数。函数就是这个随机过程的一个样本函数。第6页，本讲稿共67页在以后的叙述中，为简便起见：常以在以后的叙述中，为简便起见：常以 X(t)，t 表示随机过程。在上下文不致混淆的情形下，一般略表示随机过程。在上下文不致混淆的情形下，一般略去记号中的参数集去记号中的参数集 T。第7页，本讲稿共67页例例1 抛一枚硬币试验，样本空间是抛一枚硬币试验，样本空间是 S=H,T，定义，定义其中其中 P(H)=P(T)=1/2。对任意。对任意固定的固定

8、的 t,X(t)是一定义在是一定义在S上的随上的随机变量；对不同的机变量；对不同的 t，X(t)是不同是不同的随机变量的随机变量(见图见图10-2)，所以，所以 X(t)，t (-,+)是一族随机是一族随机变量，即是随机过程。变量，即是随机过程。作一次试验，若出现作一次试验，若出现H，样本函数，样本函数 x1(t)=cos t；若出；若出现现T，样本函数，样本函数 x2(t)=t。故，随机过程对应的一族样本函数。故，随机过程对应的一族样本函数仅包含两个函数仅包含两个函数:cos t,t。显然，这个随机过程的状态。显然，这个随机过程的状态空间为空间为(-,+)。图图10-2第8页，本讲稿共67页

9、例例2 考虑考虑 式中式中,是正常数，是正常数，是在是在(0,2(0,2)上服从均匀分布的随机上服从均匀分布的随机变量。变量。显然，对任一固定的时刻显然，对任一固定的时刻 t1,X(t1)=cos(t1+)是一是一个随机变量。因而，由个随机变量。因而，由(1.1)式确定的式确定的 X(t)是一随机过程，是一随机过程，通常称它为通常称它为随机相位正弦波随机相位正弦波。其状态空间是。其状态空间是-,。在。在(0,2)内随机地取一数内随机地取一数 i,相应的样本函数是相应的样本函数是 图图10-3中画出了这个随机过程的两条样本曲线。中画出了这个随机过程的两条样本曲线。图图10-3第9页，本讲稿共67

10、页例例3 在测量运动目标的距离时，存在随机误差。若以在测量运动目标的距离时，存在随机误差。若以(t)表示在时刻表示在时刻 t 的测量误差，则它是一个随机变量。当目标随的测量误差，则它是一个随机变量。当目标随时间时间 t 按一定规律运动时，测量误差按一定规律运动时，测量误差(t)也随时间也随时间 t 而变化。换句话说而变化。换句话说,(t)是依赖于是依赖于 t 的的一族随机变量，亦即一族随机变量，亦即(t),t0是一随机过程，状态是一随机过程，状态空间是空间是(-,+)。第10页，本讲稿共67页例例4 设某市设某市120急救电话台不断地接到用户的呼叫，若以急救电话台不断地接到用户的呼叫，若以X(

11、t)表示时间间隔表示时间间隔(0,t内接到的呼叫次数，则它是一个内接到的呼叫次数，则它是一个随机变量，且对不同的随机变量，且对不同的 t0,X(t)可能是不同的随机变量。可能是不同的随机变量。故，故，X(t),t 是一随机过程，状态空间是是一随机过程，状态空间是0,1,2,。例例5 考虑掷一颗考虑掷一颗骰子骰子试验。试验。(1).设设Xn是第是第 n 次次(n1)掷的点数，对于掷的点数，对于n=1,2,的的 不同值不同值,Xn是不同的随机变量，因而是不同的随机变量，因而Xn,n1 构成一随机过程构成一随机过程,称为伯努利过程称为伯努利过程,或伯努利随或伯努利随 机序列。状态空间都是机序列。状态

12、空间都是1,2,3,4,5,6。(2).设设Xn是前是前n次掷出的最大点数，则次掷出的最大点数，则Xn,n 1也也 是一随机过程。状态空间是是一随机过程。状态空间是1,2,3,4,5,6。第11页，本讲稿共67页 随机过程可依其在任意时刻的状态是连续型随机变量或离随机过程可依其在任意时刻的状态是连续型随机变量或离散型随机变量而分成散型随机变量而分成连续型随机过程连续型随机过程或或离散型随机过程离散型随机过程。热噪声电压、例热噪声电压、例2和例和例3是连续型随机过程，例是连续型随机过程，例1,例例4和例和例5是离散型随机过程。是离散型随机过程。随机过程还可依时间随机过程还可依时间(参数参数)是连

13、续或离散进行分类。当时是连续或离散进行分类。当时间集间集T是有限或无限区间时，称是有限或无限区间时，称X(t),t T为为连续参数随连续参数随机过程机过程(以下如无特别指明，随机过程总是指连续参数而言以下如无特别指明，随机过程总是指连续参数而言的的)；如果；如果T是离散集合，例如是离散集合，例如T=0,1,2,，则称，则称X(t),tT为离散参数随机过程或随机序列，此时常记为离散参数随机过程或随机序列，此时常记成成 Xn,n=0,1,2,等，如例等，如例5。第12页，本讲稿共67页 有时，为了适应数字化的需要，实际中也常将连续有时，为了适应数字化的需要，实际中也常将连续参数随机过程转化为随机序

14、列处理。例如参数随机过程转化为随机序列处理。例如,我们只在时间我们只在时间集集T=t,2t,nt,上观察电阻的热噪声电压上观察电阻的热噪声电压(t)，这时就得到一个随机序列这时就得到一个随机序列V1,V2,Vn,，其中，其中Vn=V(nt)。显然，当显然，当t充分小时，这个随机序列能够近似地描充分小时，这个随机序列能够近似地描述连续时间情况下的热噪声电压。述连续时间情况下的热噪声电压。需注意的是：参数需注意的是：参数 t 虽然通常解释为时间，但它也虽然通常解释为时间，但它也可以表示其它的量。诸如：序号、距离等。如例可以表示其它的量。诸如：序号、距离等。如例5中，中，假定每隔一个单位时间掷假定每

15、隔一个单位时间掷一次骰子一次骰子，则第，则第n次掷出的次掷出的点数点数 Xn就相当于就相当于 t=n时时骰子骰子出现的点数。出现的点数。第13页，本讲稿共67页10.2 随机过程的统计描述随机过程的统计描述 随机过程在任一时刻的状态是随机变量，由此可以随机过程在任一时刻的状态是随机变量，由此可以利用随机变量利用随机变量(一维或多维一维或多维)的统计描述方法来描述随机的统计描述方法来描述随机过程的统计特征。过程的统计特征。10.2.1 随机过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程 X(t),t T，对每个固定的，对每个固定的 t T,随机变量随机变量 X(t)的分布函数一般

16、与的分布函数一般与 t 有关，记为有关，记为称其为随机过程称其为随机过程 X(t),t T 的的一维分布函数一维分布函数，称，称Fx(x,t),t T为为一维分布函数族一维分布函数族。第14页，本讲稿共67页 一维分布函数族刻画了随机过程在各个时刻的统计特征。一维分布函数族刻画了随机过程在各个时刻的统计特征。为描述随机过程在不同时刻状态之间的相关关系，一般要对为描述随机过程在不同时刻状态之间的相关关系，一般要对任意任意 n个个(n=2,3,)不同时刻不同时刻t1,t2,tnT,引入引入 n 维随机变量维随机变量(X(t1),X(t2),X(tn),其联合分布函数记为其联合分布函数记为 对固定的

17、对固定的n,称称FX(x1,x2,xn;t1,t2,tn),tiT为随机过程为随机过程X(t),t T的的 n 维分布函数族。维分布函数族。第15页，本讲稿共67页 当当n充分大时，充分大时，n 维分布函数族能近似地描述随机维分布函数族能近似地描述随机过程的统计特征。显然，过程的统计特征。显然，n 取得愈大，则取得愈大，则n维分布函数维分布函数族描述随机过程的特征也愈趋于完善。一般地族描述随机过程的特征也愈趋于完善。一般地,可以指可以指出出(科尔莫戈罗夫定理科尔莫戈罗夫定理):有限维分布函数族，有限维分布函数族，即即FX(x1,x2,xn;t1,t2,tn),n=1,2,tiT完完全地确定了随

18、机过程的统计特征。全地确定了随机过程的统计特征。上一节，我们曾将随机过程按其状态或时间的连续或离上一节，我们曾将随机过程按其状态或时间的连续或离散进行了分类。然而，随机过程本质的分类方法乃是按其分散进行了分类。然而，随机过程本质的分类方法乃是按其分布特征进行分类的。具体地说：就是依照布特征进行分类的。具体地说：就是依照过程在不同时刻的过程在不同时刻的状态之间的特殊统计依赖方式状态之间的特殊统计依赖方式，抽象出一些不同类型的，抽象出一些不同类型的模型。如：模型。如：独立增量过程、马尔可夫过程、平稳过程独立增量过程、马尔可夫过程、平稳过程等。等。我们将在以后的章节中对它们作不同程度的介绍。我们将在

19、以后的章节中对它们作不同程度的介绍。第16页，本讲稿共67页10.2.2 随机过程的数字特征随机过程的数字特征 随机过程的分布函数族能完善地刻画随机过程的统计特随机过程的分布函数族能完善地刻画随机过程的统计特征。但是，人们在实际中，根据观察往往只能得到随机过程征。但是，人们在实际中，根据观察往往只能得到随机过程的部分资料的部分资料(样本样本)，用它来确定有限维分布函数族是困难的，用它来确定有限维分布函数族是困难的，甚至是不可能的。因而，像引入随机变量的数字特征那样，甚至是不可能的。因而，像引入随机变量的数字特征那样，有必要引入随机过程的基本数字特征有必要引入随机过程的基本数字特征均值函数均值函

20、数和和相关函数相关函数等。这些数字特征在一定条件下是便于测量的。等。这些数字特征在一定条件下是便于测量的。第17页，本讲稿共67页 给定随机过程给定随机过程 X(t),t T，固定，固定 t T,X(t)是是一随机变量，它的均值一般与一随机变量，它的均值一般与 t 有关，记为有关，记为称称 X(t)为随机过程为随机过程X(t)，t T的的均值函数均值函数。注意注意,X(t)是随机过程的所有样本函数在时刻是随机过程的所有样本函数在时刻 t 的的函数值的平均，通常称这种平均为函数值的平均，通常称这种平均为集平均集平均或或统计平均统计平均,以区分第十二章中引入的时间平均概念。以区分第十二章中引入的时

21、间平均概念。均值函数均值函数X(t)表示了表示了随机过程随机过程 X(t)在各个时刻的在各个时刻的摆动中心，如图摆动中心，如图10-4所示。所示。第18页，本讲稿共67页 其次，把随机变量其次，把随机变量X(t)的二阶原点矩和二阶中心矩分的二阶原点矩和二阶中心矩分别记作别记作并分别称它们为随机过程并分别称它们为随机过程X(t),t T的的均方值函数均方值函数和和方差函数方差函数。方差函数的算术平方根。方差函数的算术平方根 X(t)称称为为随机随机过过程的程的标标准差函数准差函数，它表示随机，它表示随机过过程程X(t)在时刻在时刻 t 对于均值对于均值X(t)的平均偏离程度。见图的平均偏离程度。

22、见图10-4。第19页，本讲稿共67页又，又，对任意对任意 t1,t2T，把随机变量，把随机变量X(t1)和和X(t2)的二阶原的二阶原点混合矩记作点混合矩记作并称它为随机过程并称它为随机过程X(t)，t T的的自相关函数自相关函数，简称，简称相相关函数关函数。记号。记号RXX(t1,t2)在不致混淆时，常简记成在不致混淆时，常简记成RX(t1,t2)。类似地，将类似地，将X(t1)和和X(t2)的二阶混合中心矩记成的二阶混合中心矩记成并称为随机过程并称为随机过程X(t),t T的的自协方差函数自协方差函数，简称，简称协协方差函数方差函数。CXX(t1,t2)也常简记为也常简记为CX(t1,t

23、2)。第20页，本讲稿共67页 由多维随机变量数字特征的知识可知，由多维随机变量数字特征的知识可知，自相关函自相关函数和自协方差函数是可划随机过程自身在两个不同时数和自协方差函数是可划随机过程自身在两个不同时刻的状态之间统计依赖关系的数字特征。刻的状态之间统计依赖关系的数字特征。现把现把(2.1)(2.5)式定义的诸数字特征之间的关式定义的诸数字特征之间的关系简述如下：系简述如下：由由(2.2)和和(2.4)式知式知,均方值函数为均方值函数为由由(2.5)式展开，得式展开，得特别地，当特别地，当t1=t2=t时，由时，由(2.7)式，得式，得第21页，本讲稿共67页 由由(2.6)(2.8)式

24、可知，以上诸数字特征中最主要的是式可知，以上诸数字特征中最主要的是均值函数和自相关函数。均值函数和自相关函数。从理论的角度来看，仅仅研究均值函数和自相关函数从理论的角度来看，仅仅研究均值函数和自相关函数当然是不能代替对整个随机过程的研究的，但是由于它们当然是不能代替对整个随机过程的研究的，但是由于它们确实刻画了随机过程的主要统计特征，而且远较有限维分确实刻画了随机过程的主要统计特征，而且远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言布函数族易于观察和实际计算，因而对于应用课题而言,它们常常能够起到重要作用。据此它们常常能够起到重要作用。据此,在随机过程的专著中在随机过程的专著中都

25、着重研究了所谓二阶矩过程。都着重研究了所谓二阶矩过程。随机过程随机过程X(t)，t T，如果对于每一个，如果对于每一个t T，二阶，二阶矩矩EX2(t)都存在，那么称它为都存在，那么称它为二阶矩过程二阶矩过程。第22页，本讲稿共67页 二阶矩过程的相关函数总存在。事实上，由于二阶矩过程的相关函数总存在。事实上，由于EX2(t1),EX2(t2)存在，根据柯西存在，根据柯西施瓦兹不等式施瓦兹不等式(参见第四章习题参见第四章习题33)，有，有即知：即知：RX(t1,t2)=EX(t1)X(t2)存在。存在。在实际中，常遇到一种特殊的二阶矩过程在实际中，常遇到一种特殊的二阶矩过程正态过程。正态过程。

26、随机过程随机过程X(t),t T称为正态过程，如果对任意称为正态过程，如果对任意 n1及任意及任意 t1,t2,tnT,(X(t1),X(t2),X(tn)服从服从 n 维正态分布维正态分布。由第四章由第四章3、4知，正态过程的全部统计知，正态过程的全部统计特征完全由它的均值函数和自协方差函数特征完全由它的均值函数和自协方差函数(或自相关函数或自相关函数)所确定。所确定。第23页，本讲稿共67页例例1 设设A,B是两个随机变量是两个随机变量,求随机过程求随机过程X(t)=At+B,t T=(-,+)的均值函数和自相关函数。如果的均值函数和自相关函数。如果A,B相互独立，相互独立，且且 AN(0

27、,1),BU(0,2)，问，问 X(t)的均值函数和自相关的均值函数和自相关函数又是怎样的？函数又是怎样的？解解 X(t)的均值函数和自相关函数分别为的均值函数和自相关函数分别为当当AN(0,1)时，时，EA=0，EA2=1；当；当BU(0,2)时，时，EB=1，EB2=4/3；又因；又因A、B独立时，有独立时，有EAB=EAEB=0。故。故第24页，本讲稿共67页例例2 求求10.1例例2中随机相位正弦波的均值函数、方差函数中随机相位正弦波的均值函数、方差函数和自相关函数。和自相关函数。由定义，得由定义，得解解 由假设，知由假设，知的概率密度为的概率密度为第25页，本讲稿共67页自相关函数自

28、相关函数特别地，特别地，令令t1=t2=t,即得方差函数即得方差函数 其中其中=t2-t1。第26页，本讲稿共67页例例3 设设 X(t)=Acos t+Bsin t,tT=(-,+)，其中，其中A,B相互独立，且均是服从正态分布相互独立，且均是服从正态分布N(0,2)的随机变量，的随机变量，是实常数。证明是实常数。证明:X(t)是正态过程，并求其均值函数是正态过程，并求其均值函数和自相关函数。和自相关函数。解解 由题设，由题设，A,B是相互独立的正态变量，所以是相互独立的正态变量，所以(A,B)是是二维正态变量。对任意一组实数二维正态变量。对任意一组实数t1,t2,tnT,X(ti)=Aco

29、sti+Bsinti,i=1,2,n都是都是A,B的线性组合。于是，根据第四章的线性组合。于是，根据第四章4,n维正态变量维正态变量的性质的性质3。,(X(t1),X(t2),X(tn)是是n维正态变量。因维正态变量。因为为n,ti是任意的，由定义，是任意的，由定义，X(t)是正态过程。是正态过程。第27页，本讲稿共67页另由题设，有另由题设，有E(A)=E(B)=E(AB)=0,E(A2)=E(B2)=2.由此，可算得由此，可算得X(t)的均值函数和自协方差函数的均值函数和自协方差函数(或自相关函或自相关函数数)分别为：分别为：X(t)=EAcost+Bsint=0,CX(t1,t2)=RX

30、(t1,t2)=E(Acost1+Bsint1)(Acost2+Bsint2)=(cos t1 cos t2)E(A2)+(sin t1 sin t2)E(B2)+(cos t1 sin t2+sin t1 cos t2)E(AB)=2(cost1cost2+sint1sint2)=2cos(t2-t1).第28页，本讲稿共67页10.2.3 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 实际问题中，我们有时必须同时研究两个或两个以实际问题中，我们有时必须同时研究两个或两个以上随机过程及它们之间的统计联系。例如：某地在时段上随机过程及它们之间的统计联系。例如：某地在时段(0

31、,t内的最高温度内的最高温度X(t)和最低温度和最低温度Y(t)都是随机过程，都是随机过程，需研究它们的统计联系。又如：输入到一个系统的信号需研究它们的统计联系。又如：输入到一个系统的信号和噪声可都是随机过程，这时，输出也是随机过程。我和噪声可都是随机过程，这时，输出也是随机过程。我们需要研究输出与输入之间的统计联系等等。对于这类们需要研究输出与输入之间的统计联系等等。对于这类问题，我们除了对各个随机过程的统计特征加以研究外，问题，我们除了对各个随机过程的统计特征加以研究外，还必须将几个随机过程作为整体研究其统计特征。还必须将几个随机过程作为整体研究其统计特征。第29页，本讲稿共67页 设设

32、X(t),tT 和和Y(t),tT 是同一参数空间上的是同一参数空间上的两个不同的随机过程，称两个不同的随机过程，称(X(t),Y(t),tT 是二维随是二维随机过程。机过程。设设(X(t),Y(t),tT 是二维随机过程，如果对任意是二维随机过程，如果对任意正整数正整数n,m，任意数组，任意数组 t1,t2,tn T，t1,t2,tm T，称，称n+m 维随机变量维随机变量(X(t1),X(t2),X(tn),Y(t1),Y(t2),Y(tm)的分布函数的分布函数F(x1,x2,xn;t1,t2,tn:y1,y2,ym;t1,t2,tm)为随机过程为随机过程X(t)与与Y(t)的的n+m维联

33、合分布函数。维联合分布函数。第30页，本讲稿共67页 如果对任意正整数如果对任意正整数n,m，任意数组，任意数组 t1,t2,tn T;t1,t2,tm T，n维随机变量维随机变量(X(t1),X(t2),X(tn)与与 m维随机变量维随机变量(Y(t1),Y(t2),Y(tm)相互相互独立，则称随机过程独立，则称随机过程X(t)和和 Y(t)是是相互独立的相互独立的。第31页，本讲稿共67页 关于数字特征，除关于数字特征，除X(t),Y(t)的均值和自相关函数外，的均值和自相关函数外，在应用课题中感兴趣的是在应用课题中感兴趣的是X(t)和和Y(t)的二阶混合原点矩，的二阶混合原点矩，记作记作

34、并称它为并称它为X(t)和和Y(t)的的互相关函数。互相关函数。类似地，还有如下定义的类似地，还有如下定义的X(t)和和Y(t)的的互协方差函数互协方差函数 如果对任意的如果对任意的 t1,t2T，恒有，恒有则称随机过程则称随机过程X(t)和和Y(t)是是不相关的不相关的。第32页，本讲稿共67页 由第四章由第四章3可推知，两个随机过程如果是相互独立的可推知，两个随机过程如果是相互独立的,且它们的二阶矩存在且它们的二阶矩存在,则它们必然不相关。反之则它们必然不相关。反之,从不相从不相关一般并不能推断出它们相互独立。关一般并不能推断出它们相互独立。当同时考虑当同时考虑 n(n2)个随机过程或个随

35、机过程或 n维随机过程时维随机过程时,我们可类似地引入它们的多维分布，以及均值函数和两我们可类似地引入它们的多维分布，以及均值函数和两两之间的互相关函数两之间的互相关函数(或互协方差函数或互协方差函数)。第33页，本讲稿共67页 在许多应用问题中，经常要研究几个随机过程之在许多应用问题中，经常要研究几个随机过程之和和(例如，将信号和噪声同时输入到一个线性系统的例如，将信号和噪声同时输入到一个线性系统的情形情形)的统计特征。现考虑三个随机过程的统计特征。现考虑三个随机过程 X(t),Y(t)和和Z(t)之和的情形，令之和的情形，令 W(t)=X(t)+Y(t)+Z(t).显然，均值函数显然，均值

36、函数而而W(t)的自相关函数可以根据均值运算规则和相关函数的定的自相关函数可以根据均值运算规则和相关函数的定义得到，义得到，第34页，本讲稿共67页 此式表明：几个随机过程之和的自相关函数可以表示此式表明：几个随机过程之和的自相关函数可以表示为各个随机过程的自相关函数以及各对随机过程的互相关为各个随机过程的自相关函数以及各对随机过程的互相关函数之和。函数之和。如果上述如果上述三个随机过程是两两不相关的，且各自的三个随机过程是两两不相关的，且各自的均值函数都为零均值函数都为零，则由，则由(2.11)是可知诸互相关函数均等是可知诸互相关函数均等于零，此时于零，此时W(t)的自相关函数简单地等于各个

37、过程的自相关的自相关函数简单地等于各个过程的自相关函数之和，即函数之和，即特别地，令特别地，令t1=t2=t,由由(2.12)式，得式，得W(t)的方差函数的方差函数(此处即均方值函数此处即均方值函数)为为第35页，本讲稿共67页10.3 泊松过程及维纳过程泊松过程及维纳过程 泊松泊松(Poission)过程及维纳过程及维纳(Wiener)过程是两个典过程是两个典型的随机过程，在随机过程理论和应用中都占重要地位，型的随机过程，在随机过程理论和应用中都占重要地位，都属于都属于独立增量过程独立增量过程。下面首先介绍独立增量过程。下面首先介绍独立增量过程。给定二阶矩过程给定二阶矩过程X(t),t 0

38、,称称X(t)-X(s),0st为为随机过程在区间随机过程在区间(s,t上的增量。如果对任意正整数上的增量。如果对任意正整数n 和任和任意意 0t0 t1 t2 tn,n个增量个增量 X(t1)-X(t0),X(t2)-X(t1),X(tn)-X(tn-1)相互独立，则称相互独立，则称X(t),t 0为为独立增量过程独立增量过程。直观地说：直观地说：就是在互不重叠的区间上，状态的增量相互独就是在互不重叠的区间上，状态的增量相互独立。立。第36页，本讲稿共67页 对于独立增量过程，可以证明：在对于独立增量过程，可以证明：在 X(0)=0 的条件下的条件下,过程的有限维分布函数族可以由增量过程的有

39、限维分布函数族可以由增量 X(t)-X(s)(0st)的分布所确定。的分布所确定。特别地，若对任意的实数特别地，若对任意的实数 h 和和 0 s+h t+h,X(t+h)-X(s+h)与与 X(t)-X(s)具有相同的分布，则称具有相同的分布，则称增量具有增量具有平稳性。平稳性。这时，增量这时，增量 X(t)-X(s)的分布函数实际上只依赖于的分布函数实际上只依赖于时间差时间差 t-s(0st)，而不依赖于，而不依赖于t和和 s 本身本身(事实上，令事实上，令h=-s即知即知)。当增量具有平稳性时，称相应的独立增量过程是当增量具有平稳性时，称相应的独立增量过程是齐次齐次的的或或时齐的时齐的。第

40、37页，本讲稿共67页 在在 X(0)=0 和方差函数和方差函数 DX(t)已知条件下，可计算独已知条件下，可计算独立增量过程立增量过程X(t),t 0的协方差函数的协方差函数CX(s,t)。记记 Y(t)=X(t)-X(t)。首先注意到：当。首先注意到：当 X(t)具有独立增具有独立增量时量时,Y(t)也具有独立增量也具有独立增量;其次其次注意到注意到:Y(0)=0,EY(t)=0，且方差函数，且方差函数 DY(t)=EY2(t)=DX(t)。利用这。利用这些性质，些性质，当当 0st 时时，就有，就有故，对任意故，对任意s,t0，协方差函数可用方差函数表示。，协方差函数可用方差函数表示。第

41、38页，本讲稿共67页10.3.1 泊松过程泊松过程 考虑下列随时间推移迟早会重复出现的事件：考虑下列随时间推移迟早会重复出现的事件：(1).自电子管阴极发射的电子到达阳极；自电子管阴极发射的电子到达阳极；(2).意外事故或意外差错的发生；意外事故或意外差错的发生；(3).要求服务的顾客到达服务站。要求服务的顾客到达服务站。此处此处“顾客顾客”与与“服务站服务站”的含义是相当广泛的。的含义是相当广泛的。如如:“顾客顾客”可以是电话的呼叫，可以是电话的呼叫，“服务站服务站”是是120急救台；急救台；“顾客顾客”可以是联网的个人电脑，可以是联网的个人电脑，“服务服务站站”是某网站的主页是某网站的主

42、页;“顾客顾客”可以是等待起飞的飞机，可以是等待起飞的飞机，“服务站服务站”是机场跑道是机场跑道等。等。第39页，本讲稿共67页 为建立一般模型，我们把电子、顾客等看作时间为建立一般模型，我们把电子、顾客等看作时间轴上的质点，电子到达阳极、顾客到达服务站等事件轴上的质点，电子到达阳极、顾客到达服务站等事件的发生相当于质点出现。于是，抽象地说，我们研究的发生相当于质点出现。于是，抽象地说，我们研究的对象将是随时间推移，陆续出现在时间轴上的许多的对象将是随时间推移，陆续出现在时间轴上的许多质点所构成的随机的质点流。质点所构成的随机的质点流。以以N(t),t 0表示在时间间隔表示在时间间隔(0,t内

43、出现的质点数。内出现的质点数。N(t),t 0是一状态取非负整数、时间连续的随机过程，是一状态取非负整数、时间连续的随机过程，称为称为计数过程计数过程。第40页，本讲稿共67页 计数过程计数过程的样本函数如图的样本函数如图10-5所示，图中所示，图中t1,t2,是是质点依次出现的时刻。质点依次出现的时刻。图图10-5 将增量将增量 N(t)-N(t0)记成记成 N(t0,t),0 t0 0 称为过程称为过程 N(t)的强度，而的强度，而 当当 时是关于时是关于t的高阶无穷小；的高阶无穷小；(3).对于充分小的对于充分小的t,(4).N(0)=0。第42页，本讲稿共67页 我们把满足条件我们把满

44、足条件(1)(4)的计数过程的计数过程N(t),t 0称称作作强度为强度为 的泊松过程的泊松过程。相应的质点流，即质点出现的。相应的质点流，即质点出现的随机时刻随机时刻 t1,t2,称作称作强度为强度为 的泊松流的泊松流。以下首先来求增量的分布律以下首先来求增量的分布律(3.2)。对于泊松过程，。对于泊松过程，注意到注意到 =1，结合条件，结合条件(2)和和(3)，有，有第43页，本讲稿共67页 下面就泊松过程来计算概率下面就泊松过程来计算概率(3.2)。首先确定首先确定P0(t0,t)。为此，对。为此，对t 0，考虑，考虑由条件由条件(1)和和(3.5)式，上式可写成式，上式可写成第44页，

45、本讲稿共67页用用t 除上式两边，并令除上式两边，并令 ，即得，即得P0(t0,t)满足的满足的微分方程微分方程因为因为N(t0,t0)=0，故，故P0(t0,t0)=1。把它看作初始条件。把它看作初始条件即可从方程即可从方程(3.6)解得解得第45页，本讲稿共67页 再来计算再来计算Pk(t0,t),k1。根据并事件概率公式和。根据并事件概率公式和条件条件(1)，有，有由由(3.2)(3.5)式，并注意到式，并注意到上式可表示成上式可表示成第46页，本讲稿共67页将此式适当整理后，两边除以将此式适当整理后，两边除以t，并令，并令 ，可得到，可得到 Pk(t0,t)满足的满足的微分微分-差分方

46、程差分方程又因又因 N(t0,t0)=0，故有初始条件，故有初始条件在在(3.8)与与(3.9)中令中令k=1,利用求出的利用求出的P0(t0,t),可解出可解出第47页，本讲稿共67页 如此重复，即逐次令如此重复，即逐次令 k=2,3,，就得到，就得到(t0,t 时间时间段内出现段内出现 k 个质点的概率为个质点的概率为 由上式易见：增量由上式易见：增量 N(t0,t)=N(t)-N(t0)的概率分布是的概率分布是参数为参数为(t-t0)的泊松分布的泊松分布,且只与时间差且只与时间差 t-t0 有关。所有关。所以，强度为以，强度为 的泊松分布是一齐次的独立增量过程。的泊松分布是一齐次的独立增

47、量过程。第48页，本讲稿共67页 在一些文献中，泊松过程也用另一种形式定义。在一些文献中，泊松过程也用另一种形式定义。若计数过程若计数过程 N(t),t 0 满足下列三个条件：满足下列三个条件：.过程过程是独立增量过程；是独立增量过程；.对任意对任意 t t00，N(t)-N(t0)服从参数为服从参数为(t-t0)的的 泊松分布泊松分布;.N(0)=0,则称则称N(t),t 0是强度为是强度为 的泊松过程。的泊松过程。从前面的推导不难看到：从条件从前面的推导不难看到：从条件(1)(4)可推出可推出。反之。反之,在在中令中令 t-t0=t，并利用并利用e-t的泰勒展开式，的泰勒展开式，就能得到条

48、件就能得到条件(2)、(3)。由此可知：定义泊松过程的两组条。由此可知：定义泊松过程的两组条件是等价的。件是等价的。第49页，本讲稿共67页由由(3.10)式，式，t t00，可知，可知特别地，令特别地，令t0=0，由于假设，由于假设N(0)=0，可推出泊松过程的均，可推出泊松过程的均值函数和方差函数分别为值函数和方差函数分别为 从从(3.11)可看到可看到:=EN(t)/t，即，即泊松过程的强度泊松过程的强度(常数常数)等于单位时间间隔内出现的质点数的期望值等于单位时间间隔内出现的质点数的期望值。第50页，本讲稿共67页 泊松过程的协方差函数，则可由泊松过程的协方差函数，则可由(3.1),(

49、3.11)式直接式直接推得：推得：相关函数相关函数第51页，本讲稿共67页 若条件若条件(3.3)式中的强度为非均匀的，即式中的强度为非均匀的，即 是时间是时间 t 的函数的函数 =(t),t0。则称泊松过程为非齐次的。对。则称泊松过程为非齐次的。对于非齐次泊松过程，用类似的方法，可得于非齐次泊松过程，用类似的方法，可得 下面介绍与泊松过程有关的两个随机变量，即下面介绍与泊松过程有关的两个随机变量，即等待时间和点间间距，以及它们的概率分布。等待时间和点间间距，以及它们的概率分布。第52页，本讲稿共67页 在一些实际问题中，在一些实际问题中，观察观察质点时，质点时，通常通常不是对时间间不是对时间

50、间隔隔(t1,t2 内出现的质点进行计数内出现的质点进行计数,而是对达到一定数量的而是对达到一定数量的质点所需要的时间进行计时。质点所需要的时间进行计时。例如：为研究含例如：为研究含某放射性元素的物质，常对它发射出来的粒子作如下计时某放射性元素的物质，常对它发射出来的粒子作如下计时试验。试验。设质点设质点(或事件或事件)依次重复出现的时刻依次重复出现的时刻t1,t2,tn,是一强度为是一强度为 的泊松流，的泊松流，N(t),t 0为相应的泊松过程。为相应的泊松过程。记记 W0=0,Wn=tn,n=1,2,。Wn是一随机变量，表示第是一随机变量，表示第n个质点个质点(或事件第或事件第n次次)出现