随机过程基本概念课件.ppt

《随机过程基本概念课件.ppt》由会员分享，可在线阅读，更多相关《随机过程基本概念课件.ppt（30页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、随机过程基本概念第1页，此课件共30页哦第一章第一章 随机过程基本概念随机过程基本概念自然界和现实生活中发生的现象一般分为两类现象，自然界和现实生活中发生的现象一般分为两类现象，一类为确定性现象，另一类为不确定性现象。一类为确定性现象，另一类为不确定性现象。何谓确定性现象呢？如果我们向上抛一支粉笔，则何谓确定性现象呢？如果我们向上抛一支粉笔，则该粉笔必然下落；水在该粉笔必然下落；水在100100必然会开；同性相斥，必然会开；同性相斥，异性相吸等等，这类现象称为确定性现象。大学一二年异性相吸等等，这类现象称为确定性现象。大学一二年级所学的微积学、代数、议程等主要是研究确定性现象。级所学的微积学、

2、代数、议程等主要是研究确定性现象。对于确定性现象又可称为必然现象。必然现象的主要对于确定性现象又可称为必然现象。必然现象的主要特点是条件和结果之间存在着必然联系，即条件具备，特点是条件和结果之间存在着必然联系，即条件具备，某种结果必然发生，因此我们可由条件预测结果。某种结果必然发生，因此我们可由条件预测结果。第2页，此课件共30页哦而另一类现象在自然界社会工程中也是经常出现，即不确而另一类现象在自然界社会工程中也是经常出现，即不确定性现象，又可称为随机现象，或偶然现象，其特点是条定性现象，又可称为随机现象，或偶然现象，其特点是条件和结果之间不存在的必然联系，无必然的因果关系，因件和结果之间不存

3、在的必然联系，无必然的因果关系，因此不能用必然条件的方法来加以定量研究。如，在相同条此不能用必然条件的方法来加以定量研究。如，在相同条件抛同一枚硬币，其出现的结果可能有两种，正面或反面，件抛同一枚硬币，其出现的结果可能有两种，正面或反面，但最终结果到底是正面还是反面不能预先断言。又如商店但最终结果到底是正面还是反面不能预先断言。又如商店每天的营业额，一天中不同时刻的气温等这些现象都是不每天的营业额，一天中不同时刻的气温等这些现象都是不确定现象。由于不确定现象不存在因果关系，是不是它们确定现象。由于不确定现象不存在因果关系，是不是它们就没有规律可研究呢？就没有规律可研究呢？事实上，人们经过长期实

4、践研究后发现，虽然随机现象就每事实上，人们经过长期实践研究后发现，虽然随机现象就每一次试验结果来说具有不确定性，但在相同条件下大量重复一次试验结果来说具有不确定性，但在相同条件下大量重复试验其结果就呈现出某种规律性，著名的蒲丰试验表明在相试验其结果就呈现出某种规律性，著名的蒲丰试验表明在相同条件下大量重复抛一枚硬币出现正面的次数大致等于出现同条件下大量重复抛一枚硬币出现正面的次数大致等于出现反面的次数。反面的次数。第3页，此课件共30页哦上述事实表明，随机现象从一次试验上看，似乎没上述事实表明，随机现象从一次试验上看，似乎没有什么规律存在，但当它们大量出现时，从总体上有什么规律存在，但当它们大

5、量出现时，从总体上讲却呈现出一种总体规律性，这就是统计规律，这讲却呈现出一种总体规律性，这就是统计规律，这种统计规律的存在，就是随机数学的研究基础。因种统计规律的存在，就是随机数学的研究基础。因此今后我们在随机数学中，一说此今后我们在随机数学中，一说“统计规律统计规律”时大家时大家就要想到大量重复的试验。就要想到大量重复的试验。概率统计随机过程就是研究随机现象是否具有统计规律概率统计随机过程就是研究随机现象是否具有统计规律性的一门数学学科。性的一门数学学科。统计方法的基本思想是从一组样本分析、判断整个系统统计方法的基本思想是从一组样本分析、判断整个系统的状态，或判定某一论断以多大的概率来保证其

6、正确性，的状态，或判定某一论断以多大的概率来保证其正确性，或算出发生错误判断的概率，简言之就是或算出发生错误判断的概率，简言之就是“由局部推由局部推测总体测总体”，“由特殊来研究一般由特殊来研究一般”，是归纳法的具体应，是归纳法的具体应力。力。第4页，此课件共30页哦为了研究随机现象，下面我们首先需要给出如下几个定义为了研究随机现象，下面我们首先需要给出如下几个定义解释：解释：随机试验：随机试验：随机试验：随机试验：具有下述三个特点的试验称为随机试验。具有下述三个特点的试验称为随机试验。可以在相同的条件下重复进行。可以在相同的条件下重复进行。每次试验的可能结果不止一个，并且能事先确定试验的所每

7、次试验的可能结果不止一个，并且能事先确定试验的所有可能结果。有可能结果。每次试验前不能确定哪个结果会出现。每次试验前不能确定哪个结果会出现。随机事件：随机事件：随机事件：随机事件：随机试验的所有可能出现的结果。随机试验的所有可能出现的结果。必然事件：必然事件：必然事件：必然事件：随机试验中必然发生的事情。随机试验中必然发生的事情。注意：必然事件和不可能事件不是随机事件，但为了注意：必然事件和不可能事件不是随机事件，但为了 今后讨论，我们把它作一种特殊的随机事件。今后讨论，我们把它作一种特殊的随机事件。第5页，此课件共30页哦样本空间：样本空间：样本空间：样本空间：随机试验中所有可能出现的结果随

8、机试验中所有可能出现的结果(事件样本事件样本)，组，组成的集合叫做随机试验的样本空间，记为成的集合叫做随机试验的样本空间，记为S S。随机变量：随机变量：设设E E是随机试验，它的样本空间是随机试验，它的样本空间S S=e e，如果对，如果对于每一个，都有一个实数于每一个，都有一个实数X X(e e)与之对应，则与之对应，则X X为定义在为定义在S S上的随机变量。上的随机变量。有了随机变量我们就可以在一定的统计意义下，定量地用随有了随机变量我们就可以在一定的统计意义下，定量地用随机变量描述随机现象的变化规律，从而达到认识世界和改造机变量描述随机现象的变化规律，从而达到认识世界和改造世界的目的

9、。世界的目的。再者，引入了随机变量，我们可以利用数学分析的方法更再者，引入了随机变量，我们可以利用数学分析的方法更好地研究随机现象。好地研究随机现象。由此我们可以简单的说概率统计的研究对象就是研究随机世由此我们可以简单的说概率统计的研究对象就是研究随机世界界(空间空间)中随机变量的变化规律，为此我们自然需要考虑中随机变量的变化规律，为此我们自然需要考虑建立随机变量的建立随机变量的“函数关系函数关系”，这个，这个“函数关系函数关系”在随机在随机数学中我们一般用随机变量的分布函数、或者分布律及数数学中我们一般用随机变量的分布函数、或者分布律及数字特征等来描述。字特征等来描述。第6页，此课件共30页

10、哦1.1 随机过程的概念引入我们知道，在自然界中的变化过程可以广义地分为两类。我们知道，在自然界中的变化过程可以广义地分为两类。一类为确定性过程，另一类为不确定性过程或随机过程。一类为确定性过程，另一类为不确定性过程或随机过程。何谓过程呢？通俗讲凡和时间有关的变化称为过程。何谓过程呢？通俗讲凡和时间有关的变化称为过程。例如真空中的自巾落体运动，假定初速为零，则有例如真空中的自巾落体运动，假定初速为零，则有第7页，此课件共30页哦这个函数关系确定了物体在任意时刻离开初点的精确这个函数关系确定了物体在任意时刻离开初点的精确位置，存在必然确定的因果关系，显然位置，存在必然确定的因果关系，显然X X与

11、时间与时间t t有关，有关，构成一个过程。这个过程我们把它称为确定性过程。构成一个过程。这个过程我们把它称为确定性过程。另一类过程是没有确定的变化形式，没有必然的变化另一类过程是没有确定的变化形式，没有必然的变化规律，如商店每天的营业额规律，如商店每天的营业额MM，显然是一个不确定量，显然是一个不确定量即随机变量，进一步分析知该营业额即随机变量，进一步分析知该营业额MM还和时间还和时间t t有关，有关，即即MM(t t)，由此，由此MM构成一个过程，这里称这个过程为随构成一个过程，这里称这个过程为随机过程；机过程；又如传呼台传呼小组每天接到传呼的次数，又如传呼台传呼小组每天接到传呼的次数，X

12、X显然不能显然不能确定，即为随机变量，进一步分析知这个确定，即为随机变量，进一步分析知这个X X还和时间还和时间t t有有关，即关，即X X(t t)，所以，所以X X(t t)也构成一个过程，即随机过程；类也构成一个过程，即随机过程；类似地，气温、气压、商店每天的顾客流量等都构成一个随似地，气温、气压、商店每天的顾客流量等都构成一个随机过程。机过程。第8页，此课件共30页哦下面我通过一个具体的过程实例来导出随机过程一般的下面我通过一个具体的过程实例来导出随机过程一般的数学定义。数学定义。设有一电子直流放大器其中U(t)为输入信号，K为放大器，也表示对输入 信号U(t)的放大倍数，X(t)为放

13、后的输出信号。显然对于该放大器，当U(t)=0，也就是没有输入信号时，X(t)应为零，但是由于放大器内部元件以及外部电磁波等各种干挠的影响，使得当U(t)=0时，输出U(t)0，由此造成所谓的输出零点漂移。第9页，此课件共30页哦 进一步分析发现这个输出零点漂移在相同条件，比如进一步分析发现这个输出零点漂移在相同条件，比如每天的某一时刻进行观测，如果我们观测是了每天的某一时刻进行观测，如果我们观测是了n n天，就可得天，就可得n n条输出零点漂移曲线，条输出零点漂移曲线，把这些曲作出，如图把这些曲作出，如图1.21.2所示。所示。图1.2 电子直流放大器的零点漂移第10页，此课件共30页哦可以

14、发现这些曲线形态不一样，即每条曲线各不相同，可以发现这些曲线形态不一样，即每条曲线各不相同，不能用统一的确定函数表示，但它们都是时间不能用统一的确定函数表示，但它们都是时间t t的函的函数即零点漂移构成一个随机过程记为数即零点漂移构成一个随机过程记为X X(t t)，也可以说，也可以说这些曲线的全体（时间函数的全体）集合就构成了一个这些曲线的全体（时间函数的全体）集合就构成了一个零点漂移随机过程，即零点漂移随机过程，即X X(t t)=)=x x1(t)1(t),xnxn(t t)，其中每，其中每一曲线一曲线xi xi(t t)又可称为随机过程的样本曲线函数（时间又可称为随机过程的样本曲线函数

15、（时间函数），函数），i=i=1,21,2,n n。显然，由图。显然，由图1.21.2所所示的在一所所示的在一次实验结果中，随机过程必取一个样本函数，但究次实验结果中，随机过程必取一个样本函数，但究竟取哪一个函数则在试验前不能确定，但是在大量竟取哪一个函数则在试验前不能确定，但是在大量的重复实验中，可知道随机过程呈现出统计规律性。的重复实验中，可知道随机过程呈现出统计规律性。因此直观地讲，随机过程既是时间因此直观地讲，随机过程既是时间t t的函数，也是试的函数，也是试验可能结果验可能结果e e的函数，记为的函数，记为X X(t t,e e)。第11页，此课件共30页哦进一步分析可以看出对于随机

16、过程X(t)=x1(t)。当我们取定t=ti时刻时有由图1.2可以看出，取值各不相同，没有必然的规律。若把x1(ti),xn(ti)看成是随机过程X(t)在时刻ti的各种可能取值，很显然X(ti)是一个随机变量。第12页，此课件共30页哦在地震勘探工作中，我们通过检波器把混有在地震勘探工作中，我们通过检波器把混有随机干扰的随时间变动的地层结构信号记录随机干扰的随时间变动的地层结构信号记录下来，如图下来，如图1.31.3所示。所示。图1.3第13页，此课件共30页哦在在O O点放炮，在点放炮，在A A点记录仪把接收到的混有干扰的地震信号点记录仪把接收到的混有干扰的地震信号波记录下来，我们在相同条

17、件下做了波记录下来，我们在相同条件下做了n n次记录，则可得次记录，则可得n n个彼此有差异的地震波形（曲线）。如在时间个彼此有差异的地震波形（曲线）。如在时间t0t0观察它们的观察它们的信号波的值信号波的值X X(t0)(t0)是一个随机变量，也就是说，混有随机干是一个随机变量，也就是说，混有随机干扰的地层结构信号波构成一个依赖于时间扰的地层结构信号波构成一个依赖于时间t t的随机过程。的随机过程。定义随机过程：定义随机过程：设设E E是随机试验，它的样本空间是，若是随机试验，它的样本空间是，若对于每一个，总有一个确定的时间函数与之对应。这样对于每一个，总有一个确定的时间函数与之对应。这样对

18、于所有，就可能得到一族时间对于所有，就可能得到一族时间t t的函数，称为随机过程，的函数，称为随机过程，族中的每一个函数称为这个随机过程的样本函数。族中的每一个函数称为这个随机过程的样本函数。第14页，此课件共30页哦由定义可知，对于一个特定的试验结果由定义可知，对于一个特定的试验结果 ，总有一，总有一个确定时间函数个确定时间函数 。该函数是普通意义下确定的时。该函数是普通意义下确定的时间函数（样本函数），又由定义知，当取定间函数（样本函数），又由定义知，当取定 与与e e有关，由于有关，由于 是一个随机变量，如果是一个随机变量，如果让让 变动，变动，可得一族随机变量，可得一族随机变量 。因此

19、从这个意义上讲随机过程又可看成是依赖于时间因此从这个意义上讲随机过程又可看成是依赖于时间t t的一族随的一族随机变量。由此可给出下面另一种形式的随机过程定义。为简便起机变量。由此可给出下面另一种形式的随机过程定义。为简便起见，省略见，省略e e，用表示随机过程。，用表示随机过程。如是对于每一给定的都是随机变量，则如是对于每一给定的都是随机变量，则X X(t t)是一个随机过程。是一个随机过程。或者说，随机过程是依赖于时间的一族随机变量。随机过程的或者说，随机过程是依赖于时间的一族随机变量。随机过程的两种定义本质是一致的，一般在理论分析采用第二定义，在实两种定义本质是一致的，一般在理论分析采用第

20、二定义，在实际应用中采用第一定义。际应用中采用第一定义。第15页，此课件共30页哦1.2 随机过程的分类1.1.按随机变量和指标集类型分类按随机变量和指标集类型分类按随机变量和指标集类型分类按随机变量和指标集类型分类（1 1）连续型随机过程：）连续型随机过程：）连续型随机过程：）连续型随机过程：对于随机过程对于随机过程X X(t t,e e)，如果随机，如果随机变量变量X X(e e)是连续变化的，也是连续变化的，则称是连续变化的，也是连续变化的，则称X X(t t,e e)为为连续型随机过程。注意这里指标集为连续型随机过程。注意这里指标集为0t0t+，or or 。如正弦波随机过程。如正弦波

21、随机过程 。（2 2）离散型随机过程：）离散型随机过程：）离散型随机过程：）离散型随机过程：对于随机过程，如果取值离散，对于随机过程，如果取值离散，而而t t是连续，则称为离散型随机过程，如电报信号过程。是连续，则称为离散型随机过程，如电报信号过程。也可简单地说时间连续，状态离散。也可简单地说时间连续，状态离散。第16页，此课件共30页哦（3 3 3 3）连续型随序列）连续型随序列）连续型随序列）连续型随序列：对于随机过程：对于随机过程 ，如果，如果 连续，而连续，而 是离散变化，如是离散变化，如 或或 ，则称，则称 为连续型随机序列，也就是时间离散，状态连续为连续型随机序列，也就是时间离散，

22、状态连续 。（4 4 4 4）离散型随机序列：）离散型随机序列：）离散型随机序列：）离散型随机序列：对于随机过程对于随机过程 ，如果，如果 状态离散，时间状态离散，时间t t也是离散，则称也是离散，则称 为离散型随为离散型随机序列。注意，为了适应数字技术的需要，对连续型机序列。注意，为了适应数字技术的需要，对连续型随机过程进行量化、分层，就得离散随机序列。如伯随机过程进行量化、分层，就得离散随机序列。如伯努力试验、随机游动等。努力试验、随机游动等。第17页，此课件共30页哦2.按随机过程功能分类 平稳过程；高斯过程；马尔可夫过程；二阶过程；独立增量过程；维也纳过程；白噪声过程等。其它过程还很多

23、，如泊松过程、分枝过程、更新过程、生灭过程等。第18页，此课件共30页哦1.3 随机过程的描述我们知道概率统计的研究对象是随机变量的变化规律，我们知道概率统计的研究对象是随机变量的变化规律，由此我们需要建立随机变量的数学模型或称函数关系，由此我们需要建立随机变量的数学模型或称函数关系，这里函数关系在概率统计中就叫分布函数（或称概率这里函数关系在概率统计中就叫分布函数（或称概率密度函数）。类似的，随机过程也是要研究密度函数）。类似的，随机过程也是要研究X X(t t)的变的变化规律，进而建立随机过程的数学模型或函数关系，下面化规律，进而建立随机过程的数学模型或函数关系，下面我们来分析如何建立所谓

24、随机过程的函数关系。我们来分析如何建立所谓随机过程的函数关系。对于一个随机过程对于一个随机过程X X(t t)，严格地说我们不能在图上用一条，严格地说我们不能在图上用一条曲线简单地表示一个过程，因为按随机过程的定义，该随曲线简单地表示一个过程，因为按随机过程的定义，该随机过程可表为：机过程可表为：第19页，此课件共30页哦为了研究随机过程的变化规律，我们暂且假定随机过为了研究随机过程的变化规律，我们暂且假定随机过程可以在图上用一条曲线来表示，如图程可以在图上用一条曲线来表示，如图1.41.4。当然这条曲线不能作为具体的样本函数，而应把它看作当然这条曲线不能作为具体的样本函数，而应把它看作全部可

25、能样本函数的集合。全部可能样本函数的集合。图1.4第20页，此课件共30页哦现在我们动用记录器来记录现在我们动用记录器来记录X X(t t)的变化过程，由于记录的变化过程，由于记录器不可能连续地记下过程，而只能记下过程器不可能连续地记下过程，而只能记下过程X X(t t)在确定在确定时刻下的状态。时刻下的状态。前面已讲过，在确定的时刻前面已讲过，在确定的时刻t t上，随机过程变成为通上，随机过程变成为通常的随机变量，于是记录器在时刻，就记录下相应的常的随机变量，于是记录器在时刻，就记录下相应的结果。显然，当记录器的速度相当快时，即时间间隔结果。显然，当记录器的速度相当快时，即时间间隔很小（或很

26、小（或n n很大）时，我们可用这很大）时，我们可用这n n个随机变量的变化个随机变量的变化来描述随机过程的变化规律。来描述随机过程的变化规律。这样，在一定的近似程度下，我们可以通过研究多维这样，在一定的近似程度下，我们可以通过研究多维随机变量的变化规律，即分布函数关系来代替研究随随机变量的变化规律，即分布函数关系来代替研究随机过程的变化规律，由此进而建立起近似随机过程的机过程的变化规律，由此进而建立起近似随机过程的数学模型。数学模型。第21页，此课件共30页哦定义一维分布函数：对于随机过程定义一维分布函数：对于随机过程X X(t t)，当取定，当取定 时，时，为随机变量，该随机变量为随机变量，

27、该随机变量X X(t t1)1)的分布函数的分布函数记为记为则称则称 为随机过程为随机过程X X(t t)的一维分布函数。的一维分布函数。同随机变量一样，若同随机变量一样，若 对对x x1 1的偏导数存在，则的偏导数存在，则有有这里称 为随机过程的一维概率密度。第22页，此课件共30页哦例例1.1 1.1 求随机过程求随机过程 的一维概率密度函数，式中的一维概率密度函数，式中 是常数，是常数，x x是一个服从标准正态分布的随机变量。是一个服从标准正态分布的随机变量。解解 对于任意取定时间对于任意取定时间 是一个随机是一个随机变量，由随机过程的一维分布函数及一维概率密度变量，由随机过程的一维分布

28、函数及一维概率密度函数定义知函数定义知又 第23页，此课件共30页哦注意，的二元函数，又可称为是 时刻的状态 第24页，此课件共30页哦结合概率统计知识，显然随机过程结合概率统计知识，显然随机过程X X(t t)的一维分布函数、的一维分布函数、一维概率密度具有普遍随机变量分布函数和概率密度一维概率密度具有普遍随机变量分布函数和概率密度函数的各种性质。惟一的差别是随机过程的一维分布函数的各种性质。惟一的差别是随机过程的一维分布函数和一维密度都是时间函数和一维密度都是时间t t的函数，即是一个动态的分布的函数，即是一个动态的分布函数和概率密度。函数和概率密度。由上面的分布知随机过程的一维分布函数仅

29、仅描述了由上面的分布知随机过程的一维分布函数仅仅描述了随机过程随机过程X X(t t)在在t=t=(t1t1)时刻所对应的一个状态时刻所对应的一个状态X X(t1t1)的的变化规律。显然此时由随机过程的一维分布函数来变化规律。显然此时由随机过程的一维分布函数来近似描述近似描述X X(t t)的变化规律，其数学模型误差太大。的变化规律，其数学模型误差太大。为了比较全面地描述随机过程为了比较全面地描述随机过程X X(t t)的变化规律，我们引的变化规律，我们引入随机过程的二维分布函数。入随机过程的二维分布函数。第25页，此课件共30页哦定义随机过程的二维分布函数：定义随机过程的二维分布函数：对于随

30、机过程对于随机过程X X(t t)在任意两个时刻在任意两个时刻 两个随两个随机变量（两个状态），我们把这两个随机变量的二维分布机变量（两个状态），我们把这两个随机变量的二维分布函数记为：函数记为：称 为随机函数过程X(t)的二维分布函数。若 对 的二阶偏异数存在，则有称之为随机过程X(t)的二维概率密度。第26页，此课件共30页哦随机过程的二维分布函数比一维分布函数包含了随机随机过程的二维分布函数比一维分布函数包含了随机过程变化规律更多的信息，但它仍不能完整地反映出过程变化规律更多的信息，但它仍不能完整地反映出随机过程的全部特性及变化规律。用同样的方法，我随机过程的全部特性及变化规律。用同样的

31、方法，我们可以引入随机过程们可以引入随机过程X X(t t)的的n n维分布函数和维分布函数和n n维概率密度。维概率密度。显然，当n取得愈大，随机过程X(t)的n维分布函数就愈能描述随机过程的变化规律及其统计特性。第27页，此课件共30页哦还需要指出，在实际工程中还会遇到需要同时研究两还需要指出，在实际工程中还会遇到需要同时研究两个或两上以上随机过程的变化规律，如商店每天营业个或两上以上随机过程的变化规律，如商店每天营业额额MM(t t)和顾客流量和顾客流量Q Q(t t)相互间的关系及其变化规律。类相互间的关系及其变化规律。类似地，我们可引入两个随机过程似地，我们可引入两个随机过程X X(

32、t t)，Y Y(t t)的联合分布函的联合分布函数与联合概率密度函数定义。数与联合概率密度函数定义。同理，第28页，此课件共30页哦仿概率统计的性质 性质性质1.11.1 若若 相互独立，则相互独立，则这里我们要告诉大家在实际工程中，要想通过将这里我们要告诉大家在实际工程中，要想通过将n n取取得很在来得到过程的我维分布函数进而用多维分布函得很在来得到过程的我维分布函数进而用多维分布函数作为数作为X X(t t)的数学模型，理论上可行，但实际操作很复的数学模型，理论上可行，但实际操作很复杂。杂。第29页，此课件共30页哦习题一1.1.若随机过程若随机过程 ，式中，式中A A为（为（0 0，1 1）上均匀分布的随机变量，求）上均匀分布的随机变量，求X X(t t)的一维概率的一维概率密度密度 。2.2.设随机过程设随机过程 ，其中振幅，其中振幅A A及角频及角频率率 均为常数，相位均为常数，相位 是在是在 上服从均匀分布的上服从均匀分布的随机变量，求随机变量，求X X(t t)的一维分布。的一维分布。第30页，此课件共30页哦