概率论与数理统计随机过程PPT学习教案.pptx

会计学1概率论与数理统计随机概率论与数理统计随机(su j)过程过程第一页，共128页。2 随 机 过 程第1页/共128页第二页，共128页。3关键词：随机过程 状态和状态空间 样本函数 有限(yuxin)维分布函数 均值函数 方差函数 自相关函数自协方差函数 互相关函数互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程第十章第十章 随机过程及其随机过程及其统计统计(tngj)描述描述第2页/共128页第三页，共128页。41 随机随机(su j)过程的过程的概念概念 随机过程被认为是概率论的随机过程被认为是概率论的“动力学动力学”部分，即它的研究部分，即它的研究(ynji)(ynji)对象是随时间演变的随机现象，它是从多维随机变量向对象是随时间演变的随机现象，它是从多维随机变量向一族一族(无限多个无限多个)随机变量的推广。随机变量的推广。给定一随机试验给定一随机试验E E，其样本空间，其样本空间S=eS=e，将样本空间中的每一，将样本空间中的每一元作如下对应，便得到一系列结果：元作如下对应，便得到一系列结果：第3页/共128页第四页，共128页。5 一维、二维或一般的多维随机变量的研究是概率论的研一维、二维或一般的多维随机变量的研究是概率论的研究内容，而随机序列、随机过程则是随机过程学科的研究内究内容，而随机序列、随机过程则是随机过程学科的研究内容。从前面容。从前面(qin mian)(qin mian)的描述中看到，它的每一样本点所的描述中看到，它的每一样本点所对应的，是一个数列或是一个关于对应的，是一个数列或是一个关于t t的函数。的函数。第4页/共128页第五页，共128页。6 例例1 1：抛掷：抛掷(pozh)(pozh)一枚硬币的试验，样本空间是一枚硬币的试验，样本空间是S=H,TS=H,T，现定义：，现定义：1234第5页/共128页第六页，共128页。7 第6页/共128页第七页，共128页。8 第7页/共128页第八页，共128页。9 第8页/共128页第九页，共128页。例例5 5：考虑：考虑(kol)(kol)抛掷一颗骰子的试验：抛掷一颗骰子的试验：第9页/共128页第十页，共128页。11随机过程的分类：随机过程的分类：随机过程的分类：随机过程的分类：随机过程可根据随机过程可根据随机过程可根据随机过程可根据(gnj)(gnj)(gnj)(gnj)参数集参数集参数集参数集T T T T和任一时刻的状态分为四类，和任一时刻的状态分为四类，和任一时刻的状态分为四类，和任一时刻的状态分为四类，参数集参数集参数集参数集T T T T可分为离散集和连续集两种情况，任一时刻的状态分别为离可分为离散集和连续集两种情况，任一时刻的状态分别为离可分为离散集和连续集两种情况，任一时刻的状态分别为离可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随机变量和连续型随机变量两种：散型随机变量和连续型随机变量两种：散型随机变量和连续型随机变量两种：散型随机变量和连续型随机变量两种：连续参数连续型的随机过程，如例连续参数连续型的随机过程，如例连续参数连续型的随机过程，如例连续参数连续型的随机过程，如例2 2 2 2，例，例，例，例3 3 3 3连续参数离散型的随机过程，如例连续参数离散型的随机过程，如例连续参数离散型的随机过程，如例连续参数离散型的随机过程，如例1 1 1 1，例，例，例，例4 4 4 4离散参数离散型的随机过程，如例离散参数离散型的随机过程，如例离散参数离散型的随机过程，如例离散参数离散型的随机过程，如例5 5 5 5离散参数连续型的随机过程，离散参数连续型的随机过程，离散参数连续型的随机过程，离散参数连续型的随机过程，第10页/共128页第十一页，共128页。122 随机过程随机过程(guchng)的统计描的统计描述述第11页/共128页第十二页，共128页。13 例例1 1：抛掷一枚硬币：抛掷一枚硬币(yngb)(yngb)的试验，定义一随机过程：的试验，定义一随机过程：第12页/共128页第十三页，共128页。14 例例1 1：抛掷一枚硬币的试验，定义：抛掷一枚硬币的试验，定义(dngy)(dngy)一随机过程：一随机过程：1234第13页/共128页第十四页，共128页。15 第14页/共128页第十五页，共128页。16(二二)随机过程的数字随机过程的数字(shz)特征特征第15页/共128页第十六页，共128页。17第16页/共128页第十七页，共128页。18 第17页/共128页第十八页，共128页。19 第18页/共128页第十九页，共128页。20 续续第19页/共128页第二十页，共128页。21第20页/共128页第二十一页，共128页。22(三三)二维随机过程的分布函数二维随机过程的分布函数(hnsh)和数字特征和数字特征第21页/共128页第二十二页，共128页。23第22页/共128页第二十三页，共128页。24 第23页/共128页第二十四页，共128页。253 泊松过程泊松过程(guchng)及维纳过及维纳过程程(guchng)第24页/共128页第二十五页，共128页。26 独立增量独立增量(zn lin)过程的性质：过程的性质：第25页/共128页第二十六页，共128页。27第26页/共128页第二十七页，共128页。28(一一)泊松分布泊松分布(fnb)(fnb)等间隔的不等间隔的第27页/共128页第二十八页，共128页。29第28页/共128页第二十九页，共128页。30续续第29页/共128页第三十页，共128页。31证毕证毕第30页/共128页第三十一页，共128页。32第31页/共128页第三十二页，共128页。33第32页/共128页第三十三页，共128页。34第33页/共128页第三十四页，共128页。35第34页/共128页第三十五页，共128页。36第35页/共128页第三十六页，共128页。37 定理一：强度为定理一：强度为的泊松流的泊松流(泊松过程泊松过程)的点间间距是相互独立的随的点间间距是相互独立的随 机变量，且服从同一指数分布机变量，且服从同一指数分布 定理二：如果任意相继出现的两个质点的点间间距是相互独立，定理二：如果任意相继出现的两个质点的点间间距是相互独立，且服从同一个指数分布：且服从同一个指数分布：这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数(j(j sh)sh)过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数分布。数分布。则质点流构成强度为 的泊松过程第36页/共128页第三十七页，共128页。38(二二)维纳过程维纳过程(guchng)(guchng)维纳过程是布朗运动的数学模型维纳过程是布朗运动的数学模型维纳过程是布朗运动的数学模型维纳过程是布朗运动的数学模型 以以以以W(t)W(t)W(t)W(t)表示运动中一微粒从时刻表示运动中一微粒从时刻表示运动中一微粒从时刻表示运动中一微粒从时刻t=0t=0t=0t=0到时刻到时刻到时刻到时刻t0t0t0t0的位移的位移的位移的位移的横坐标，且设的横坐标，且设的横坐标，且设的横坐标，且设W(0)=0W(0)=0W(0)=0W(0)=0。由于微粒的运动是受到大量随机。由于微粒的运动是受到大量随机。由于微粒的运动是受到大量随机。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是的、相互独立的分子碰撞的结果，于是的、相互独立的分子碰撞的结果，于是的、相互独立的分子碰撞的结果，于是:粒子在时段粒子在时段粒子在时段粒子在时段(s,t(s,t(s,t(s,t上的位移可看作是许多微小位移的上的位移可看作是许多微小位移的上的位移可看作是许多微小位移的上的位移可看作是许多微小位移的 和，和，和，和，根据中心极限定理，假设位移根据中心极限定理，假设位移根据中心极限定理，假设位移根据中心极限定理，假设位移W(t)-W(s)W(t)-W(s)W(t)-W(s)W(t)-W(s)服从正服从正服从正服从正态态态态分布是合理的。分布是合理的。分布是合理的。分布是合理的。(2)(2)(2)(2)由于粒子的运动完全由液体分子不规则碰撞而引起由于粒子的运动完全由液体分子不规则碰撞而引起由于粒子的运动完全由液体分子不规则碰撞而引起由于粒子的运动完全由液体分子不规则碰撞而引起的，的，的，的，这样，在不相重叠的时间间隔内，碰撞的次数、这样，在不相重叠的时间间隔内，碰撞的次数、这样，在不相重叠的时间间隔内，碰撞的次数、这样，在不相重叠的时间间隔内，碰撞的次数、大大大大小小小小(dxio)(dxio)(dxio)(dxio)和方向可假设相互独立，即和方向可假设相互独立，即和方向可假设相互独立，即和方向可假设相互独立，即W(t)W(t)W(t)W(t)具有独立增量，具有独立增量，具有独立增量，具有独立增量，同时同时同时同时W(t)W(t)W(t)W(t)的增量具有平稳性。的增量具有平稳性。的增量具有平稳性。的增量具有平稳性。第37页/共128页第三十八页，共128页。39第38页/共128页第三十九页，共128页。40第39页/共128页第四十页，共128页。41第40页/共128页第四十一页，共128页。42关键词：无后效性(马尔可夫性)齐次马尔可夫链 n步转移概率 n步转移概率矩阵 C-K方程 马氏链的有限维分布律 遍历性 极限(jxin)分布(平稳分布)第十一章第十一章 马尔可夫链马尔可夫链第41页/共128页第四十二页，共128页。1 马尔可夫过程马尔可夫过程(guchng)及其概率及其概率分布分布马尔可夫性(无后效性)过程(或系统)在时刻t0所处的状态(zhungti)为已知的条件下，过程在时刻tt0所处状态(zhungti)的条件分布与过程在时刻t0之前所处的状态(zhungti)无关。通俗地说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。第42页/共128页第四十三页，共128页。44 证毕！证毕！第43页/共128页第四十四页，共128页。45由上例知，泊松过程是时间连续状态离散的马氏过程，由上例知，泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链，简称马氏链，时间和状态都离散的马尔可夫过程称为马尔可夫链，简称马氏链，记为：记为：Xn=X(n),n=0,1,2,Xn=X(n),n=0,1,2,参数参数(cnsh)(cnsh)集集T=0,1,2,T=0,1,2,，记链的状态空间为：记链的状态空间为：第44页/共128页第四十五页，共128页。46 第45页/共128页第四十六页，共128页。47的状态XmXm+1的状态(zhungti)第46页/共128页第四十七页，共128页。48 例例2 2：(0-1(0-1传输系统传输系统)如图所示，只传输数字如图所示，只传输数字0 0和和1 1的串联系统中，设每一级的传真率为的串联系统中，设每一级的传真率为p p，误码率为，误码率为q=1-pq=1-p。并设一个单位时间传输一级，。并设一个单位时间传输一级，X0X0是第一级的输入，是第一级的输入，XnXn是第是第n n级的输出级的输出(n1)(n1)，那么，那么Xn,n=0,1,2Xn,n=0,1,2是一随机过程，是一随机过程，状态空间状态空间I=0,1I=0,1，而且当，而且当Xn=iXn=i为已知时，为已知时，Xn+1Xn+1所处的状态的概率所处的状态的概率分布只与分布只与Xn=iXn=i有关，而与时刻有关，而与时刻n n以前所处的状态无关，所以它是一个以前所处的状态无关，所以它是一个马氏链，而且还是齐次的，它的一步马氏链，而且还是齐次的，它的一步(y b)(y b)转移概率和一步转移概率和一步(y b)(y b)转移概率矩阵转移概率矩阵分别为：分别为：n21X0X1X2XnXn-1第47页/共128页第四十八页，共128页。49 例例3 3：一维随机游动。设一醉汉：一维随机游动。设一醉汉Q(Q(或看作一随机游动的或看作一随机游动的 质点质点(zhdin)(zhdin)在直线上的点集在直线上的点集I=1,2,3,4,5I=1,2,3,4,5作随机游动，作随机游动，且仅在且仅在1 1秒、秒、2 2秒等时刻发生游动，游动的概率规则秒等时刻发生游动，游动的概率规则 是：如果是：如果Q Q现在位于点现在位于点i(1i5)i(1i0),Xn(n0)表示经表示经n n次交换次交换 后甲盒中的红球数后甲盒中的红球数.(1)(1)求此马氏链的初始分布求此马氏链的初始分布;(2)(2)求一步转移概率求一步转移概率(gil(gil)矩阵矩阵;(3)(3)计算计算 ;(4)(4)判断此链是否具有遍历性，若有，判断此链是否具有遍历性，若有，求出极限分布。求出极限分布。第73页/共128页第七十四页，共128页。75第74页/共128页第七十五页，共128页。76第75页/共128页第七十六页，共128页。77关键词：(宽)平稳过程 时间均值(jn zh)时间相关函数 各态历经性 谱密度第十二章第十二章 平稳随机平稳随机(su j)过程过程第76页/共128页第七十七页，共128页。781 1 平稳平稳(pngwn)(pngwn)随随机过程的概念机过程的概念第77页/共128页第七十八页，共128页。79第78页/共128页第七十九页，共128页。80第79页/共128页第八十页，共128页。81第80页/共128页第八十一页，共128页。82 第81页/共128页第八十二页，共128页。83 第82页/共128页第八十三页，共128页。84 第83页/共128页第八十四页，共128页。85 第84页/共128页第八十五页，共128页。86续续第85页/共128页第八十六页，共128页。87第86页/共128页第八十七页，共128页。882 2 各态各态历经历经(l(l jn)jn)性性 如何根据实验记录确定平稳过程的均值和自相关函数呢？如何根据实验记录确定平稳过程的均值和自相关函数呢？按照数学期望和自相关函数的定义，需要时，一个平稳按照数学期望和自相关函数的定义，需要时，一个平稳过程重复进行大量观察过程重复进行大量观察(gunch)(gunch)，获得一族样本函数，获得一族样本函数用统计实验方法，均值和自相关函数近似地为：用统计实验方法，均值和自相关函数近似地为：第87页/共128页第八十八页，共128页。89 平稳过程平稳过程(guchng)(guchng)的统计特性不随时间的推移而变化，的统计特性不随时间的推移而变化，根据这一特点，能否通过在一个很长时间内观察得到的根据这一特点，能否通过在一个很长时间内观察得到的一个样本曲线来估计平稳过程一个样本曲线来估计平稳过程(guchng)(guchng)的数字特征呢？的数字特征呢？本节给出的各态历经定理证实，只要满足某些条件，本节给出的各态历经定理证实，只要满足某些条件，那么均值和自相关函数实际上可以用一个样本函数在整个那么均值和自相关函数实际上可以用一个样本函数在整个时间轴上的平均值来代替。时间轴上的平均值来代替。第88页/共128页第八十九页，共128页。90第89页/共128页第九十页，共128页。91第90页/共128页第九十一页，共128页。92第91页/共128页第九十二页，共128页。93 第92页/共128页第九十三页，共128页。94第93页/共128页第九十四页，共128页。95第94页/共128页第九十五页，共128页。96 第95页/共128页第九十六页，共128页。97 第96页/共128页第九十七页，共128页。98第97页/共128页第九十八页，共128页。99第98页/共128页第九十九页，共128页。100续续第99页/共128页第一百页，共128页。101证毕！证毕！第100页/共128页第一百零一页，共128页。102第101页/共128页第一百零二页，共128页。103 见下页第102页/共128页第一百零三页，共128页。104第103页/共128页第一百零四页，共128页。105 各态历经定理的重要价值在于它从理论上给出了如下保证：一个平稳过程各态历经定理的重要价值在于它从理论上给出了如下保证：一个平稳过程X(t)X(t)，若，若0t+0t+，只要它满足各态历经性条件，便可以根据，只要它满足各态历经性条件，便可以根据“以概率以概率1 1成立成立”的的含义，从一次试验所得到含义，从一次试验所得到(d do)(d do)的样本函数的样本函数x(t)x(t)来确定该过程的均值和自相关来确定该过程的均值和自相关函数。函数。第104页/共128页第一百零五页，共128页。1063 3 相关函数相关函数(hnsh)(hnsh)的性质的性质 见下页第105页/共128页第一百零六页，共128页。107 见下页第106页/共128页第一百零七页，共128页。108第107页/共128页第一百零八页，共128页。109证毕证毕柯西施瓦兹不等式第108页/共128页第一百零九页，共128页。110 应用应用应用应用(yngyng)(yngyng)：第109页/共128页第一百一十页，共128页。111 第110页/共128页第一百一十一页，共128页。4 4 平稳平稳(pngwn)(pngwn)过过程的功率谱密度程的功率谱密度(一一一一)平稳过程平稳过程平稳过程平稳过程(guchng)(guchng)(guchng)(guchng)的功率的功率的功率的功率谱密度谱密度谱密度谱密度第111页/共128页第一百一十二页，共128页。第112页/共128页第一百一十三页，共128页。114第113页/共128页第一百一十四页，共128页。115第114页/共128页第一百一十五页，共128页。116第115页/共128页第一百一十六页，共128页。117第116页/共128页第一百一十七页，共128页。118(二二二二)谱密度谱密度谱密度谱密度(md)(md)(md)(md)的性的性的性的性质质质质第117页/共128页第一百一十八页，共128页。119第118页/共128页第一百一十九页，共128页。1 12 23 34 45 56 67 7表 12.1第119页/共128页第一百二十页，共128页。121 第120页/共128页第一百二十一页，共128页。122 第121页/共128页第一百二十二页，共128页。123第122页/共128页第一百二十三页，共128页。124 第123页/共128页第一百二十四页，共128页。125第124页/共128页第一百二十五页，共128页。126(三三三三)互谱密度互谱密度互谱密度互谱密度(md)(md)(md)(md)及其性质及其性质及其性质及其性质第125页/共128页第一百二十六页，共128页。127第126页/共128页第一百二十七页，共128页。2023/2/27课件结束(jish)!第127页/共128页第一百二十八页，共128页。