2022年随机过程知识点汇总3.docx

精选学习资料 - - - - - - - - - 第一章随机过程的基本概念与基本类型名师总结优秀学问点一随机变量及其分布1随机变量 X , 分布函数FxPXxPXxk分布函数Fx ftp k离散型随机变量X的概率分布用分布列pk连续型随机变量X 的概率分布用概率密度fx分布函数FxXnxdt2n 维随机变量XX1,X2,XnX1x 1,X2x2,x n,其联合分布函数FxFx 1,x2,xnP离散型联合分布列连续型联合概率密度随机变量的数字特点数学期望：离散型随机变量XEXxkp k连续型随机变量XEXYxfx dx方差：DXEXEX2EX2EX2反映随机变量取值的离散程度不相关；协方差（两个随机变量X ,Y）：B XYEXEXYEYEXYEXEY相关系数（两个随机变量X,Y）：XYB XYDY如0,就称X ,DX独立不相关0x dx特点函数gtEitX e离散g te itx pk连续gtitx ef重要性质：g0 1,gt1,gtgt,gk0ikEXk常见随机变量的分布列或概率密度、期望、方差分布PP Xk1 Cp,PXk0qEXpDXp q二项分布XkpkqnEXnpDXnpqnk泊松分布NPX2kfek.1EXxa2DXa匀称分布略2第 1 页,共 15 页正态分布a,xe22EXDX2名师归纳总结 - - - - - - -精选学习资料 - - - - - - - - - 指数分布fx ex,x0x,名师总结优秀学问点1BEX1DX0 ,x02维正态随机变量XX1,X2,Xn的联合概率密度XNa ,fx 1,x 2,xn11exp1xa TB1xan222|B|2aa 1,a2,an,xx 1,x2,n,Bijbnn正定协方差阵二随机过程的基本概念随机过程的一般定义设 , P 是概率空间, T 是给定的参数集, 如对每个 t T,都有一个随机变量 X与之对应,就称随机变量族 X t , e , t T 是 , P 上的随机过程；简记为 X t , t T；含义： 随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性；另一方面,它是某种随机试验的结果,而试验显现的样本函数是随机的；当 t 固定时,Xt,e 是随机变量；当e固定时,Xt,e 时一般函数,称为随机过程的一个样本函数或轨道；分类：依据参数集T 和状态空间 I 是否可列,分四类；也可以依据Xt之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等；随机过程的分布律和数字特点用有限维分布函数族来刻划随机过程的统计规律性；随机过程Xt,tT的一维分布,二维分布, , n 维分布的全体称为有限维分布函数族；随机过程的有限维分布函数族是随机过程概率特点的完整描述；在实际中,要知道随机过程的全部有限维分布函数族是不行能的,因此用某些统计特点来取代；（）均值函数 mX t EX t 表示随机过程 X t , t T 在时刻 t 的平均值；（）方差函数 D X t E X t m X t 2表示随机过程在时刻 t 对均值的偏离程度；B X s , t E X s m X s X t m X t （）协方差函数 且有 B X t , t D X t E X s X t m X s m X t （）相关函数 RX s , t E X s X t 3 和4表示随机过程在时刻 s , t 时的线性相关程度；（）相互关函数：X t , t T,Y t , t T 是两个二阶距过程,就下式称为它们的互协方差函数；名师归纳总结 - - - - - - -第 2 页,共 15 页精选学习资料 - - - - - - - - - BXYs ,tEX名师总结优秀学问点tEXs Yt,称为相互关函数；smXs Ytm Yt,那么RXYs ,EXs YtmXs m Yt如EXs YtmXsm Yt,就称两个随机过程不相关；R Zs ,tE ZsZt复随机过程ZtXtjYt均值函数m ZtEXtjEY t方差函数DZtE |Ztm Zt|2E Ztm Z tZtm Z t协方差函数B Zs ,tE Zsm Zs Ztm Z t相关函数E ZsZtm Zs m Zt常用的随机过程（）二阶距过程：实（或复）随机过程Xt,tT,如对每一个tT,都有EXt2（二阶距存在）,就称该随机过程为二阶距过程；（2）正交增量过程：设 X t , t T 是零均值的二阶距过程,对任意的 t 1 t 2 t 3 t 4 T,有E X t 2 X t 1 X t 4 X t 3 0,就称该随机过程为正交增量过程；2其协方差函数 B X s , t R X s , t X min s , t （3）独立增量过程： 随机过程 X t , t T,如对任意正整数 n 2,以及任意的 t 1 t 2 t n T,随机变量 X t 2 X t 1 , X t 4 X t 3 , , X t n X t n 1 是相互独立的, 就称 X t , t T 是独立增量过程；进一步,如 X t , t T 是独立增量过程,对任意 s t,随机变量 X t X s 的分布仅依靠于 t s,就称 X t , t T 是平稳独立增量过程；（ 4 ） 马 尔 可 夫 过 程 ： 如 果 随 机 过 程 X t , t T 具 有 马 尔 可 夫 性 , 即 对 任 意 正 整 数 n 及t 1 t 2 t n T,P X t 1 x 1 , , X t n 1 x n 1 0,都有P X t n x n X t 1 x 1 , , X t n 1 x n 1 P X t n x n X t n 1 x n 1,就就称 X t , t T是马尔可夫过程；（ 5 ） 正 态 过 程 ： 随 机 过 程Xt,tT, 如 对 任 意 正 整 数 n 及t1,t2,tnT,名师归纳总结 第 3 页,共 15 页- - - - - - -精选学习资料 - - - - - - - - - （Xt1,X名师总结优秀学问点n 维正态分布函数,就称t2Xnt）是n 维正态随机变量,其联合分布函数是Xt,tT是正态过程或高斯过程；（6）维纳过程：是正态过程的一种特别情形；设 W t , t 为实随机过程,假如, W 0 0；是平稳独立增量过程；对任意 s,增量 W t W s 服 从 正 态 分 布 , 即 W t W s N ,0 2t s 2 0； 就 称W t , t 为维纳过程,或布朗运动过程；另外：它是一个 Markov 过程；因此该过程的当前值就是做出其将来猜测中所需的全部信息；维纳过程具有独立增量；该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率；它在任何有限时间上的变化听从正态分布,其方差随时间区间的长度呈线性增加；（7）平稳过程：严 （ 狭 义 ） 平 稳 过 程 ：X t , t T, 如 果 对 任 意 常 数 和 正 整 数 n 及 t 1 , t 2 , , t n T,t 1 , t 2 , , t n T,（X t 1 , X t 2 X nt ）与（X t 1 , X t 2 X nt ）有相同的联合分布,就称 X t , t T 是严（狭义）平稳过程；广义平稳过程：随机过程 X t , t T,假如 X t , t T 是二阶距过程；对任意的 t T,mX t EX t 常数；对任意 s,t T,R X s , t E X s X t R X t s ,或仅与时间差t s 有关；就满意这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程；其次章 泊松过程一泊松过程的定义（两种定义方法）,设随机计数过程 X t t 0,其状态仅取非负整数值,如满意以下三个条件, 就称：X t , t T是 具有 参数 的 泊松 过程； X 0 0； 独立 增量 过程, 对 任 意正整 数 n , 以及任 意的t 1 t 2 t n T X t 2 X t 1 , X t 3 X t 2 , , X t n X t n 1 相互独立,即不同时间间隔的计数相互独立；在任一长度为 t的区间中,大事发生的次数听从参数 t 0 的的泊松分布,即n对任意 t s 0,有 P X t s X s n e t t n 0,1,n .E X t E X t t ,表示单位时间内时间发生的平均个数,也称速率或强度；t,设随机计数过程 X t t 0,其状态仅取非负整数值,如满意以下三个条件, 就称：X t , t 0名师归纳总结 第 4 页,共 15 页- - - - - - -精选学习资料 - - - - - - - - - 是 具 有 参 数名师总结0优秀学问点的 泊 松 过 程 ； X0； 独 立 、 平 稳 增 量 过 程 ； P X thX t 1ho h ；P X thX t 2o h 第三个条件说明,在充分小的时间间隔内,最多有一个大事发生,而不行能有两个或两个以上大事同时发生,也称为单跳性；二基本性质,数字特点 m X E X t t D X t R X , s t 1 s tt s 1 s tB X , R X , m X s m X min , 推导过程要特别熟识,T 表示第 n 1 大事发生到第 n 次大事发生的时间间隔,T n , n 1 是时间序列,随机变量 T nt t听从参数为 的指数分布；概率密度为 f t e , t 0,分布函数 F T n 1 e , t 0 均值0, t 0 0, t 0为 ET n 1证明过程也要很熟识 到达时间的分布 略三非齐次泊松过程 到达强度是 t 的函数P X t h X t 1 t h o h X 0 0；独立增量过程；不具有平稳增量P X t h X t 2 o h 性；均值函数mX E X t tt s dsXt s ds的非齐次泊松过程,就有0定理：X t ,t0是具有均值为mX 0PX ts X t nmXs m nexpmXts mX n.四复合泊松过程设N t ,t0是强度为的泊松过程,Y k,k1,2,是一列独立同分布的随机变量,且与N t ,t0独立,令X t N t 为复合泊松过程；Yk就称X t ,t0重 要 结 论 ：X t tk12 E Y 1, 就EX t E1 Y,0是 独 立 增 量 过 程 ； 如名师归纳总结 第 5 页,共 15 页- - - - - - -精选学习资料 - - - - - - - - - 名师总结优秀学问点时间和状态D X t tE Y 12马尔可夫链第五章泊松过程 是时间连续状态离散的马氏过程,维纳过程 是时间状态都连续的马氏过程；都离散的马尔可夫过程称为马尔可夫链；马尔可夫过程的特性：马尔可夫性或无后效性；即：在过程时刻0t 所处的状态为已知的条件下,过程在时刻t0t所处状态的条件分布与过程在时刻X0t 之前所处的状态无关；也就是说,将来只与现为在有x n关,而与过去无关；表示PXtnXt 1x 1,X tn1x n1P tnxnX tn1x n1一马尔可夫链的概念及转移概率1定义：设随机过程i0,Xn,n,T,对任意的整数nnT 和任意的i0, , n1,I ,条件概率满意P Xn1i n1X0X1i 1,XninP X1in1Xnin,就称XnnT为马尔可夫链；马尔可夫链的统计特性完全由条件概率 P X n 1 i n 1 X n i n 所打算；2转移概率 P X n 1 j X n i 相当于随机游动的质点在时刻 n 处于状态 i 的条件下,下一步转移到 j 的概率；记为 p ij n ；就 ijp P X n 1 j X n i 称为马尔可夫链在时刻 n 的一步转移概率；如齐次马尔可夫链,就 ijp n 与 n 无关,记为 p ；P p ij i j I I 1,2, 称为系统的一步转移矩阵；性质：每个元素 ijp 0,每行的和为 1；3n步转移概率ijp =P Xm nj Xmi；P p ij i jII1,2,称为n步转移矩阵；重要性质：p ij p ik p kjn l称为 CK 方程,证明中用到条件概率的乘法公式、马尔可夫k I性、齐次性；名师归纳总结 - - - - - - -第 6 页,共 15 页精选学习资料 - - - - - - - - - 名师总结 优秀学问点 P X m i X m n jp ij P X m n j X m iP X m iP X m i X m l k X m n j把握证明方法：k T P X m iP X m i X m l k X m n j P X m i X m l kk T P X m i X m l k P X m i n l n l p kj m l p ik p ik p kjk I k I P P n 说明 n 步转移概率矩阵是一步转移概率矩阵的 n 次乘方；4X n , n T 是马尔可夫链,称 jp P X 0 j 为初始概率,即 0 时刻状态为 j 的概率；称Tp j P X n j 为肯定概率,即 n 时刻状态为 j 的概率；P 0 p p 2 , 为初始概率向量,TP p n , p 2 , 为肯定概率向量； T T 定理： p j p p ij 矩阵形式：P P 0 P p j p n 1 p iji I i I定理：P X 1 i 1 , X 2 i 2 , , X n i n p p ii 1 p i n 1 i n 说明马氏链的有限维分布完全由它的初i I始概率和一步转移概率所打算；二马尔可夫链的状态分类1周期：自某状态动身,再返回某状态的全部可能步数最大公约数,即d GC D n p iin0；如d1,就称该状态是周期的；如d1,就称该状态是非周期的；i,2首中概率： ijfn表示由 i 动身经 n 步首次到达j 的概率；3fijfij 表示由 i 动身经最终（迟早要）到达j 的概率；n14假如iif1,就状态 i 是常返态；假如iif1,状态 i 是特别返（滑过）态；5infii 表示由 i 动身再返回到 i 的平均返回时间； 如i,就称 i 是正常返态； 如n1就称 i 是零常返态；非周期的正常返态是遍历状态；名师归纳总结 - - - - - - -第 7 页,共 15 页精选学习资料 - - - - - - - - - 6状态 i 是常返充要条件是n0p j名师总结优秀学问点；如 i ,；状态 i 是特别返充要条件是n0p 11fii；iiii7称状态 i 与 j 互通,ij,即i且ji；假如 ij ,就他们同为常返态或特别返态,j 同为常返态,就他们同为正常返态或零常返态,且i , j 有相同的周期；8状态 i 是遍历状态的充要条件是lim npn10；一个不行约的、非周期的、有限状态的马尔可iii夫链是遍历的；9要求：熟识定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态；三状态空间的分解1设 C 是状态空间 I 的一个闭集,假如对任意的状态 i C ,状态 j C ,都有 p ij 0（即从 i 动身经一步转移不能到达 j ）,就称 C 为闭集；假如 C 的状态互通,就称 C 是不行约的；假如状态空间不可约,就马尔可夫链 X n , n T 不行约；或者说除了 C 之外没有其他闭集,就称马尔可夫链X n , n T 不行约； 2 C 为闭集的充要条件是：对任意的状态 i C ,状态 j C ,都有 p ij 0；所以闭集的意思是自C 的内部不能到达 C 的外部；意味着一旦质点进入闭集 C 中,它将永久留在 C 中运动；假如 p ii 1,就状态 i 为吸取的；等价于单点 i 为闭集；3马尔可夫链的分解定理：任一马尔可夫链的状态空间I ,必可唯独地分解成有限个互不相交的子集 D C C 2 , C n 的和,每一个 C 都是常返态组成的不行约闭集； C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且 ijf 1； D 是由全体特别返态组成；分解定理说明：状态空间的状态可按常返与特别返分为两类,特别返态组成集合 D ,常返态组成一个闭集 C ；闭集 C 又可按互通关系分为如干个互不相交的基本常返闭集 C C 2 , C n；含义：一个马尔可夫链假如从 D 中某个特别返态动身,它或者始终停留在 D 中,或某一时刻进入某个基本常返闭集C ,一旦进入就永不离开；一个马尔可夫链假如从某一常返态动身,必属于某个基本常返闭集 C ,永久在该闭集 C 中运动；4有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合；性质：全部特别返态组成的集合不是闭集；没有零常返态；必有正常返态；状态空间IDC 1C2C , D 是特别返集合,C 1,C2,C 是正常返集合；第 8 页,共 15 页名师归纳总结 - - - - - - -精选学习资料 - - - - - - - - - 名师总结 优秀学问点不行约有限马尔可夫链只有正常返态；四 ijp的渐近性质与平稳分布nj X0i的极限分布,包含两个问题：一是lim np ij 1为什么要争论转移概率 p ijn的遍历性？争论 ijp当n时的极限性质,即P X是否存在；二是假如存在,是否与初始状态有关；这一类问题称作遍历性定理； 假如对 ,i j I ,存在不依靠于 i 的极限 lim n p ij p j 0,就称马尔可夫链具有遍历性； 一个不行约的马尔可夫链,假如它的状态是非周期的正常返态,就它就是一个遍历链；具有遍历性的马尔可夫链,无论系统从哪个状态动身,当转移步数 n 充分大时,转移到状态 j的概率都近似等于 p , 这时可以用 jp 作为 ijp 的近似值；2争论平稳分布有什么意义？判别一个不行约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过争论lim np ij 来解决,但求极限时困难的；所以,我们通过争论平稳分布是否存在来判别齐次马尔可夫链是否为遍历链；一 个不行约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布lim n p ij=1 ,jI ；I ,一步转移概率为ijp ,概率分布jjI称为j3Xn,n0是齐次马尔可夫链,状态空间为jipij马尔可夫链的平稳分布,满意iIj1jI4定理：不行约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1 ,jI ；推论： 有限状态的不行约非周期马尔可夫链必存在平稳分布；j5在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平 衡状态,此时系统各状态的概率分布不随时间而变,也不依靠于初始状态；6对有限马尔可夫链,假如存在正整数k ,使 p ijk0,即 k 步转移矩阵中没有零元素,就该链是遍历的 ；第六章 平稳随机过程 一定义（第一章）严平稳过程：有限维分布函数沿时间轴平移时不发生变化；名师归纳总结 - - - - - - -第 9 页,共 15 页精选学习资料 - - - - - - - - - 名师总结优秀学问点E X t 常数；相关函数只宽平稳过程：满意三个条件：二阶矩过程2 E X t ；均值为常数与时间差有关,即R X , t tEX t X tR X ；宽平稳过程不肯定是严平稳过程,而严平稳过程肯定是宽平稳过程；二联合平稳过程及相关函数的性质1定义：设 X t t T 和 X t t T 是两个平稳过程, 如它们的 相互关函数 E X t Y t 及E Y t X t 仅与时间差 有关 ,而与起点 t 无关,就称 X t 和 Y t 是联合平稳随机过程；即,R XY , t t E X t Y t R XY R YX , t t E Y t X t R YX 当然, 当两个平稳过程联合平稳时,其和也是平稳过程；相关函数的性质： R X 0 0； R X R X ,对于实平稳过程,R X 是偶函数；R X R X 0 非负定；如 X t 是周期的,就相关函数 R X 也是周期的,且周期相同；如果 X t 是不含周期重量的非周期过程,X t 与 X t 相互独立,就 lim R X m m X；联 合 平 稳 过 程 X t 和 Y t 的 互 相 关 函 数 ,R XY R X 0 R Y 0,R YX R X 0 R Y 0；R XY R YX ；X t 和 Y t 是实联合平稳过程时,就,R XY R YX ；三随机分析 略四平稳过程的各态历经性时间均值 X t l i mT 2 1T TT X t dt时间相关函数 X t X t l i m T 2 1T TT X t X t dt假如 X t E X t m X t 以概率成立,就称均方连续的平稳过程的均值有各态历经性；假如 X t X t E X t X t R X 以概率成立,就称均方连续的平稳过程的相关函数有各态历经性；假如均方连续的平稳过程的均值和相关函数都有各态历经性,历的；就称该平稳过程是各态历经的或遍一方面说明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也说明E X t 与E X t X t必定与 t 无关,即各态历经过程必是平稳过程；争论平稳过程的历经性,就是争论能否在较宽松的条件下,用一个样本函数去近似运算平稳过程名师归纳总结 - - - - - - -第 10 页,共 15 页精选学习资料 - - - - - - - - - 名师总结 优秀学问点的均值、协方差函数等数字特点,即用时间平均代替统计平均；具有各态历经性；只在肯定条件下的平稳过程,才均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是T lim12T12 TR X m X2d02 T2 T相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是T lim1 2 T2T11B1R X2 d0B 1E X t X tX t1X t12 T2 T第七章平稳过程的谱分析一平稳过程的谱密度推导过程：随机过程X t ,tF为均方连续过程,作截尾处理XT X t ,tT,由于XT t 均方0,tT可积,所以存在FT,得 , XT t ej t dtTX t ejt dt,利用 paserval 定理及 IFT 定义T得X T2 t dtTX2 t dt1F ,T2d该式两边都是随机变量,取平均值,这时不仅要dT2对时间区间 T T 取,仍要取概率意义下的统计平均,即lim TE1TX2 dtlim T1E1F,T2d1lim T1EF,T22 TT22 T22 T定义2lim TE1TX2 dt为X t ,t平均功率；2 TTs X lim T 2 1T E F , T 2为 X t , t 功率谱密度,简称谱密度；可以推出当 X t , t 是均方连续平稳过程 时,有2lim T E2 1T TT X 2 dt lim T 2 1T TT E X 2 E X 2 R X 02 1 s X d 说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上2的积分；平稳过程的谱密度和相关函数构成 FT 对；名师归纳总结 第 11 页,共 15 页- - - - - - -精选学习资料 - - - - - - - - - R X 1s X ejdsX名师总结优秀学问点FT 对RX ej d2如平稳随机序列Xn,n0, 1, 2,sX,就其谱密度和相关函数构成R X 1s X ej ndR Xn ej n2n