随机过程知识点(共19页).doc

《随机过程知识点(共19页).doc》由会员分享，可在线阅读，更多相关《随机过程知识点(共19页).doc（19页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精选优质文档-倾情为你奉上第一章：预备知识1.1概率空间随机试验，样本空间记为。定义1.1设是一个集合，F是的某些子集组成的集合族。如果（1）F；（2）F ，F； （3）若F ，则F；则称F为代数(Borel域)。(,F)称为可测空间，F中的元素称为事件。由定义易知：定义1.2 设(,F)是可测空间，P()是定义在上的实值函数。如果则称P是上的概率，（）称为概率空间，P(A)为事件A的概率。定义1.3 设（）是概率空间，如果对任意，有： 则称为独立事件族。1.2 随机变量及其分布随机变量X，分布函数，n维随机变量或n维随机向量，联合分布函数，是独立的。1.3随机变量的数字特征定义1.7 设随机

2、变量X的分布函数为，若，则称 为X的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes积分。 方差，为X、Y的协方差，而 为X、Y的相关系数。若则称X、Y不相关。 （Schwarz不等式）若则 1.4 特征函数、母函数和拉氏变换 定义1. 10 设随机变量的分布函数为F（x），称 为X的特征函数随机变量的特征函数具有下列性质：(1)1( 2 ) g (t)在 上一致连续。（3）(4)若是相互独立的随机变量，则的特征函数，其中是随机变量X的特征函数，.定义1 . 11 设 是n维随机变量，t = () 则称,为X的特征函数。定义1.12 设X是非负整数值随机变量，分布列 则称

3、为X的母函数。 1.5 n维正态分布 定义1.13 若n维随机变量的联合概率密度为 式中，是常向量，是正定矩阵，则称为n维正态随机变量或服从n维正态分布，记作。 可以证明，若，则的特征函数为 为了应用的方便，下面，我们不加证明地给出常用的几个结论。 性质1 若则。 性质2 设，若正定，则。即正态随机变量的线性变换仍为正态随机变量。性质3 设是四维正态随机变量，则 1.6 条件期望 给定Y=y时，X的条件期望定义为由此可见除了概率是关于事件Y=y的条件概率以外，现在的定义与无条件的情况完全一样。 E(X|Y=y)是y的函数，y是Y的一个可能值。若在已知Y的条件下，全面地考虑X的均值，需要以Y代替

4、y，E(X|Y)是随机变量Y的函数，也是随机变量，称为 X在 Y下的条件期望。 条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。 性质 若随机变量X与Y的期望存在，则 -(1) 如果Y是离散型随机变量，则上式为如果Y是连续型，具有概率密度f(x)，则（1）式为第二章 随机过程的概念与基本类型2.1 随机过程的基本概念定义2.1 设（）是概率空间,T是给定的参数集,若对每个tT，有一个随机变量X(t,e)与之对应，则称随机变量族是（）的随机过程,简记为随机过程。T称为参数集，通常表示时间。通常将随机过程解释为一个物理系统。X(t)表示在时刻t所处的状态

5、。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。从数学的观点来说，随机过程是定义在T上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程的一个样本函数或轨道，样本函数的全体称为样本函数的空间。 2.2 随机过程的函数特征=X(t),tT 的有限维分布函数族。有限维特征函数族：其中：定义2.3 设=X(t),tT 的均值函数，。二阶矩过程，协方差函数：相关函数： 定义2.4 设X(t),tT ，Y(t),tT 是两个二阶矩过程，互协方差函数，互相关函数。 2.3 复随机过程 定义 2.5 设，是取实数值的两个随机过程，若对任意 ，其中 ，则称为复随机过程

6、定理 2.2 复随机过程的协方差函数 具有性质 （1）对称性：；（2）非负定性2.4 几种重要的随机过程一、正交增量过程定义2.6 设是零均值的二阶矩过程，若对任意的有公式，则称正交增量过程。二、独立增量过程定义2.7 设是随机过程，若对任意的正整数和随机变量是互相独立的，则称是独立增量过程，又称可加过程。定义 2.8 设是平稳独立增量过程，若对任意随机变量的分布仅依赖于，则称是平稳独立增量过程。三、马尔可夫过程定义2.9设为随机过程，若对任意正整数n及,，且其条件分布=，(2.6) 则称为马尔可夫过程。四、正态过程和维纳过程定义 2.10设是随机过程，若对任意正整数n和,(,)是n维正态随机

7、变量，则称是正态过程或高斯过程。定义 2.11设为随机过程，如果（1）；（2）它是独立、平稳增量过程；（3）对，增量，则称为维纳过程，也称布朗运动过程。定理 2.3 设是参数为的维纳过程，则（1） 任意t,；（2） 对任意,特别： 。五、平稳过程定义 2.12 设是随机过程，如果对任意常数和正整数当时，与有相同的联合分布，则称为严平稳过程，也称狭义平稳过程。定义 2.13 设是随机过程，如果（1）是二阶矩过程；（2）对于任意常数；（3）对任意的，则称为广义平稳过程，简称为平稳过程。若T为离散集，则称平稳过程为平稳序列。第三章 泊松过程.1 泊松过程的定义和例子 定义3.1 计数过程 定义3.2

8、 称计数过程为具有参数0的泊松过程，若它满足下列条件 (1) X(0)= 0； (2) X(t)是独立增量过程； (3) 在任一长度为t的区间中，事件A发生的次数服从参数t0的泊松分布，即对任意s,t0，有 注意，从条件(3)知泊松过程是平稳增量过程且。由于，表示单位时间内事件A发生的平均个数，故称为此过程的速率或强度。 定义3.3 称计数过程为具有参数0的泊松过程，若它满足下列条件 (1) X(0)= 0； (2) X(t)是独立、平稳增量过程；(3) X(t) 满足下列两式： (3.2) 定理3.1 定义3.2与定义3.3是等价的。3.2 泊松过程的基本性质一、数字特征设是泊松过程， 一般

9、泊松过程的有。有特征函数定义，可得泊松过程的特征函数为 二、时间间隔与等待时间的分布为第n次事件A出现的时刻或第n次事件A的等待时间，是第n个时间间隔，它们都是随机变量。 定理3.2 设是具有参数的泊松分布，是对应的时间间隔序列，则随机变量是独立同分布的均值为的指数分布。 定理3.3 设是与泊松过程对应的一个等待时间序列，则服从参数为n与的分布，其概率密度为 三、到达时间的条件分布 定理3.4 设是泊松过程，已知在0,t内事件A发生n次，则这n次到达时间与相应于n个0,t上均匀分布的独立随机变量的顺序统计量有相同的分布。3.3 非齐次泊松过程定义3.4 称计数过程为具有跳跃强度函数的非齐次泊松

10、过程，若它满足下列条件：(1) ；(2) 是独立增量过程；(3) 非齐次泊松过程的均值函数为：定理3.5 设是具有均值函数的非齐次泊松过程，则有或 上式表明不仅是的函数，也是的函数。3.4 复合泊松过程定义3.5 设是强度为的泊松过程，是一列独立同分布随机变量，且与独立，令则称为复合泊松过程。 定理3.6 设是复合泊松过程，则（1）。是独立增量过程；（2）X(t)的特征函数，其中是随机变量的特征函数；是事件的到达率。（3）若则第4章 马尔可夫链4.1 马尔可夫链的概念及转移概率 一、马尔可夫键的定义 定义1 设有随机过程，若对于任意的整数和任意的，条件概率满足则称为马尔可夫链，简称马氏链。二、

11、转移概率定义2 称条件概率为马尔可夫链在时刻n的一步转移概率，其中，简称为转移概率。 定义 3 若对任意的，马尔可夫链的转移概率与n无关，则称马尔可夫链是齐次的，并记为。定义4 称条件概率为马尔可夫链的n步转移概率， 定理 1 设为马尔可夫链，则对任意整数和，n步转移概率具有下列性质：定义5 设为马尔可夫链，称为的初始概率和绝对概率，并分别称和为的初始分布和绝对分布，简记为和。定理2 设为马尔可夫链，则对任意和，绝对概率具有下列性质：定理3 设为马尔可夫链，则对任意和，有4.2 马尔可夫链的状态分类一、状态分类假设是齐次马尔可夫链，其状态空间，转移概率是, 初始分布为 。定义4.6 如集合非空

12、，则称该集合的最大公约数为状态的周期。如就称为周期的，如就称为非周期的。（若对每一个不可被整除的，有=0，且是具有此性质的最大正整数，则称为状态的周期。）引理4.1 如的周期为d，则存在正整数M，对一切，有。定义 对记 （4.15）称是系统在0时从出发经过步转移后首次到达状态的概率，而则是在0时从出发，系统在有限步转移内不可能到达状态的概率。我们将和统称为首达概率（又称首中概率）。引理 （1） （2） 首达概率可以用一步转移概率来表示： 定义4.7 若=1，则称状态为常返的；若0， 若有 ，则称二阶矩随机序列依概率收敛于二阶矩随机变量X(e)，记作。4、均方收敛设有二阶矩随机序列和二阶矩随机变

13、量X，若有 (6.3)成立，则称均方收敛，记作。注：(6.3)式一般记为或。5、依分布收敛设有二阶矩随机序列和二阶矩随机变量X，若相应的分布函数列，在X的分布函数F(x)的每一个连续点处，有则称二阶矩随机序列依分布收敛于二阶矩随机变量X，记作对于以上四种收敛定义进行比较，有下列关系：(1) 若，则(2) 若，则(3) 若，则定理2 二阶矩随机序列收敛于二阶矩随机变量X的充要条件为定理3 设都是二阶矩随机序列，U为二阶矩随机变量，为常数序列，a，b，c为常数。令，。则（1） ；（2） ；（3） ；（4） ；（5） ；（6） ；特别有。定理4 设为二阶矩随机序列，则均方收敛的充要条件为下列极限存在

14、。二、均方连续定义 设有二阶矩过程，若对，有，则称在点均方连续，记作。若对T中一切点都均方连续，则称在T上均方连续。定理（均方连续准则）二阶矩过程在t点均方连续的充要条件为相关函数。推论 若相关函数在上连续，则它在TT上连续三、均方导数定义7 设是二阶矩过程，若存在一个随机过程，满足类似的有称为在的广义二阶导数，记为定理6 均方可微准则 二阶矩过程在t点均方可微的充要条件为相关函数的广义二阶导数存在。推论1 二阶矩过程在T上均方可微的充要条件为相关函数在上每一点广义二阶可微。推论2 若在上每一点广义二阶可微，则在T上以及在上存在，且有 四、均方积分定义8 如果时，均方收敛于，即，则称在上均方可

15、积，并记为定理7 （均方可积准则）在区间上均方可积的充要条件为存在。特别的，二阶矩过程在上均方可积的充要条件为在上可积。定理8 设在区间上均方可积，则有(1) 特别有 (2) 特别的有 。定理9 设二阶矩过程在上均方连续，则在均方意义下存在，且随机过程在上均方可微，且有。推论 设均方可微，且均方连续，则特别有4 平稳过程的各态历经性定义9 设为均方连续的平稳过程，则分别称为该过程的时间均值和时间相关函数。定义10 设是均方连续的平稳过程，若，即以概率1成立，则称该平稳过程的均值具有各态历经性。若，即以概率1成立，则称该平稳过程的相关函数具有各态历经性。 定义11 如果均方连续的平稳过程的均值和

16、相关函数都具有各态历经性，则称该平稳过程为具有各态历经性或遍历性。 定理 10 设是均方连续的平稳过程，则它的均值具有各态历经性的充要条件为 (6.9)定理6.11 设为均方连续的平稳过程，则其相关函数具有各态历经性的充要条件为 (6.15)其中 (6.16)定理6.12 对于均方连续平稳过程，等式以概率1成立的充要条件为若为实平稳过程，则上式变为定理 6.13 对于均方连续平稳过程，等式以概率1成立的充要条件为其中与（6.16）式相同。若为实平稳过程，则上式变为第七章 平稳过程的谱分析7.1 平稳过程的谱密度设 是均方连续随机过程，作截尾随机过程 因为 均方可积，故存在傅式变换.(7.4)利

17、用帕塞伐公式及傅式反变换，可得定义7.1 设 为均方连续随机过程，称为 的平均功率，称为 的功率谱密度，简称谱密度。当 是平稳均方连续函数时，由于是与无关的常数，利用均方积分的性质可以将（7.5）式简化得 . (7.8)由（7.8）式和（7.5）式看出，平稳过程的平均功率等于该过程的均方值，或等于它的谱密度在频域上的积分，即 . (7.9)定义7.2 设是平稳随机序列，若相关函数满足 则称为的谱密度。7.2谱密度的分析设 为均方连续平稳过程，为它的相关函数，为它的频率谱密度，具有下列性质：（1） 若，则是的傅式变换，即 . (7.12)(2) 是的实的,非负的偶函数。 (3) 当 是有理函数时

18、，其形式必为 其中为常数，且，分母无实根。7.3 窄带过程及白噪声过程的功率谱密度定义1 设 为实值平稳过程，若它的均值为零，且谱密度在所有频率范围内为非零的常数，即则称为白噪声过程。具有下列性质的函数称为函数： 函数有一个非常重要的运算性质，即抽样性质。对任何连续函数，有 (7.15)或 7.4 联合平稳过程的互谱密度定义7.4 设和是两个平稳过程，且它们是联合平稳的(平稳相关的)，若它们的互相关函数满足,则称的傅氏变换 .(7.21)是与的互功率谱密度，简称互谱密度。因此互谱密度与互相关函数的关系如下： , 互谱密度具有下列性质： ，即与互为共轭； 和是的偶函数，而和是的奇函数； 与和满足下列关系式： 若和相互正交，则专心-专注-专业