应用随机过程.docx

《应用随机过程.docx》由会员分享，可在线阅读，更多相关《应用随机过程.docx（274页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、应 用 随 机 过 程目录第一章预备知识.11.1随机变量及其分布.11.1.1 样本空间, 随机事件与概率.11.1.2 单个随机变量及相关刻画 .21.1.3 有限多个随机变量.51.2条件数学期望.121.2.1 随机事件发生条件下的分布与期望 .121.2.2 随机变量下的条件数学期望.141.2.3 条件数学期望的推广与一般化 .181.3特征函数.241.3.1 特征函数.241.3.2 拉普拉斯变换.261.3.3 概率母函数 .291.4收敛性与极限定理.321.4.1 三类收敛性 .321.4.2 Borel-Cantelli 引理.341.4.3 柯西基本列* .371.4

2、.4 收敛的简单性质 .39第二章简单随机模型 .442.1随机过程简介.442.1.1 随机过程的基本概念 .442.1.2 随机过程的刻画 .462.1.3 典型随机过程.482.2直线上简单随机游动.522.2.1 模型及其刻画.522.2.2 基本性质及其应用.562.3泊松过程.662.3.1 计数过程.662.3.2 泊松过程及其刻画.682.3.3 到达时间的条件分布 .742.3.4 稀疏过程.782.3.5 非齐次泊松过程 .812.3.6 复合泊松过程.84第三章离散时间马尔可夫链.873.1马尔可夫链与转移概率矩阵.873.1.1 条件独立与马尔科夫链.873.1.2 马

3、氏链的等价刻画.913.1.3 转移概率矩阵与C-K方程.933.1.4 有限维分布 .973 4 3.2 状态分类1013.2.1 互通、本质与不可约1013.2.2 周期性1043.2.3 常返与非常返1063.3 首访概率与时间1153.3.1 访问概率与分布1153.3.2 平均访问时间1203.4 正常返与平稳分布1283.4.1 正常返与零常返1283.4.2 平稳分布1323.5 遍历性定理1413.5.1 遍历性定理1413.5.2 应用举例144第四章马氏链应用模型1524.1 可逆马氏链与蒙特卡罗模拟1524.1.1 可逆马氏链1524.1.2 马氏链蒙特卡罗(MCMC)方

4、法*1564.2 隐马氏链1624.2.1 隐马氏链及其性质1624.2.2 观察结果出现的概率1654.2.3 状态估计与预测1684.2.4 隐马氏链的参数估计*1694.3 分支过程1734.3.1 Galton-Watson分支过程1734.3.2 带移民的Galton-Watson分支过程*179第五章更新过程1855.1 更新过程与更新方程1855.1.1 更新过程与更新性1855.1.2 更新函数与更新方程1885.1.3 更新过程的几个统计量1925.2 更新极限定理1955.2.1 大数定律与中心极限定理1955.2.2 更新定理1975.3 两类广义更新过程2035.3.1

5、 更新报酬过程2035.3.2 可终止更新过程207第六章布朗运动2116.1 布朗运动及其分布2116.1.1 布朗运动2116.1.2 布朗运动的分布2136.1.3 轨道性质*2216.2 反射原理与极值分布2246.2.1 反射原理2246.2.2 极值与首达时分布2256.2.3 零点与极大值点*2296.3 几何布朗运动与Black-Scholes公式2336.3.1 几何布朗运动2336.3.2 期权定价原理2346.3.3 Black-Scholes公式2356.4 高斯过程与积分布朗运动*2406.4.1 高斯过程与布朗桥2406.4.2 与布朗运动有关的简单积分243 5

6、第七章离散时间鞅2467.1 鞅与停时2467.1.1 鞅的定义及举例2467.1.2 鞅的简单性质2497.1.3 停时的简单性质2527.2 鞅的停时定理2567.2.1 有界停时定理2567.2.2 一般停时定理2577.2.3 停时定理应用举例2607.3 鞅的不等式与收敛定理2647.3.1 极大不等式与Doob不等式2647.3.2 Doob收敛定理266参考文献270第一章 预备知识本章我们将简要回顾概率论有关知识并补充或深化一些必要内容.1.1 随机变量及其分布1.1.1 样本空间, 随机事件与概率给定一个集合 , 若它包含了所研究随机现象的全部基本事件, 我们就称这个集合为样

7、本空间. 称 的任意一个子集为事件; 称由 中若干子集构成的集类F为-代数, 若它满足(1) F;(2) A F A F;(3) Ak F, k = 1, 2, Ak F.k1P 是F 0, 1上的函数, 用来度量F中事件发生的可能性. 我们称它为概率, 如果它满足以下条件(1) 对任意A F, P (A) 0;(2) P () = 0, P ( ) = 1;(3) Ak F, k = 1, 2, 互不相交 P ( Ak) = P (Ak).k1称P (A)为事件A在概率P 下的值, 简称为A的概率.k1每个概率P 都与一个-代数相关联. 当样本空间上给定一个概率P 后, 关联 -代数中的每一

8、个事件A都有一个概率P (A)存在, 对那些不在关联-代数中的事件则没有明确的概率对应. 从直观上理解, 概率P 对应于刻画某种随机规律的指标, 而相关联的-代数就是能够刻画出这种随机规律的事件集. 我们称F中每个元素为概率P 下的随机事件, 简称为随机事件(在不引起混淆时也可简称为事件).1 2 称n个随机事件A1, , An是独立的, 若对任意2 k n个事件Ai1 , , Aik ,P (Ai1 Ai2 Aik ) = P (Ai1 )P (Ai2 ) P (Aik ).任意给定两个随机事件A, B. 假定事件B发生的概率为正, 那么在事件B发生前提下事件A发生的条件概率(随机事件下的条

9、件概率)为P (A|B) = P (AB)/P (B).本质上, 随机事件下的条件概率可以看作将样本空间 “缩小”为B后的概率.随机事件概率有如下的基本计算公式.(1) (全概率公式) 设随机事件B1, , Bn为样本空间 的一个分割, 即B1, ,Bn 互不相交且它们的并集为全空间 , 那么对任意一个随机事件A,nP (A) =P (ABk).k=1(2) (乘法公式) 对任意两个随机事件A, B,P (AB) = P (B)P (A|B).(3) (贝叶斯(Bayes)公式) 设随机事件B1, , Bn为样本空间 的一个分割, 那么|P (ABi)P (Bi A) =nk=1P (A|Bk

10、.)P (Bk)通常把样本空间 , 随机事件集F以及概率P 三者看作一个整体, 称为概率空间, 记作( , F, P ).1.1.2 单个随机变量及相关刻画称定义在概率空间( , F, P )上的实值函数X() 为随机变量, 若对任意x R,X x = ; X() x F.通常简记随机变量为X, Y , Z. 称随机变量X, Y 是几乎必然或几乎处处相等的(记作X = Y a.s.), 如果P (X = Y ) = 1. 称函数F (x) = P (X x)为随机变量X的分布函数(简称为分布). F 是分布函数当且仅当F 右连续,单调不降而且F () = 0, F (+) = 1. 3 注记1

11、.1.1. 随机变量的上述定义是我们在初等概率论课程学习随机变量时的一种常见定义. 值得强调的是, 单凭这个定义有时并不足以帮助我们准确辨识随机变量. 事实上, 随机变量除了具有该定义所展示的函数属性外还有分布属性( 每个随机变量都对应到一个分布函数)以及与其他随机变量的关联属性(需要考虑联合分布)等等.(A) 离散型随机变量称一个随机变量为离散型随机变量, 若该随机变量可能的不同取值只有有限多个或可用自然数的次序将所有取值一一排列出来(可列的). 设离散型随机变量X可能的不同取值为我们称x0, x1, , xn, ,pi = P (X = xi),i = 0, 1, ,为X的概率分布列(简称

12、为分布列). 称E(Xk) = xkpi,k 1,ii=0为X的k阶(原点)矩, 如果上式右边的求和绝对收敛. 特别地, k = 1时称其为X的数学期望(均值). 称为X的方差.2V ar(X) =(xi E(X) pii=0下面我们列举几个常见离散型随机变量的分布.(1) 两点分布b(1, p): X 0, 1且P (X = 1) = p, P (X = 0) = 1 p, p (0, 1).(2) 二项分布b(n, p): X 0, 1, , n且nP (X = k) = Ckpk(1 p)nk,k = 0, 1, , n, p (0, 1).(3) 几何分布Ge(p): X 1, 2,

13、, n, 且P (X = k) = p(1 p)k1,k 1, p (0, 1).(4) 泊松分布P()(称参数为强度): X 0, 1, 2, , n, 且P (X = k) =k ek!,k 0, 0.通常我们简称离散型随机变量所刻画的分布为离散分布.(B) 连续型随机变量 4 若存在非负函数f (x)使得随机变量X的分布函数 xF (x) =f (t)dt,则称随机变量X是连续型的, 称函数f (x)为是X的概率密度函数.一般地, 若F (x)在t的左导数F (t)存在, 即limF (s) F (t)= limP (s 0的指数分布Exp(), 若概率密度函数为f (x) =0,其他.

14、 axa1 ex,x 0,(3) 伽马分布: X服从(0, )上形状参数a 0, 尺度参数 0 的伽马分布Ga(a, ), 若概率密度函数为f (x) =(a)0,其他.(4) 正态分布: X服从R上均值为, 方差为2的正态分布N(, 2), 若概率密度函数为1f (x) =e22(x)2 22 .通常我们简称连续型随机变量所刻画的分布为连续分布. 5 1.1.3 有限多个随机变量同时考虑概率空间( , F, P )上的随机变量X1, , Xn. 通常称X = (X1, , Xn)为n元随机变量, 记作X Rn. 当n 1时, 统称为多元随机变量. 为表示方便, 我们也称X = (X1, ,

15、Xn) 为n维向量值随机变量(简称为向量值随机变量).(A) 联合分布、协方差设X = (X1, X2, , Xn)是n元随机变量, 对任意(x1, x2, , xn) Rn, 令F (x1, x2, , xn) = P (X1 x1, X2 x2, , Xn xn).称n元函数F (x1, x2, , xn)为X的联合分布函数. 在多元随机变量背景下, 我们也称单个随机变量Xi的分布函数Fi(x) = P (Xi x)为Xi在该多元联合分布下的边际或边缘分布.若X1, X2, , Xn都是离散型随机变量, 记所有可能的取值为xi,j; i = 1, , n, j = 0, 1, .那么X的联

16、合分布列为pk1,k2,kn = P (X1 = x1,k1 , X2 = x2,k2 , , Xn = xn,kn ).相应地, 随机变量Xi的边际分布列k1np(i) = P (Xi = xi,k) = P (X1 = x1,k , , Xi = xi,k, , Xn = xn,k ).kr =0r1,r=i称X为n元连续型随机变量, 若存在非负函数f (x1, x2, , xn)使得F (x1, x2, , xn) =12此时称该多元函数f (x , x ,x1dt1 , xn)为(X1,x2dt2 , Xn)的联合概率密度函数. Xi的 xnf (t1, t2, , tn)dtn.概率

17、密度函数(也称为边际或边缘概率密度函数)fi(x)可以用联合概率密度函数表示为1 f (t , , ti1, t, ti+1 tn)dt1 dti1dti+1 dtn. 若X是连续型随机变量, 那么在分布函数F 的n阶混合偏导nF (x1, x2, , xn)x1x2 xn 6 存在的点(x1, x2, , xn) 处, 可令nF (x1, x2, , xn)f (x1, , xn) =x1x2. xnn元随机变量X的函数g(X) = g(X1, X2, , Xn)的数学期望定义为E(g(X) = g(x1, , xn)f (x1, , xn)dx1 dxn,连续型,i2nk=0 k=0 k

18、=0 g(x1,k1 , , xn,kn )pk1, ,kn ,离散型.任意两个随机变量之间的协方差为Cov(Xi, Xj) = E(Xi E(Xi)(Xj E(Xj)= (xi E(Xi)(xj E(Xj)fi,j(xi, xj)dxidxj,连续型,i(i,j)k=0k=0(xi,ki E(Xi)(xj,kj E(Xj)pki,kj ,离散型,jki,kj这里fi,j(xi, xj), p(i,j) 表示由Xi, Xj这两个随机变量所得到的联合概率密度函数或联合分布列. 称n阶方阵D = (Cov(Xi, Xj) 为n 个随机变量X1, X2, , Xn的协方差矩阵.n元正态分布的是一种非

19、常重要的连续型多元联合分布. 当n = 2时我们说 (X1, X2) 服从二元正态分布N(1, 2, 2, 2, ), 若它们的联合概率密度函数f (x1, x2) 为1121212exp 2 2(1 2)2 1 (x1 1)221x1 1 x2 212(x2 2)2 )22+,其中1 = E(X1), 2 = E(X2), 2 = V arX1, 2 = V arX2, 相关系数12引进协方差矩阵 = Cov(X1, X2) .121212 12那么|D| = 22(1 2),D = .212221 1 212 1 211 1D1 =|D| =2121 2 1112.2221记x = (x1

20、 1, x2 2)T . 利用矩阵表示, 二元正态概率密度函数可写成1f (x , x ) =e 1 (x)T D1(x).2122|D|一般地, n元正态分布的概率密度函数为f (x1, x2, , xn) = 1 e 1 (x)T D1(x). 2(2)n/2|D| 7 这里D为正定矩阵, x = (x1, , xn)T , = (1, , n)T , 其中1, , n 为常数. 记该n元正态分布为N (, D). 若随机变量(X1, , Xn)服从分布N (, D), 那么D 就是X1, , Xn之间的协方差矩阵, 而且对任意1 k n, E(Xk) = k.下面这个例子介绍了参数为(p

21、1, p2, , pm)的多项分布. 例1.1.2. 向m个罐子里抛硬币, 硬币落入第i个罐子的概率设为pi. 连续独立地抛n次. 以Xi表示落入第i个罐子的硬币数. 求(X1, X2, , Xm) 的联合分布.其中p1 + + pm = 1.解 以ni表示观测到的落入第i个罐子的硬币数, 那么0 ni n, 而且n1 + + nm = n. 随机事件发生的组合数为Xi = ni, i = 1, 2, , mCn1 Cn2 Cn!nm1=,nnn1nn1nm2n1!n2! nm!12m由实验的独立同分布性可知每一组合发生的概率为pn1 pn2 pnm , 因此= ni, i = 1, 2, ,

22、 n) =P (Xin!pn1 pn2 pnm ,ni 0, mni = n,n1!n2!nm!12mi=10,其它.容易看出任意前k项(k m)的分布列为n!pn1 pnk qmk ,ni 0, kni n,P (Xi= ni, i = 1, 2, , k) =n1!nk!mk!1kki=1其中qk = 1 kpi, mk = n k0,其它,i=1i=1ni.(B) 随机变量的独立性称n个随机变量X1, X2, , Xn是独立的, 如果对任意x1, x2, , xn R, P (X1 x1, X2 x2, , Xn xn) = P (X1 x1)P (X2 x2) P (Xn xn).称无

23、穷多个随机变量X1, X2, , Xn, 是独立的, 若对任意k 2, X1, X2, , Xk 是独立的.若X1, X2, , Xn为连续型随机变量, 那么X1, X2, , Xn独立当且仅当它们的联合概率密度函数等于各自概率密度函数的乘积, 即f (x1, x2, , xn) = fX1 (x1)fX2 (x2) fXn (xn).随机变量相互独立的概念和性质还可推广到多元随机变量的情形. 8 n定义1.1.3. 设Xi = (Xi,1, , Xi,ki ), i = 1, , n, 分别是k1, , kn维的随机变量, 其中每个ki 1. 称多元随机变量X1, , Xn 是独立的, 若任

24、意的xi,j (, +), 其中1 j ki, 1 i n,P (Xi,j xi,j, 1 j ki, 1 i n) =P (Xi,j xi,j, 1 j ki).i=1由多元随机变量独立性的定义可知, 若随机变量X1, , Xn是独立的, 将其分成不相交的任意k组, 将每组看成一个多元随机变量, 记作X1, , Xk, 那么这k个多元随机变量也是独立的. 若随机变量Yi只是Xi的函数, 那么Y1, , Yk也相互独立.(C) 随机变量函数的分布设n元随机变量X = (X1, , Xn)的取值区域为D, 是从D 到A Rm的函数, 令m元随机变量Y = (Y1, , Ym) = (X), 那么

25、对任意集合B A,P (Y B) = P (X 1(B),其中1(B)表示集合B在D内的原像集.特别地, 若m = n且为可逆函数, 那么(1) 若X是离散的, 对任意y = (y1, , yn), 设1(y) = (x1, , xn), 那么P (Y1 = y1, , Yn = yn) = P (X1 = x1, , Xn = xn).(2) 若X是连续型随机变量, 连续、可微且雅可比(Jacobi)行列式1 x 1yiJ =ji,j=1, ,n处处不为0, 其中yi表示函数的第i 个分量. 那么对任意(u1, , un) A,fX(1(u1, , un)fY (u1, , un) =,|J

26、|1(u1, ,un)其中fY , fX分别表示Y, X的联合概率密度函数, |J|1(u1, ,un)表示雅可比行列式J在(x1, , xn) = 1(u1, , un)点的绝对值.k 例1.1.4. 设Tk; k 1是非负随机变量序列Wi; i 1的部分和序列, 即Tk =Wi, k 1.i=1netn ,0 t1 t2 tn若T = (T1, , Tn) 的联合概率密度函数为fT (t1, , tn) =0,其它. 9 那么Wi, i = 1, , n, 服从参数为的指数分布且相互独立.+证明 定义一个从A = (t1, , tn); 0 t1 t2 tn到R n 的映射,使得(t1, t2, , tn) = (t1, t2 t1, , tn tn1).显然是连续、可微的可逆函数, 雅可比行列式J 1. 令W = (W1, , Wn) = (T1, , Tn).+那么(W1, , Wn)在R n上的联合概率密度函数fT (1(x1, , xn)fW (x1, x2, , xn) = f|J|1(x1, ,xn)(1(x , , x) = ne nxi .T1n(x ) = dx ne 由此可知W1的概率密度函数为i=1fW1120ni=10xi dxn= ex1 .ni类似计算可得Wi, i 2, 的概率密度函数为