随机过程概要及概率基础课件.ppt

《随机过程概要及概率基础课件.ppt》由会员分享，可在线阅读，更多相关《随机过程概要及概率基础课件.ppt（43页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、随机过程概要及概率基础随机过程概要及概率基础第1页，此课件共43页哦二、随机数学发展概述随机现象随机现象 内在规律内在规律偶然性偶然性 必然性必然性第2页，此课件共43页哦3 随机过程Brown运动运动:1827 年，年，Brown在显微镜下发现花在显微镜下发现花粉的无规则运动粉的无规则运动,将此奇怪现象公诸于世将此奇怪现象公诸于世,无人能解无人能解释原因释原因.1900年，法国数学家年，法国数学家Bachelier给出给出 一维一维Brown运动粗略模型运动粗略模型,其博士论文为投机的理论其博士论文为投机的理论，研究证券价格的涨落，开创近代金融数学的先河，研究证券价格的涨落，开创近代金融数学

2、的先河，但他的结果几十年之后才得到认可但他的结果几十年之后才得到认可.1905年年,Einstein 首次进行量化分析首次进行量化分析,认为花粉运认为花粉运动源自分子无规则热运动动源自分子无规则热运动,每秒碰撞每秒碰撞次次.Wiener 1918年发表系列论文年发表系列论文,成功解决这一问成功解决这一问题题,故称故称WienerEinstein过程过程.第3页，此课件共43页哦Markov过程过程(18561922):十九世纪末用十九世纪末用 矩阵研究矩阵研究 马氏链马氏链,开始随机过程理论开始随机过程理论.Erlang 因研究电话问题得到了因研究电话问题得到了Poisson过程过程,创立创立

3、 了排队论了排队论.Feller研究了生灭过程研究了生灭过程.平稳过程平稳过程:从辛欣研究大数定律开始，从辛欣研究大数定律开始，1934年完成年完成.鞅论鞅论:莱维（莱维（Levy.Paul Pierre,1886-1971）19301955年创立年创立.杜悖杜悖(J.Doob)研究停时研究停时.随机积分随机积分:伊藤清伊藤清(1915日日),87年获年获Wolf奖奖,97 年有人年有人 因因 研究研究Ito微分方程的解而获诺贝尔经济奖微分方程的解而获诺贝尔经济奖.最优停时最优停时:1名秘书名秘书,100人应征人应征,如何选如何选?Gilbert 和和 Mosteller1966年证明年证明3

4、7%规则规则,前前37个不要个不要,第第38个个后开始超过前面就定下来后开始超过前面就定下来,选中最优率为选中最优率为1/e=0.367879.而随机取这一结果仅而随机取这一结果仅1%.第4页，此课件共43页哦三、初步概率论第5页，此课件共43页哦四、随机过程定义及分类1、定义、定义 定义域定义域 值域值域 T (E,B)(,F F,B)E：状态空间状态空间,相空间相空间,E 中元素叫状态中元素叫状态.一般为一般为 实数或复数实数或复数.B为为Borel可测集全体可测集全体 第6页，此课件共43页哦2、分类分类 按定义域、值域分：按定义域、值域分：（1）T及及E都可列都可列（2）T可列，可列，

5、E非可列非可列（3）T及及E都非可列都非可列（4）T非可列，非可列，E可列可列 其中其中T可列，即（可列，即（1）、（）、（2）为随机序列（时间）为随机序列（时间序列）序列）.其中其中E可列可列,即（即（1）、（）、（4）为可列过程）为可列过程,E为有为有限集时为有限过程限集时为有限过程.第7页，此课件共43页哦按概率关系分按概率关系分（1）Markov过程过程 独立增量过程独立增量过程 Poisson过程过程 Wiener过程过程（2）正态过程）正态过程,二项过程二项过程,负二项过程负二项过程（3）平稳过程）平稳过程,宽平稳过程宽平稳过程(白噪声白噪声)（4）鞅）鞅 我国王梓坤为概率第一人我

6、国王梓坤为概率第一人.第8页，此课件共43页哦 应用随机过程应用随机过程 Applied stochastic processesApplied stochastic processes 第一章第一章 概率论的基本知识概率论的基本知识 第9页，此课件共43页哦第一章 1.1.概率空间概率空间一、随机试验：一、随机试验：可重复性（同一条件）可重复性（同一条件）结果多个（不唯一）结果多个（不唯一）试验前未知试验前未知 二、样本空间二、样本空间：随机事件随机事件A 为为的子集的子集.：样本点样本点 =全体全体三、定义域、事件域（三、定义域、事件域（代数）代数）1、2、3、见下面见下面第10页，此课件

7、共43页哦 3、可列并封可列并封闭闭 可可测测空空间间 ：信息全体：信息全体 四、值域、事件概率 1、(非负性非负性)2、(规范性规范性)3、，(可列可加性可列可加性)第11页，此课件共43页哦五、五、称概率空间，广义称概率空间，广义 测度不保证非负测度不保证非负,不保证为不保证为1.六、六、性质性质 1、单调不减单调不减 2、对立事件和为对立事件和为1 3、，有限可加性有限可加性 4、无限次可加无限次可加第12页，此课件共43页哦七、选取方法七、选取方法 有穷有穷 为为 子集全体子集全体 可列可列 为为 子集全体子集全体 不可列不可列 为为Lebesgue可测可测八、极限事件八、极限事件 1

8、、递增事件列：、递增事件列：，2、递减事件列：、递减事件列：，第13页，此课件共43页哦九、P的连续性（P与lim可交换顺序）证明：证明：第14页，此课件共43页哦 可列可加可列可加 正项级数收敛正项级数收敛(不超过不超过1)考虑部分和数列考虑部分和数列 等价替换等价替换(后半部分用后半部分用 对偶律对偶律)第15页，此课件共43页哦十、调和级数实例十、调和级数实例.第16页，此课件共43页哦十一、统计物理模型十一、统计物理模型 解一（解一（Maxwell-Boltzman)质点可分辨，处于每个状态的质点个数任意。质点可分辨，处于每个状态的质点个数任意。解三（解三（Fermi-Dirac)质点

9、不可分辨，每个状态只有一个质点。质点不可分辨，每个状态只有一个质点。适于电子、中子、适于电子、中子、质子等质子等Fermi子。子。解二（Bose-Einstein)质点不可分辨，处于每个状态的质点个数任意。适于光子、介子、核 子等Bose子。第17页，此课件共43页哦1.2 随机变量随机变量随机变量X分布函数分布函数:满足：满足：()单调不减；单调不减；()右连续；右连续；()；()；第18页，此课件共43页哦一、存在性一、存在性 命题命题1.2.11.2.1：设：设 是单调不减，右是单调不减，右连续的函数，且有连续的函数，且有 ，则必存在概率空间及其上的一个随，则必存在概率空间及其上的一个随

10、机变量机变量 ，使，使 。证明：证明：（略）（略）离散的：离散的：连续的：连续的：第19页，此课件共43页哦二、命题二、命题1.2.21.2.2 已给已给n n元函数元函数 ，满足：，满足：()对任一对任一 是单调不减的，是单调不减的，()对任一对任一 是右连续的，是右连续的，()第20页，此课件共43页哦 ()设设 ，则，则 则必存在概率空间则必存在概率空间 及其上的随及其上的随机向量机向量 ，使，使 的分布函数的分布函数第21页，此课件共43页哦注意注意:()不能由不能由()、()、()推出推出反例：定义反例：定义 满足满足()、()、()，但是对，但是对第22页，此课件共43页哦三、三、

11、(联合分布唯一确定边沿密度联合分布唯一确定边沿密度,反之不成立反之不成立.).)此例两个密度函数显然不同，密度函数非零区域相同此例两个密度函数显然不同，密度函数非零区域相同.边缘密度如下边缘密度如下:第23页，此课件共43页哦 X X边缘密度边缘密度:利用密度函数的轮换对称性利用密度函数的轮换对称性,可得可得Y Y边源密度也相同边源密度也相同均为均为1/2+1/2+y y.第24页，此课件共43页哦四、事件独立：四、事件独立：n n个事件独立，个事件独立，个表达式。个表达式。随机变量独立：随机变量独立：独立，要求联合密独立，要求联合密度为边缘密度之积，即：度为边缘密度之积，即：命题命题1.2.

12、51.2.5至至1.2.71.2.7知道结果就行知道结果就行.其中，其中，第25页，此课件共43页哦五、五、随机变量随机变量 相互独立相互独立六、若随机变量六、若随机变量 相互独立，相互独立，为为 可测函数，可测函数，则，则 也相互独立也相互独立.第26页，此课件共43页哦例例:1.2.8:1.2.8：已知：已知n n阶正定对称矩阵阶正定对称矩阵B B，是是n n维随机变量的密度。式中维随机变量的密度。式中 表示表示B B的行列式的值，的行列式的值，表示矩表示矩阵阵C C的转置矩阵，的转置矩阵，表示矩阵表示矩阵B B的逆矩阵。下面证明的逆矩阵。下面证明 因为因为B B对称正定，故存在正交阵对称

13、正定，故存在正交阵T T，使：使：第27页，此课件共43页哦其中其中 是是B B的特征值且的特征值且 。作变换作变换 ,右乘右乘T,T,可得可得 因为因为 ，第28页，此课件共43页哦第29页，此课件共43页哦所以所以 是是n n维正态分布的密度函数维正态分布的密度函数.例例:1.2.9:1.2.9:事件事件A A的示性函数的示性函数:第30页，此课件共43页哦1.3 随机变量的数字特征一、数学期望（一、数学期望（mean,mathematical expectation)mean,mathematical expectation)连续型（绝对可积条件下）连续型（绝对可积条件下）离散型（绝对收

14、敛条件下）离散型（绝对收敛条件下）抽象积分：抽象积分：第31页，此课件共43页哦二、随机变量函数的期望二、随机变量函数的期望三、矩（三、矩（momentmoment）1 1、普通普通k k阶矩阶矩2 2、k k阶绝对矩阶绝对矩3 3、k k阶中心矩阶中心矩物理上，一阶矩是重心，二阶矩是转动惯量。物理上，一阶矩是重心，二阶矩是转动惯量。第32页，此课件共43页哦四、方差（二阶中心矩，四、方差（二阶中心矩，variancevariance）方差表示稳定性：方差大，风险大；方差小，风险小。方差表示稳定性：方差大，风险大；方差小，风险小。五、五、n n维随机向量维随机向量 是是n n维随机向量，分布函

15、数为维随机向量，分布函数为 ，为为n n维维BorelBorel函数，则：函数，则：第33页，此课件共43页哦六、协方差（二阶混合中心矩，六、协方差（二阶混合中心矩，covariancecovariance）随机向量，协方差阵随机向量，协方差阵：七、相关系数（七、相关系数（correlation coefficientcorrelation coefficient）注：注：HolderHolder不等式，实变函数或应用数学基础。不等式，实变函数或应用数学基础。第34页，此课件共43页哦八、相关系数的性质八、相关系数的性质 1 1、2 2、独立独立 3 3、以概率以概率1 1线性相关线性相关 注

16、：由注：由 得不到得不到 独立。独立。下有反例下有反例.第35页，此课件共43页哦第36页，此课件共43页哦第37页，此课件共43页哦第38页，此课件共43页哦解二：解二：第39页，此课件共43页哦第40页，此课件共43页哦九、以概率九、以概率1 1成立（几乎处处成立成立（几乎处处成立 a.s.a.s.）若若 ，则，则 以概率以概率1 1成成立（几乎处处成立），记为：立（几乎处处成立），记为：第41页，此课件共43页哦第42页，此课件共43页哦十、期望与方差公式十、期望与方差公式例例1.3.41.3.4：MontmortMontmort配对问题配对问题 n n人人n n顶帽子放在一起充分混合后，每人随机取一顶。顶帽子放在一起充分混合后，每人随机取一顶。求选中自己帽子的人数求选中自己帽子的人数X X的期望和方差。的期望和方差。第43页，此课件共43页哦