窄带随机过程的模拟、马尔可夫过程.ppt
第五章内容体系第五章内容体系信号的产生信号的产生信号的分析信号的分析信号的处理信号的处理实际系统窄带信号产生机理实际系统窄带信号产生机理计算机模拟产生方法计算机模拟产生方法内内容容体体系系分析的数学工具分析的数学工具相关函数的特性相关函数的特性包络与相位的分布包络与相位的分布应用实例（雷达检测，同步检应用实例（雷达检测，同步检波、包络检波）波、包络检波）如何模拟窄带随机过程？如何模拟窄带随机过程？模拟模拟 ，这两个随机过程的相关特性，这两个随机过程的相关特性不好模拟。不好模拟。方法方法1：方法方法2：需要模拟需要模拟 ，分布和功率谱特性比较容，分布和功率谱特性比较容易满足。易满足。+-白噪声白噪声白噪声白噪声低通滤波器低通滤波器关键是设计低通滤波器关键是设计低通滤波器实验实验5.1介绍的方案（研讨题）介绍的方案（研讨题）方案方案2：(研讨题）任意随机过程的产生研讨题）任意随机过程的产生Probability and random process with applications P465-475频域方法：频域方法：假定需要产生一个随机过程的一个现实（样本函数），持假定需要产生一个随机过程的一个现实（样本函数），持续时间为续时间为Td,X(t)(0,Td d)可用傅里叶级数展开可用傅里叶级数展开如果如果 是零均值高斯的，那么，是零均值高斯的，那么，也是零均值高斯也是零均值高斯周期信号周期信号 具有线谱具有线谱功率谱密度为功率谱密度为选择选择sk可以成形可以成形(Shape)功率谱密度功率谱密度如果期望的功率谱为如果期望的功率谱为 ，那么，那么如果功率谱如果功率谱 为带限的，即为带限的，即那么，傅里叶级数的系数那么，傅里叶级数的系数sk是有限个的是有限个的即需要产生即需要产生这些随机变量的方差要选择满足下式，这些随机变量的方差要选择满足下式，总结：总结：1.首先产生一组独立的高斯随机变量首先产生一组独立的高斯随机变量如果随机过程是实过程，则只需要产生如果随机过程是实过程，则只需要产生M+1个个RV2.构建时域样本构建时域样本研讨要求：研讨要求：1.了解随机过程产生的原理（频域法或时域法）了解随机过程产生的原理（频域法或时域法）2.假定假定取取模拟信号的时长是模拟信号的时长是编写模拟该过程的编写模拟该过程的MATLAB程序程序3.按按2.分别模拟两个随机过程，按下式构建窄带随机过分别模拟两个随机过程，按下式构建窄带随机过程，取程，取 画出信号的波形。画出信号的波形。第六章第六章 马尔可夫过程与泊松过程马尔可夫过程与泊松过程Markov Process and Poisson马尔可夫链马尔可夫链马尔可夫过程马尔可夫过程独立增量过程、泊松过程独立增量过程、泊松过程本章内容本章内容马尔可夫过程是一类重要的随机过程，广泛应用于马尔可夫过程是一类重要的随机过程，广泛应用于n近代物理近代物理n生物（生灭过程）生物（生灭过程）n公用事业公用事业n通信通信n信号处理信号处理n自动控制自动控制n.学习内容：学习内容：马尔可夫链的定义；马尔可夫链的定义；统计描述：状态概率、状态转移概率、状态转移矩阵、统计描述：状态概率、状态转移概率、状态转移矩阵、状态转移图状态转移图 切普曼切普曼-柯尔莫哥洛夫方程柯尔莫哥洛夫方程 齐次性、平稳性、遍历性；齐次性、平稳性、遍历性；几种马尔可夫过程：隐马尔可夫过程，独立增量、几种马尔可夫过程：隐马尔可夫过程，独立增量、泊松过程泊松过程 马尔可夫过程的基本特征是无后效应性，即马尔可夫过程的基本特征是无后效应性，即未来状态只与现在有关，与过去无关未来状态只与现在有关，与过去无关。分类分类马尔可夫链：时间、状态均连续马尔可夫链：时间、状态均连续马尔可夫序列：时间离散、状态连续马尔可夫序列：时间离散、状态连续连续时间马尔可夫过程：时间、状态均连续连续时间马尔可夫过程：时间、状态均连续隐马尔可夫过程隐马尔可夫过程6.1 马尔可夫链（马尔可夫链（Markov Chain）1.定义定义状态和时间参量都是离散的随机过程，在状态和时间参量都是离散的随机过程，在tr时刻时刻状态已知的条件下，其后状态已知的条件下，其后tr+1时刻所处的状态只与时刻所处的状态只与tr时刻的状态有关，而与以前时刻的状态有关，而与以前tr-1、tr-2时刻的时刻的状态无关，则该过程称为马尔可夫链。状态无关，则该过程称为马尔可夫链。Xn N个状态个状态（i,j,k=1,2,.N)一一维维随随机机游游动动问问题题。设设有有一一质质点点在在x x轴轴上上作作随随机机游游动动。在在t=0t=0时时质质点点属属于于x x轴轴的的原原点点，在在t=1,2,3.t=1,2,3.时时质质点点可可以在轴上正向或反向移动一个单位距离。以在轴上正向或反向移动一个单位距离。举例：随机游动问题（举例：随机游动问题（Random WalkRandom Walk）质点正向移动一个单位质点质点正向移动一个单位质点反向移动一个单位反向移动一个单位p0n时刻时刻q=1-p表示表示n时刻质点所处位置时刻质点所处位置2.马尔可夫链的统计特性马尔可夫链的统计特性状态概率，状态转移概率，平稳性、齐次性、各态历经性。状态概率，状态转移概率，平稳性、齐次性、各态历经性。(1)(1)状态概率状态概率(概率分布列概率分布列)(2)状态转移概率状态转移概率(Transition Probability)s时刻时刻n时刻时刻状态转移概率矩阵状态转移概率矩阵(State Transition Matrix)每一行之和为零每一行之和为零状态概率与状态转移概率之间的关系状态概率与状态转移概率之间的关系状态转移图状态转移图-描述马尔可夫链的一种工具描述马尔可夫链的一种工具a1a2a3a4a511/21/21/21/21/21/21反射壁反射壁3.3.切普曼切普曼-柯尔莫哥洛夫方程柯尔莫哥洛夫方程P(s,n)=P(s,r)P(r,n)几何解释几何解释tstrtnxs=aixn=ajanakalpik(s,r)pkj(r,n)证明：证明：4.齐次马尔可夫链（齐次马尔可夫链（Homogeneous Markov Chain）定义：定义：齐次性等同于平稳性吗？齐次性等同于平稳性吗？NO对于齐次马尔可夫链，由切普曼对于齐次马尔可夫链，由切普曼-柯尔莫哥洛夫方程柯尔莫哥洛夫方程令令由齐次性，得由齐次性，得由状态概率与状态转移矩阵之间的关系由状态概率与状态转移矩阵之间的关系令令齐次马尔可夫的状态概率只与起始状态及一步转移概率有关齐次马尔可夫的状态概率只与起始状态及一步转移概率有关举例：二进制对称信道举例：二进制对称信道0011ppqq基本二进制对称信道基本二进制对称信道只有两个状态只有两个状态12nn+1级联的二进制传输信道级联的二进制传输信道0011ppqq01qqpp一步状态转移矩阵一步状态转移矩阵01qqpp一步状态转移矩阵一步状态转移矩阵二步状态转移矩阵二步状态转移矩阵5.5.平稳性平稳性定义：如果齐次马尔可夫链的所有状态概率相同，即定义：如果齐次马尔可夫链的所有状态概率相同，即则称该链是平稳马尔可夫链。则称该链是平稳马尔可夫链。在齐次链中，只要序列在齐次链中，只要序列X1,X2的概率分布列相同，即的概率分布列相同，即则此链必平稳。则此链必平稳。证明：证明：n=2,s=1n=3,s=2如果已知齐次链的一步状态转移矩阵如果已知齐次链的一步状态转移矩阵例：例：若该链平稳，求状态概率矢量若该链平稳，求状态概率矢量解：解：因为因为如果平稳，则如果平稳，则所以所以或或因为因为上面所有方程加起来得出一个恒等式，上面所有方程加起来得出一个恒等式，所以以上不是完全相互独立的。所以以上不是完全相互独立的。取取N-1个个方程方程设有一质点在线段上游动，终端设有反射壁。质点只能设有一质点在线段上游动，终端设有反射壁。质点只能停留在停留在a1=-2L,a2=-L,a3=0,a4=L,a5=2L 上，游动的概率法上，游动的概率法则如下：则如下：如果游动前质点在如果游动前质点在a2,a3,a4位置，则以位置，则以1/2概率向前或向概率向前或向后移动一单位后移动一单位L，若在，若在a1或或a5置，则以概率置，则以概率1返回，画出返回，画出状态转移图并求概率分布列。状态转移图并求概率分布列。例：例：具有反射壁的随机游动。具有反射壁的随机游动。0-2L2L-LLa1a2a3a4a511/21/21/21/21/21/21反射壁反射壁状态转移图和状态转移图和状态转移矩阵状态转移矩阵一一对应一一对应状态概率的计算状态概率的计算例例6.3 吸收壁，求状态转移矩阵吸收壁，求状态转移矩阵a1a2a3a4a511/21/21/21/21/21/21吸收壁吸收壁例（习题例（习题6.1）状态转移矩阵为状态转移矩阵为（1）如果）如果n时刻位于时刻位于a3状态，求状态，求n+2时刻处于时刻处于a2状状态的概率；态的概率；（2）n时刻处于时刻处于a1状态，求状态，求n+3时刻处于时刻处于a3状态的状态的概率。概率。6.6.遍历性遍历性齐次马尔可夫链中，对于一切齐次马尔可夫链中，对于一切i i与与j j，存在不依赖，存在不依赖i i的极的极限限 当转移步数当转移步数n足够大时，不论足够大时，不论n步以前是哪种状步以前是哪种状态态ai，n步后转移为状态步后转移为状态aj的概率都接近于的概率都接近于pj。遍历的条件：遍历的条件：存在正整数存在正整数s s，使，使6.6.隐马尔可夫过程隐马尔可夫过程(Hidden Markov)(Hidden Markov)隐马尔可夫模型作为信号处理的一种统计模型，今隐马尔可夫模型作为信号处理的一种统计模型，今天正在信号处理的各个领域得到广泛应用。天正在信号处理的各个领域得到广泛应用。HMMHMM是一个输出符号序列的统计模型，具有是一个输出符号序列的统计模型，具有N N个状态个状态S S1 1,S,S2 2,.,S,.,SN N,它按一定的周期从一个状态转移到另一个它按一定的周期从一个状态转移到另一个状态，每次转移时，输出一个符号。转移到什么状态，状态，每次转移时，输出一个符号。转移到什么状态，转移时输出什么符号，分别由状态转移概率和转移时的转移时输出什么符号，分别由状态转移概率和转移时的符号输出概率来确定。因为只能观测到输出符号序列，符号输出概率来确定。因为只能观测到输出符号序列，而不能观测到状态转移序列（即模型输出符号序列时，而不能观测到状态转移序列（即模型输出符号序列时，是通过了哪些状态路径，不能知道），所以称为隐马尔是通过了哪些状态路径，不能知道），所以称为隐马尔可夫模型。可夫模型。S1S2S3p11=0.3p22=0.4p13=0.2p12=0.5p23=0.6有三个状态：初始态有三个状态：初始态S S1 1,中间态中间态S S2 2,终了态终了态S S3 3，HMMHMM只输只输出两个符号出两个符号a a和和b b。假定从假定从S S1 1出发到出发到S S3 3截止，输出的符号序截止，输出的符号序列为列为aabaab，试求输出，试求输出aabaab的概率。的概率。从从S S1 1到到S S3 3，并且输出，并且输出aabaab，可能的路径有三条，可能的路径有三条S1-S1-S2-S3S1-S2-S2-S3S1-S1-S1-S3S1S2S3p11=0.3p22=0.4p13=0.2p12=0.5p23=0.6 S1-S1-S2-S3 0.3*0.8*0.5*1*0.6*0.5=0.036 S1-S2-S2-S3 0.5*1*0.4*0.3*0.6*0.5=0.018 S1-S1-S1-S3 0.3*0.8*0.3*0.8*0.2*1=0.01152由于不知道输出路径，所以，由于不知道输出路径，所以，输出输出aab有三种可能路径，输有三种可能路径，输出出aab的概率为的概率为0.036+0.018+0.01152=0.06552如果知道路径，如果知道路径，那么输出那么输出aabaab的的概率就是该路概率就是该路径的输出概率。径的输出概率。S1S2S3p11=0.3p22=0.4p13=0.2p12=0.5p23=0.6
