第五章非线性滤波优秀PPT.ppt
第五章非线性滤波第一页，本课件共有57页滤波的信号模型统计状态转换方程联系当前状态与以前状态统计观察/测量方程联系观察数据与当前状态噪声第二页，本课件共有57页滤波方法线性，加性高斯噪声非线性，加性高斯噪声非线性，非高斯非加性噪声卡尔曼滤波扩展卡尔曼滤波；基于高斯积分，无色变换的卡尔曼滤波粒子滤波器信号模型信号模型滤波方法滤波方法第三页，本课件共有57页非线性滤波通用贝叶斯非线性非线性滤波加性高斯噪声非加性高斯噪声高斯积分卡尔曼滤波器无色卡尔曼滤波器MC卡尔曼滤波器扩展卡尔曼滤波器重采样粒子滤波器无重采样粒子滤波器Sequential Importance Sampling Particle Filter-SISPFBootstrap Particle Filter-BPF基于高斯分布的粒子滤波器高斯积分粒子滤波器无色粒子滤波器MC粒子滤波器 粒子退化问题；Rao-Blackwellasation PF;粒子滤波器应用第四页，本课件共有57页 一个非线性随机系统可以由一个统计的状态转换方程状态转换方程和一个统计的观察观察/测量方程测量方程共同定义。（一）（一）贝叶斯滤波贝叶斯滤波 贝叶斯框架下，公式（1）确定了预测当前状态的条件转换概率条件转换概率(给定前一时刻的状态和所有的观测值)：公式（2）确定了预测当前观测值的似然概率似然概率(给定当前状态)：(1)(2)(*1)(*2)第五页，本课件共有57页贝叶斯滤波假设n-1n-1时刻状态的时刻状态的后验分布后验分布已经得到，那么我们利用条件转移概条件转移概率率可以获得n时刻状态的先验分布：在n时刻可以获得新的观测矢量 ，基于贝叶斯准则可以利用似然似然模型模型来更新先验概率先验概率分布，从而得到n时刻状态的后验概率：迭代滤波问题，通常就是在给定观测值 情况下计算当前状态的某个函数的期望（如前两阶矩）。即：遗憾的是，上式在很多场合下（非线性非高斯）没有可分解的计算方法。因此常常采用一些近似的方法求解上面的积分。第六页，本课件共有57页两种可分解情况在两种情况下有可分解的计算方法：1。离散状态空间2。线性模型，高斯噪声。（Kalman filter）第七页，本课件共有57页（二）卡尔曼滤波器状态转换方程状态转换方程观察观察/测量方程测量方程W,V为为 互不相关的均值为0，方差为Q,R的高斯加性噪声；f(),h(),Q,R 已知且不随时间改变，。第八页，本课件共有57页贝叶斯框架下，状态方程状态方程确定了预测当前状态的条件转换概率条件转换概率为高斯分布：先验概率：当前状态的先验估计：第九页，本课件共有57页设 n-1时刻后验概率为高斯分布：设 n时刻先验概率为高斯分布：第十页，本课件共有57页设 n时刻后验概率也为高斯分布，则有（当加性高斯噪声，且线性模型时可精确推得下面公式1；文献2推导了一般情况下，下面公式可用来近似后验概率为高斯分布）取后验均值作为状态的估计值。取后验均值作为状态的估计值。卡尔曼滤波器认为后验概率以及先验概率在任何时刻都是高斯分布的，这样由均值和方差就可以完全确定其概率分布（注意前面的3 3个假设个假设）。1 Peter S.Maybeck,Stochastic models,estimation and control,Academic Press,New York,San Francisco,London,1979 2A.J.Haug,A tutorial on bayesian estimation and tracking techniques applicable to nonlinear and non-Gaussian Processes,MTR 05W0000004,July,2005第十一页，本课件共有57页通用卡尔曼滤波过程状态预测（先验均值）和预测误差功率状态预测（先验均值）和预测误差功率（先验方差）（先验方差）观察值预测和预测方差观察值预测和预测方差先验预测互相关矩阵先验预测互相关矩阵计算卡尔曼增益计算卡尔曼增益使用观察值更新预测（后验使用观察值更新预测（后验均值）和估计误差功率（后均值）和估计误差功率（后验方差）验方差）预测预测更新更新初始估计：初始估计：第十二页，本课件共有57页卡尔曼滤波（线性模型）如果信号模型为线性，噪声为加性高斯噪声，则前面几个假设真实成立真实成立。并且如果已知n-1时刻的后验均值和方差，则先验和n时刻的后验均值和方差可以轻松算出。第十三页，本课件共有57页线性卡尔曼滤波过程状态预测（先验均值）和预测误差功率状态预测（先验均值）和预测误差功率（先验方差）（先验方差）观察值预测和预测方差观察值预测和预测方差先验预测互相关矩阵先验预测互相关矩阵计算卡尔曼增益计算卡尔曼增益使用观察值更新预测（后验均值）使用观察值更新预测（后验均值）和估计误差功率（后验方差）和估计误差功率（后验方差）预测预测更新更新初始估计：初始估计：第十四页，本课件共有57页非线性卡尔曼滤波求解：第十五页，本课件共有57页（三）高斯积分的数值近似求解-高斯-尔米特（Gauss-Hermite）积分Cholesky decompositionn=1第十六页，本课件共有57页高斯-尔米特（Gauss-Hermite）积分 M个积分点的求积公式的最高代数精度可达到2M-1（即对即对于小于等于于小于等于2M-1阶多项式阶多项式f(z)上式精确成立上式精确成立）第十七页，本课件共有57页高斯积分的数值近似求解-无色变换（无色变换（unscented tranformation）可见,无色变换是高斯-尔米特积分的简化（取前2n项）和修改形式（权重参数不同）。k是一个添加的自由度，可以用来控制高阶项对结果的影响，而且，还可以降低估计误差。如果x假设是高斯的话，那么根据经验值，作者建议选择n+k=3。如果x被假设成其他的分布，那么k可以有不同的选择。当k是负数的时候，计算出的预测协方差矩阵可能是非正定非正定的。此时可以在伽马粒子0周围计算，而不是在预测均值周围计算协方差矩阵。第十八页，本课件共有57页第十九页，本课件共有57页高斯积分的数值近似求解-Monte Carlo approximation第二十页，本课件共有57页（四）非线性卡尔曼滤波第二十一页，本课件共有57页GHKF/UTKF第二十二页，本课件共有57页MCKF第二十三页，本课件共有57页（五）重要性采样第二十四页，本课件共有57页固定的采样点和固定的权重系数（MC）正态分布的Ns个随机采样点当后验分布是非高斯分布或者非标准分布（无法用任何pdf描述，或者多模分布）时，很难直接得到此分布的采样点。假设可以很容易得到q()分布的采样，则可以如左计算。此时q()成为重要性分布，p()/q()称为权重。第二十五页，本课件共有57页权重的非迭代形式只考虑n时刻状态时，有下面权重公式：第二十六页，本课件共有57页权重的迭代形式最优重要性概率为p()权重的迭代形式第二十七页，本课件共有57页仅考虑一阶马尔科夫模型(所有方法都采用了此假设)：不考虑当前观测值：（改进方法不采用此简化）应用公式：观测模型状态模型采样模型（重要性分布）重要性采样概率重要性采样概率的简化第二十八页，本课件共有57页（六）粒子滤波器第二十九页，本课件共有57页采样-重要性重采样粒子滤波器 General Sampling-Importance Resampling Particle Filter(SIRPF)第三十页，本课件共有57页一个简单的重要性重采样方法第三十一页，本课件共有57页一个简单的重要性重采样方法第三十二页，本课件共有57页重要性采样概率的自助近似Bootstrap Approximation重要性采样概率采用状态转换模型来近似。权重：第三十三页，本课件共有57页Bootstrap Particle Filter简单，仅需要确定两个概率（先验概率和状态转移概率）计算负担决定于粒子数目，可能做到比GHKF,UKF更少的粒子数目。高斯和非高斯噪声严重依赖于对初始状态的估计。可能很快收敛或者很快发散（由于仅在似然方程中用到了观测值）第三十四页，本课件共有57页粒子权重退化问题退化现象：使用前面简化的重要性采样函数简化的重要性采样函数，经过若干次迭代以后，除了一个粒子以外，其它粒子的权重已经微小到可以忽略的地步。已有证明，随着时间的推进，粒子权重的方差只会增加，因而避免退化现象是一个很重要的问题。因为出现退化现象后，大量用来更新粒子信息的计算其实是浪费了，由于那些粒子的权重太小，其信息对后验概率的影响已经微不足道。以有效粒子数有效粒子数来描述粒子集的退化程度，其定义为：需要注意，有效粒子数小于等于实际粒子数目，其值远小表明严重退化。显然，解决退化问题的简单方法就是使用很大的粒子数量。但是这样的方法，在很多场合下是不现实的。所以通常我们使用其他两种方法来解决或者说缓解缓解退化问题：1）选择好的加权密度选择好的加权密度；2）使用重采样使用重采样。第三十五页，本课件共有57页粒子退化现象示例SIS(Sequential Important Sampling)Particle Filter will not work well because of degeneracy 第三十六页，本课件共有57页SIR的另一个问题由于使用先验先验进行采样（后验是先验与似然的乘积），似然很尖锐或者位于先验的某个尾部时，将很难有足够的粒子产生于两者的重叠区域，这些粒子对后验分布的表达误差将因此增大。改进方法改进方法，是使采样分布包含当前的观测值：例如，假设采样分布为高斯，利用卡尔曼滤波器估计采样分布。第三十七页，本课件共有57页不需要重采样的粒子滤波器不需要重采样的粒子滤波器主要基于上式计算权重。第三十八页，本课件共有57页高斯粒子滤波器通用框架（非线性关系的线性近似）第三十九页，本课件共有57页MC粒子滤波器MC粒子滤波器第四十页，本课件共有57页Gauss-Hermite/无色粒子滤波器第四十一页，本课件共有57页（七）粒子滤波器的应用1。定位与导航（飞行平台，车辆，移动平台，机器人）2。目标跟踪（机器人，视频）3。系统错误变化检测4。金融数据处理（股票金融汇率的预测，风险走势分析和预测，投资组合的贯序操作指导）5。时间序列信号处理（滤波）和模式识别。6。目前实验室应用（语音信号去噪，视频对象跟踪）（语音信号去噪，视频对象跟踪）7。Parameter estimation using particle methods+MCMC then recursive maximum likelihood algorithm 第四十二页，本课件共有57页汽车定位导航基于数字地图匹配或者接收到各基站信号的信息图匹配，精度可代替GPS第四十三页，本课件共有57页基于高程匹配的飞行定位和导航第四十四页，本课件共有57页Robots 定位和导航在一个已知或者以前学习过的环境中第四十五页，本课件共有57页多目标跟踪第四十六页，本课件共有57页手语识别1。视频序列（70帧）提取手部。2。利用左右手在x,y方向的速度变化建立各个手语单词模型3。利用粒子滤波器识别视频序列所表示的单词第四十七页，本课件共有57页第四十八页，本课件共有57页第四十九页，本课件共有57页第五十页，本课件共有57页第五十一页，本课件共有57页错误检测定位（Fault Detect and Isolation)1.LLR(Logarithm of the likelihood ratio)function当系统实际处于第一种参数状态和第二种参数状态时，会出现 也就是说，当系统的参数发生突变时，LLR的期望值会响应发生一个符号变化（从负到正或者从正到负）。因此可以以此判别系统是否有参数突变发生。对观察值 到 的联合LLR可以写为 j：系统状态发生变化时刻，需要估计出来。第五十二页，本课件共有57页使用上式判断是否有参数突变发生。其中为一个正阈值。假设有0,M种不同的系统模式，其中0代表系统的正常状态。则需要同时计算M个上面的LLR统计量，如果有多个统计量都大于阈值，则认为最大统计量所代表的错误模式发生。此时使用统计量：第五十三页，本课件共有57页2。利用粒子滤波器解决。利用粒子滤波器解决FDI对于M个不同的系统模式，同时运行M个粒子滤波器，则可以获得M个不同的状态后验分布。此时LLR统计量可以写为 第五十四页，本课件共有57页第五十五页，本课件共有57页第五十六页，本课件共有57页视频目标跟踪第五十七页，本课件共有57页
