最小二乘估计波形估计.pptx

《最小二乘估计波形估计.pptx》由会员分享，可在线阅读，更多相关《最小二乘估计波形估计.pptx（56页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、例：正弦信号频率的估计最小化难以得到闭合性形式的解，原因是信号与未知参数f0之间存在高度的非线性关系。第1页/共56页第2页/共56页加权最小二乘估计第3页/共56页讨论：（1）当观测噪声的均值为零时，最小二乘与加权最小二乘是无偏估计。第4页/共56页（2）估计的方差阵第5页/共56页(3)对于加权最小二乘估计，如果有一些模型的知识，如E(v)=0，EvvT=R，当W=R-1时，估计误差的方差阵达到最小，这个最小的方差阵为 这时的估计称为马尔可夫估计第6页/共56页例：信号幅度的估计设N次独立观测为方法一：第7页/共56页方法2：第8页/共56页信号处理实例：最小二乘在目标跟踪中的应用目标的跟

2、踪问题可等效成一个曲线拟合问题假定目标做匀速直线运动运动模型（只考虑x方向）：第9页/共56页观测模型：令第10页/共56页 递推算法：批处理算法，运算量太大。第11页/共56页 递推算法：第12页/共56页7.7 波形估计(Waveform Estimation)根据 z(n),nn0,nf 估计s(n)波形估计的应用n图像恢复n语音恢复n目标跟踪n弹道数据处理第13页/共56页1.波形估计的三种类型(1)滤波：根据当前和过去的观测值 z(k),k=n0,n0+1,.,n 对信号s(n)进行估计(2)预测:根据当前和过去的观测值 z(k),k=n0,n0+1,.,nf 对未来时刻n(nnf)

3、的信号s(n)进行估计，预测也称为外推。数据数据第14页/共56页(3)内插:根据某一区间的观测数据 z(k),k=n0,n0+1,.,nf 对区间内的某一个时刻n(n0nnf)的信号进行估计，内插也称为平滑。数据第15页/共56页波形估计宜采用可建立递推算法的线性最小均方估计或最小二乘估计。v(n)相互独立，且若采用最大似然估计第16页/共56页这个估计量是没有意义的，因为没有对观测做任何处理。第17页/共56页最小均方估计：线性最小均方估计：滤波第18页/共56页由正交原理：Wiener-Holf 方程波形估计的关键是如何求解Wiener-Holf方程第19页/共56页维纳滤波器假定信号和

4、观测过程是平稳随机序列，并且是联合平稳随机序列，系统为线性时不变离散时间线性系统，n0=-，即观测数据为 z(k),-k，第20页/共56页维纳滤波器第21页/共56页当信号s(n)与观测噪声统计独立时 第22页/共56页如果假定 z(k),-k，系统为因果的线性时不变系统 第23页/共56页第24页/共56页当观测为白噪声的时候，第25页/共56页如果不是白噪声，那么可以先白化Hw(z)H2(z)第26页/共56页例7.13设观测过程为z(n)=s(n)+v(n)，其中假定观测噪声v(n)为零均值白噪声，方差为1，s(n)是具有有理谱的平稳随机序列，功率谱密度为信号s(n)与v(n)统计独立

5、，求估计s(n)的维纳滤波器第27页/共56页解：第28页/共56页第29页/共56页第30页/共56页连续时间的维纳滤波器离散时间滤波连续时间滤波物理可实现物理可实现第31页/共56页例7.13设观测过程为z(t)=s(t)+v(t)，-t 其中假定观测噪声v(n)为零均值白噪声，功率谱密度为1，s(n)是具有有理谱的平稳随机过陈，功率谱密度为求估计s(t)的维纳滤波器。第32页/共56页第33页/共56页第七章小结贝叶斯估计非贝叶斯估计最小均方估计条件中位数估计最大后验概率估计线性最小均方估计最大似然估计最小二乘估计都需要计算后验概率密度需要计算似然函数只对数据模型进行假定第34页/共56

6、页1.最小均方估计平方代价函数的贝叶斯估计最小均方估计是无偏估计2.条件中位数估计绝对值代价函数的贝叶斯估计第35页/共56页3.最大后验概率估计采用绝对值代价函数的贝叶斯估计最大后验概率方程第36页/共56页贝叶斯估计都需要计算后验概率密度，需要已知被估计量的分布特性。先验信息的应用，有利于提高估计的性能。第37页/共56页Mean=Median=Mode高斯后验分布第38页/共56页4.最大似然估计最大似然方程：第39页/共56页常用信号参数的估计（1）高斯白噪声中恒定电平的估计（2）高斯白噪声的方差估计均值为零均值已知均值未知第40页/共56页（3）信号幅度的估计zn=Asn+vn，n=

7、0,1,.N-1正弦信号幅度估计:第41页/共56页(4)正弦信号相位的估计第42页/共56页5.估计的性能0Desire PDF概率密度越尖越好均值要等于真值方差越小越好对于有偏估计，均方误差越小越好性能指标：无偏性 有效性 一致性第43页/共56页 估计量的CRLB当且仅当任何无偏估计的方差满足第44页/共56页达到CRLB的估计称为效估计量如果有效估计量存在，则该有效估计量一定是最大似然估计如果有效估计量不存在，则最大似然估计 的方差不一定是最小的。最大似然估计是渐近有效估计量，即第45页/共56页随机参量的CRLB任何无偏估计的均方误差满足等号成立的条件第46页/共56页如果有某个无偏

8、估计达到CRLB,那么该估计必定是最大后验概率估计.而最小均方估计的均方误差也是最小的,所以这时最小均方估计与最大后验概率估计等价.第47页/共56页6.线性最小均方估计第48页/共56页线性最小均方估计是无偏的。当观测与被估计量是联合高斯分布式，线性最小均方估计与最小均方估计等价。矢量形式：第49页/共56页7.最小二乘估计第50页/共56页第51页/共56页性质：当观测噪声的均值为零时，最小二乘与加权最小二乘是无偏估计。W=R-1时称为马尔可夫估计第52页/共56页8.波形估计滤波、预测、平滑的概念运用正交原理获得Wiener-Holf方程第53页/共56页离散时间滤波连续时间滤波物理可实现物理可实现第54页/共56页习题：7.23 7.24 7.25第55页/共56页感谢您的观看！第56页/共56页