信号检测与估计教案 第8章 信号参量估计的基本理论.docx

《信号检测与估计教案 第8章 信号参量估计的基本理论.docx》由会员分享，可在线阅读，更多相关《信号检测与估计教案 第8章 信号参量估计的基本理论.docx（28页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、信号参量估计的基本理论（1 ）第1局部教学设计第8章教学设计（1）授课日期年 月 日授课次序授课学时授课章节 或主题第8章信号参量估计的基本理论：8信号参量估计的实质；8.2信号参 量估计的基本原理；8.3信号参量贝叶斯估计；8.4最大似然估计；8.5估计 量的性能指标教学内 容提要（1） 8.1信号参量估计的实质。（2） 8.2信号参量估计的基本原理。（3） 8.3信号参量贝叶斯估计。（4） 8.4最大似然估计。（5） 8.5估计量的性能指标。目的与 要求（1）深刻理解信号参量估计的概念和实质，掌握信号参量估计的基本原 理。（2）熟练掌握贝叶斯估计、最大后验估计和最大似然估计3种经典估计 方

2、法。（3）理解估计量性能指标的物理意义，掌握估计量的性能指标。知识点 归纳（1）信节参里估11的概念。（2）信号参量估计的基本原理。（3）代价函数。（4）贝叶斯估计。（5）最大后验估计。（6）最大似然估计。（7）估计量的性能指标。132Sinp(x | 9(8.4.4)=0 k = 1,2,，加 叫 U = 4ML最大似然估计也可以看作是最大后验估计的特例。如果不知道未知参量9的先验概率密 度(。)，可以设想未知参量。是均匀分布的，从而最大后验估计转化为最大似然估计。最大似然估计具有不变性：如果dml是。的最大似然估计，且 = g(。)，那么”的最大似 然估计为。ml =g(4nJ。也就是说，

3、用原始参量的最大似然估计量3ml替换变换关系中的 参量夕，可以求出变换后的参量的最大似然估计量Aml =8那么估计量0称为。的渐近无偏估计量。对于随机参量仇如果估计量0是根据有限N次观测量构造的，且满足lim 仇力=4(8.5.4)Noo那么估计量点称为。的渐近无偏估计量。无偏性的意义是：保证估计值分布在被估计参量或被估计参量的均值附近。8.5.2 有效性对于同一个参量区有两个无偏估计量夕和如果估计量夕的方差比4的方差小，那么称估计量夕比&有效。具有最小方差的估计量称为有效估计量。最小方差或均方误差由 克拉美-罗(Cramer-Rao)下限给出。有效性的意义是：衡量估计量的误差。误差越小，越有

4、效。8.5.3 5. 3 一致性对于任意小的正数5,如果估计量满足lim P(| 0-。| = 0(8.5.7)TVoo那么估计量称为一致(概率收敛的)估计量。如果估计量的均方误差满足lim ( 0-42 = o(8.5.8)Nf 8那么估计量0称为均方一致(均方收敛的)估计量。如果被估计量。的估计量。是根据有限N次观测量构造的，自然随着观测次数N的增 加，估计量的质量有所提高，即一致性的意义是：估计值趋于被估计值的真值，或者估计的均方误差逐步减小。8. 5. 4充分性对于观测数据x,如果被估计量e的估计量Rx)使得似然函数(工| g分解成p(x | 4=g(瓦x) I 6h(x) h(x)

5、0(8.5.9)那么估计量比0称为充分估计量。式中：g(%0|功是通过 瓦X)才与X有关的函数，并且以 夕为参量，即g(%OI e只是 晨)和夕的函数；函数久幻只是元的函数，与参量e无关。 函数g(以)1 4可以是估计量 限)的概率密度函数。充分估计量的意义是：充分估计量比其他估计量能够提供更多的有关参量夕的信息，或 者说，充分估计量”应表达了含在观测数据R中有关参量。的全部有用信息。第3局部教学小结本教学单元在阐述信号参量估计的概念及实质的基础上，依据贝叶斯统计决策的理论和 方法，讨论了信号参量估计的基本原理。重点讨论了贝叶斯估计、最大后验估计和最大似然 估计3种经典估计方法。针对估计方法的

6、性能评价，分析了估计量性能指标的物理意义。希望通过课后复习和做习题，理解信号参量估计的实质和基本原理，掌握贝叶斯估计、 最大后验估计和最大似然估计方法，熟悉估计量的性能指标。142信号参量估计的基本理论信号参量估计的基本理论(2)第1局部教学设计第8章教学设计（2）授课日期年 月 日授课次序授课学时授课章节 或主题第8章信号参量估计的基本理论：8.6克拉美-罗不等式；8.7线性最小 均方误差估计；8.8最小一乘法估计教学内 容提要（1） 8.6克拉美-罗不等式。（2） 8.7线性最小均方误差估计。（3） 8.8最小二乘法估计。目的与 要求（1）理解克拉美-罗不等式的意义，熟悉克拉美-罗不等式，

7、掌握单个非 随机参量情况的克拉美-罗不等式的推导方法。（2）理解线性最小均方误差估计的概念，掌握线性最小均方误差估计方 法，熟悉线性最小均方误差估计的性质。（3）理解最小二乘法估计的概念，掌握最小二乘法估计方法。知识点 归纳（1）克拉美-罗不等式。（2）克拉美.罗下限。（3）线性最小均方误差估计。（4）线性最小均方误差估计的性质。（5）最小二乘法估计。教学重点（1）克拉美-罗不等式。（2）线性最小均方误差估计。（3）最小二乘法估计。教学难点（1）克拉美-罗不等式。（2）线性最小均方误差估计。（3）最小二乘法估计。教学方法讲授法、讨论法、演示法、问题教学法。教学手段黑板、多媒体课件、仿真软件。教

8、学过程 设计1.教学内容的展开(1)通过估计量的性能指标引出克拉美罗不等式；由最小均方误差估计 引入线性最小均方误差估计；由估计方法所需条件的不同引入最小一乘法 估计。(2) 8.6节的教学思路：克拉美-罗不等式反映了估计的方差或均方误差 下限。被估计量不同，克拉美-罗下限也就不同。针对单个非随机参量、单个 随机参量、单个非随机参里函数、非随机参量向量、随机参量向量及非随机参 量向量函数情况，分别讨论了相应的克拉美-罗不等式。以单个非随机参量情 况的克拉美-罗不等式为代表，重点讨论。通过例题掌握克拉美-罗不等式的应 用。具体讲授过程：单个非随机参量情况一单个随机参量情况一单个非随机参 里函数情

9、况f非随机参里向里情况一随机参里向里情况一非随机参里向里函 数情况一例题。(3) 8.7节的教学思路：通过分析最小均方误差估计的特点，引入线性最 小均方误差估计。然后分别讨论单个参量和参量向量的线性最小均方误差估 计。分析线性最小均方误差估计的性质，使学生掌握线性最小均方误差估计的 原理。具体讲授过程：单个参量的线性最小均方误差估计一参量向量的线性最 小均方误差估计一线性最小均方误差估计的性质。(4) 8.8节的教学思路：在阐述最小二乘估计优缺点和最小二乘估计准那么 的基础上，分别讨论单个参量的线性最小二乘估计、参量向量的线性最小二乘 估计及加权线性最小二乘估计。通过例题掌握线性最小一乘估计的

10、方法。具体 讲授过程：最小二乘估计准那么一单个参量的线性最小二乘估计一参量向量的线 性最小二乘估计一加权线性最小二乘估计一例题。(5) 布置适当练习，使学生掌握克拉美-罗不等式和线性最小二乘估计的 方法。2.教学方法与手段的应用以多媒体教学为主，辅以板书和仿真演示。主要的知识点和关键的内容采 用板书加以强调。线性最小均方误差估计和线性最小一乘估计过程采用仿真演 Zj o以讲授法为主，辅以问题教学法、演示法和讨论法。线性最小均方误差估 计和最小二乘估计的概念及实质采用问题教学法，提高学生发现问题的能力。 线性最小均方误差估计的性质，激发学生学习兴趣。对线性最小均方误差估计 和线性最小二乘估计过程

11、，采用编程讲解和演示法，培养学生用所学知识解决 问题的能力。144课后作业课后作业教材第8章的思考题：8.6、8.7o教材第 8 章的习题:8.9、8.12、8.14、8.17、8.18。教学后记通过多媒体、板书、编程讲解和仿真软件演示相结合的教学方法，阐述了 克拉美-罗不等式的意义，讨论了多种情况下的克拉美-罗不等式；根据估计方 法适用条件的不同，逐步了讨论了线性最小均方误差估计和最小二乘法估计。 针对几种典型应用，通过仿真软件，演示了线性最小均方误差估计和最小二乘 法估计过程，提高了教学效果。第2局部教学内容8.6克拉美-罗不等式1 .单个非随机参量情况的克拉美罗不等式定理861：设。是单

12、个非随机参量e的任意无偏估计量，(xie)为似然函数，那么估计 量。的方差满足Var 0 = E(0-O)2 E1Slnp(x |。)丫dO,(8.6.1)Var9 = ()2 E1d2 Inpx | 8)(8.6.2)dO2当且仅当对所有的x和夕都满足(8.6.3)31n修 =K()时，式(8.6.1)和式(8.6.2)两个不等式的等号成立。其中，K(。)可以是(9的函数，但不 能是x的函数，也可以是任意非。常数K。式(8.6.1)和式(8.6.2)称为单个非随机参量情 况的克拉美-罗不等式。克拉美-罗不等式的右端是无偏估计量畲的方差下限，称为克拉美-罗 下限或克拉美-罗下界。证明：由于。是

13、单个非随机参量。的任意无偏估计量，有石加例= J (A _ 6) p(x | 6)ck = 0通过对上式两边求偏导，得到r1二引一碰&J一味一p。心=。进一步由上式得到j 叱”( _ = i利用施瓦兹不等式，得到单个非随机参量情况的不等式克拉美-罗不等式的第一种形式。 通过对下式两边求2次偏导，得到d2 In p(x 0)do2px 6)dx +jSin p(x 夕)丫dd )p(x | 6)dx = 0于是有5 In p(x 8) 丫5 In p(x 8) 丫dd )=Ed2 In p(x 19)de2将上式代入克拉美-罗不等式的第一种形式，就可得到克拉美罗不等式的另一种形式。2 .单个随机

14、参量情况的克拉美罗不等式定理8.62 设。是单个随机参量。的任意无偏估计量，p(x,6)为观测信号工与待估随 机参量。的联合概率密度，那么估计量。的均方误差满足(8.6.4)(8.6.5)-1d2 lnp(x,。)do2当且仅当对所有的X和。都满足(8.6.6)时，式(8.6.4)和式(8.6.5)两个不等式的等号成立。式(8.6.6)中，左为任意非。常数。式(8.6.4)和式(8.6.5)称为单个随机参量情况的克拉美-罗不等式。克拉美-罗不等式的右 端是无偏估计量。的均方误差下限，称为克拉美-罗下限。3 .关于单个参量情况的克拉美罗不等式的讨论对单个参量情况的克拉美一罗不等作如下的讨论。14

15、6(1)任何单个待估计参量，它的有效估计量并不一定总存在。(2)当有效估计量存在时，此有效估计量的方差或均方误差就是克拉美-罗下限。(3)对于单个非随机参量，当有效估计量存在时，并将有效估计量记为那么有效估 计量。等于最大似然估计3ML，即a=0ML。(4)对于单个随机参量，当有效估计量存在时，有效估计量。等于最大后验估计Omap，即 - MAP 0(5)有效估计量一定是建立在无偏的基础上的。(6)只有无偏的和有效的估计量，其估计的方差或均方误差才能到达克拉美-罗下限， 并可通过计算克拉美-罗下限求得该估计量的方差或均方误差。4 .单个非随机参量函数情况的克拉美罗不等式定理863：设单个非随机

16、参量。的函数7 = (夕)，其估计量,是7的任意无偏估计量， p(x|。)为似然函数，那么估计量方的方差满足Vary=仇(方-Z)2人(867)(Slnp(x|9)Y dop(一【京,(8.6.8)。2 mpd02当且仅当对所有的x和0都满足四鬻史= K(6) /)(8.6.9)时，式(8.6.7)和式(8.6.8)两个不等式的等号成立。其中，K(。)可以是(9的函数，但不 能是x的函数，也可以是任意非。常数K。式(8.6.7)和式(8.6.8)称为单个非随机参量函 数情况的克拉美-罗不等式。克拉美-罗不等式的右端是无偏估计量，的方差下限，称为克拉 美-罗下限。5 .非随机参量向量情况的克拉美

17、罗不等式定理864：设0=自,。丁是非随机参量向量,的任意无偏 估计向量，px g为似然函数，如果。是被估计的非随机参量向量e的第i个参量4的任 意无偏估计量，那么估计量。的方差满足(8.6.10)(8.6.10)VarM = E(8-即2之匕，=1,2,式中：匕,是机X机阶矩阵P的第，行第/列元素。矩阵/的第i行第/列元素为51np(x| gOlnpOJ 6jfadei 叱321np g . ./QK=E z, / = 1,2,%2(8.6.11)deidoj矩阵J通常称为费希尔(Fisher)信息矩阵，它表示从观测数据中获得的信息。当且仅当对所有的x和。都满足31np(x| 9-m /、八

18、=J( 0- 0)(8.6.12)de时，式(8.6.10)不等式的等号成立。式(8.6.10)就是非随机参量向量情况的克拉美-罗不等 式，不等式的右边就是克拉美-罗下限。如果对于加维非随机参量向量。的任意无偏估计向量0中的每一个参量式(8610) 的等号均成立，那么这种估计称为联合有效估计。所以，户”是。的方差的下限，即克拉美- 罗下限。6 .随机参量向量情况的克拉美罗不等式定理8.65设 泊其其，瓦了是随机参量向量%，/的任意无偏估 计向量，p(x| g为似然函数，如果。是被估计的随机参量向量。的第i个参量外的任意无 偏估计量，那么估计量。的均方误差满足-q)2 N 仃 i = 1,2,-

19、 -(8.6.13)式中：是根xm阶矩阵Wt = J;的第，行第/列元素。= Jd+Jp为信息矩阵。矩 阵Jd的第，行第/列元素为31n(x| - 31nMx| gdl dOj(8.6.14)_E 皿0 deidej矩阵Jp的第，行第/列元素为E 31n( 6 Slnp( gd6i dO=E d MW G = 1,2,H2(8.6.15)当且仅当对所有的x和。都满足14851np（x I S 一 八/、一八 Jj0）（8.6.16）a 0 T时，式（8.6.13）不等式的等号成立。式（8.6.13）就是随机参量向量情况的克拉美-罗不等式, 不等式的右边就是克拉美-罗下限。7 .非随机参量向量函

20、数情况的克拉美罗不等式对于由加维非随机参量向量夕=4，%，如果估计加维向量。的上维函数 =，九 =（巧，这就是非随机参量向量函数的估计问题。定理8.6.6 ：设加维非随机参量向量，二口,%，t，向量。的Z维函数 二勿，/2，3，九=（为，=九,九,，”了是非随机参量向量函数7= （乃的任意 无偏估计向量，p（x S为似然函数，如果力.是被估计向量=（3的第，个参量力的任意 无偏估计量，那么估计量九的方差满足Var = W/-X/）2 % = 12，加（8.6.17）式中：是矩阵Wf的第，行第J列元素。矩阵迎F为(8.6.18)(8.6.18)加(4厂10)。/ d 0当且仅当对所有的X和6都满

21、足也 J-X也 J-X31np(x| gd0(8.6.19)时，式（8.6.17）不等式的等号成立。式（8.6.17）就是非随机参量向量函数情况的克拉美- 罗不等式，不等式的右边就是克拉美-罗下限。例8.61在时间0 4, WT内，观测信号为穴。=夕+几Q）。是被估计的非随机参量， 噪声）服从均值为0、方差为b2的高斯分布。根据观测信号的攵次独立观测，对参量。进 行最大似然估计。m（1）分析最大似然估计的无偏性、一致性、充分性和有效性；（2）求 克拉美-罗下限。8 .7线性最小均方误差估计估计量是观测量的线性函数，并以均方误差最小为准那么的估计称为线性最小均方误差估 计。线性最小均方误差估计需

22、要观测信号和被估计参量的前二阶矩。线性最小均方误差估计量具有正交性质：估计的误差向量与观测向量正交，这一正交性 质常称为正交原理。最小均方误差估计是一种最正确估计，而线性最小均方误差估计是一种准最正确估计。与最 小均方误差估计相比拟，线性最小均方误差估计的性能稍差些。8. 7.1单个参量的线性最小均方误差估计1 .单个参量的单次观测情况线性最小均方误差估计的估计量是观测数据的某种最正确线性函数，在所有线性函数中， 它与被估计参量之间的均方误差最小。设单个被估计参量为一次观测得到的数据为x,对。的估计量3是观测量的线性函 数，即O = ax + b(8.7.1)式中：a , Z?为常系数。线性最

23、小均方误差估计就是使仇/一 Si = E(ax + b 8)2 (8.7.2)最小。式中： = 0 8为估计误差。线性最小均方误差估计的系数为。=勺(8.7.5)b = m()- amx(8.7.6)式中：加9 =E例是被估计参量9的均值；m* =仇只是观测数据元的均值；是观测数 据X的方差，即b； =(% 机、)2 = 一机；为。和X的协方差，即人x =石(8 _ 7% )(x 加)】=E0x - m0mx(8.7.7)线性最小均方误差估计的估计量为人R ms = r x + 根0 一 a叫()crjX最小均方误差为222仇 2 =。：2 ?+ 勺=。：-(8.7.10)C CCXXA当x与

24、e的联合概率密度(x, 3)为高斯分布时，线性最小均方误差估计与最小均方误差 估计一致。2 .单个参量的屡次观测情况设单个被估计参量为N次观测得到的数据为七/2,，X/V，对2的估计量力是观测 数据的线性函数，即150教学重点(1)信号参量估计的基本原理。(2)代价函数。(3)贝叶斯估计。(4)最大后验估计。(5)最大似然估计。(6)估计量的性能指标。教学难点(1)信号参量估计的基本原理。(2)贝叶斯估计。(3)估计量的性能指标。教学方法讲授法、讨论法、演示法、问题教学法。教学手段黑板、多媒体课件、仿真软件。教学过程 设计1 .教学内容的展开(1)通过实际应用需求牵引出信号参量估计。(2)8.

25、1节的教学思路：从实际应用需求出发，阐述信号参量估计的概念； 根据处理的对象，说明信号参量估计的实质；通过分析信号参量估计的推理行 为，论述其数学基础，启发学生思维。具体讲授过程：实际应用需求一信号参 量估计的概念一信号参量估计的实质一信号参量估计的数学基础。(3) 8.2节的教学思路：依据贝叶斯统计决策的理论和方法，讨论随机信 号的参数估计问题。根据信息传输系统模型，建立信号参量估计的信号模型、 参量空间及判决空间，分析信号参量估计所需的信息，说明信号参量估计问题 是一个最优化问题，归纳设计信号参量估计系统的步骤，使学生掌握信号参量 估计的基本原理。具体讲授过程：信号参量估计的信息传输系统模

26、型一信号参 量估计的信号模型f参量空间及判决空间一信号参量估计所需的信息f信号 参量估计的准那么一估计量估计量的性能评价参量估计系统框图一设计信 号参量估计系统的步骤。(4) 8.3节的教学思路：依据贝叶斯统计决策的方法，构造贝叶斯风险作 为最优化问题的目标函数，使贝叶斯风险到达最小就是贝叶斯估计。根据典型 代价函数，分别讨论最小均方误差估计、条件中值估计及最大后验估计。通过 例题掌握贝叶斯估计的方法。具体讲授过程：贝叶斯估计所需的条件一一 般贝叶斯估计一最小均方误差估计一条件中值估计f最大后验估计f例题。(5) 8.4节的教学思路：依据贝叶斯估计所需的条件这条线索，讨论 最大似然估计的物理意

27、义，构造最大似然估计方程;通过与最大后验估计比拟， 分析最大似然估计与最大后验估计的关系。重点要强调最大似然估计的不变 性。通过例题掌握最大似然估计的方法。具体讲授过程：最大似然估计所需的 条件一最大似然估计的物理意义一最大似然估计方程一与最大后验估计人 N0 = akxk +b(8.7.11)k=式中：,2，。，为常系数。线性最示均方误差估计就是使NEs2 = EK。-6)2)= Eakxk +b)-02(8.7.12)k=最小。式中： = 0 6为估计误差。线性最小均方误差估计的系数是以下方程组的解Nb - m0 一(8.7.15)k=NE(akxk +b-0)xi = 0 i = 1,2

28、,，N(8.7.16)k=式中：机是观测数据4的均值。8. 7.2 参量向量的线性最小均方误差估计设被估计参量向量为夕=4招2，3，6例，N次观测得到的数据为玉，X” 观 测数据组成观测向量为“ = X”X2，X/JT，对。的估计量。是观测向量X的线性函数，即0=Ax + b(8.7.21)式中：A为xN阶的常数矩阵；办为用行常数向量。定义估计误差向量为= 0- 8。 线性最小均方误差估计就是使E，目=仇(。-始(。-匆= E(Ax + b-夕(Ax +- g(8.7.22)最小。式中：= 0-。为估计误差向量。线性最小均方误差估计的矩阵A和向量力为b = m - Amx(8.7.25)A =

29、 Qx。1(8.7.26)式中：加二E5是被估计参量向量。的均值；=仇幻是观测向量*的均值；J是观 测向量工的协方差矩阵；C0x为。和工的互协方差矩阵。协方差矩阵C,和互协方差矩阵 的表示式为(8.7.27)(8.7.28)(8.7.29)Cx = Covx, x = E(x-zwx)(x-wx)t = Exxy-mxmC0X =Cov Qx = (/n0)(x-mx)T = E线性最小均方误差估计的估计量为/X4Ms = Cox。乂(X - mx)+ 机。8. 7. 3 线性最小均方误差估计的性质（1）线性最小均方误差估计的估计量是观测量的线性函数。（2）线性最小均方误差估计只需要观测量和被

30、估计参量的前二阶矩。（3）线性最小均方误差估计的估计量是无偏估计量。（4）线性最小均方误差估计的估计量具有正交性质：即估计误差与观测量正交。（5）当观测量与被估计参量的联合概率密度为高斯分布时，线性最小均方误差估计与最 小均方误差估计一致。（6）线性最小均方误差估计的估计量在线性变换上的可转换性。（7）线性最小均方误差估计的估计量的可叠加性。8.8最小二乘估计最小二乘估计准那么最小二乘估计是使误差平方和到达最小的一种估计方法。它不需要观测量和被估计参量 的任何先验统计知识，只需要关于被估计参量的观测信号模型。对于单个被估计参量8,设信号模型为4（。）,52（。）,53），如果对信号进行了次 观

31、测得到观测量玉,声,Xn，被估计参量o的最小二乘估计e是使N，（。）=2区, -必0）2（8.8.1）k=到达最小，相应的估计量记为良最小二乘估计的准那么是使误差4 = %-%（。）的平方和 到达最小的估计。对于被估计参量向量夕=口，%了，设信号模型为s（S = 5（g, 与（,力（如T,对信号进行N （N2M）次观测得到的数据为/2，5，观测数 据组成观测向量为“二七,，,x/t,被估计参量向量夕的最小二乘估计使J（3= m e=x-s（ ）Vx-s（ 0）（8.8.2）到达最小，相应的估计向量记为s。式中：=%-s（3为误差向量。根据信号模型s（ S，最小二乘估计可分为线性最小二乘估计和非

32、线性最小二乘估计。1528. 8.2单个参量的线性最小二乘估计对于单个被估计参量6,设线性信号模型为sk (3) = hk0 攵= 1,2,N(8.8.3)式中：/! = %, 为，MnF是的观测系数向量。假定对信号做N次观测，得到观测方程 为xk = hk0 + 8k 攵= 1,2,N(8.8.4)式中：x = X,%2,/了是的观测向量；2 =旧，2，加了是未知的误差向量，它 是一个随机向量，又称为观测噪声向量，并且没有任何先验的统计知识。线性最小二乘估计是使NN/(，)= !； =2% (8.8.5)k=k=l到达最小。线性最小二乘估计量为N(8.8.7)Xk=最小二乘估计误差的平方和为

33、(N 丫NEkXkJmin(力二一(889)I Z照k=l线性最小二乘估计的估计量具有下述的性质。(1)线性最小二乘估计的估计量是观测向量的线性函数。(2)如果误差或观测噪声的均值石j = 0(2 = 1,2,N),那么线性最小二乘估计的估 计量是无偏的。8. 8.3 参量向量的线性最小二乘估计对于被估计参量向量e=,%，3，4JT，设线性最小二乘估计的信号模型为s(O) = H 9(8.8.12)式中：H是的NxM阶矩阵QNNM),称为观测矩阵。假定对信号做N次观测，得到观测方程为x = H 0+(8.8.13)式中：* =2,2,，x/T是的观测向量； = ，2,，是未知的误差向量，它 是

34、一个随机向量，又称为N维观测噪声向量，并且没有任何先验的统计知识。线性最小二乘估计是使N，(句=Z靖=2屋=(X H 时(x H k= xtx-xtH 0- 0rHTx+ 0TH(8.8.14)到达最小。当矩阵T非奇异时，线性最小二乘估计的估计向量为=(HtH)(8.8.16)最小二乘估计误差的平方和为Jmin()= xTZ-H(HT H)1 Htx(8.8.18)对于参量向量，线性最小二乘估计的估计向量具有下述的性质。(1)线性最小二乘估计的估计量是观测量的线性函数。(2)如果误差向量或观测噪声向量的均值向量为0,那么线性最小二乘估计的估计向量是 无偏的。8. 8.4 加权线性最小二乘估计将

35、观测量乘以与本次观测噪声强度成反比的权值后再构造估计量，这就是加权线性最小 二乘估计。加权线性最小二乘估计需要线性观测噪声的前二阶矩。假定观测噪声向量的均值 向量和协方差矩阵分别为 = 0和讥/1 = C。加权线性最小二乘估计就是使加权误差的平方和Jw( 3 = 血=(x H 妒 W(x-HO)(1)到达最小，相应的估计向量称为加权线性最小二乘估计的估计向量，记为M,s。式中：称 为加权矩阵，它是NxN阶的对称正定阵。当W = 1时，就退化为非加权的线性最小二乘 估计。当矩阵htwh非奇异时，加权线性最小二乘估计的估计向量为Ms = HWHYx HyWx(8.8.23)对于参量向量，加权线性最

36、小二乘估计的估计向量具有下述的性质。(1)加权线性最小二乘估计的估计量是观测量的线性函数。(2)如果误差向量或观测噪声向量的均值向量为0,那么加权线性最小二乘估计的估计向154量是无偏的。当w =时，估计误差向量的均方误差矩阵是最小的，此时的加权矩阵称为最正确加权矩阵，记为WpT。例882用电表对电源电压进行两次相互独立的测量，测量结果分别为216V和220V。 假定两次测量误差的均值都为3第一次测量误差的方差为16,第二次测量误差的方差为4, 求电源电压的加权最小二乘估计。第3局部教学小结本教学单元主要讨论了克拉美一罗不等式、线性最小均方误差估计和最小二乘法估计。克 拉美罗不等式是信号参量估

37、计中的一个重要不等式，在一定条件下，任何估计量都存在一个 方差下限，是衡量估计量好坏的一个标准，在实际中广泛应用。线性最小均方误差估计要求 观测信号和被估计参量的前二阶矩。最小二乘估计需要被估计参量的观测信号模型。 它们可以看作是需要的条件不断放宽的估计方法，均是重要的估计方法。希望通过课后复习和做习题，理解克拉美-罗不等式的意义，掌握线性最小均方误差估计 和最小二乘估计方法，熟悉估计量的性能指标。的关系一例题。(6) 8.5节的教学思路：着重分析估计量性能指标的物理意义，选择这些 性能指标的合理性。具体讲授过程：无偏性一有效性一一致性一充分性。(7)布置适当练习，使学生掌握信号参量估计的基本

38、原理和方法。2.教学方法与手段的应用以多媒体教学为主，辅以板书和仿真演示。主要的知识点和关键的内容采 用板书加以强调。最大似然估计在实际中的应用过程采用仿真演示。以讲授法为主，辅以问题教学法、演示法和讨论法。信号参量估计的概念 及实质采用问题教学法，提高学生发现问题的能力。一般贝叶斯估计采用讨论 法，激发学生学习兴趣。对最大似然估计过程，采用编程讲解和演示法，培养 学生用所学知识解决问题的能力。课后作业教学后记教材第8章的思考题：教材第 8 章的习题：8.1、8.3、8.5、8.7、8.8。通过多媒体、板书、编程讲解和仿真软件演示相结合的教学方法，阐述了 信号参量估计的概念及实质，讨论了信号参

39、量估计的基本原理，重点讨论了贝 叶斯估计、最大后验估计和最大似然估计3种经典估计方法，分析了估计量的 性能指标，到达了预定的教学目标。针对儿种典型应用，通过仿真软件，演示 了最大似然估计过程，提高了教学效果。第2局部教学内容8.1 信号参量估计的概念信号估计是根据接收信号的观测值或观测波形来估计信号的未知参量或未知波形。信号参量估计是根据接收信号的观测值或观测波形来估计信号的未知参量。未知参量可 能是随机变量，也可能是非随机的变量。估计量是接收信号的观测值或观测波形的函数，是被估计出来的信号未知参量。信号参量估计的实质是随机信号的参数估计问题，也就是数理统计中参数估计向随机信 号的拓展。信号参

40、量估计采用数理统计中贝叶斯统计的贝叶斯统计决策的理论和方法。8.2 信号参量估计的基本原理L信号参量估计的信息传输系统模型信号参量估计的信息传输系统模型是加性噪声情况信息传输系统模型，如下图。134图821加性噪声情况信息传输系统模型2 .信号参量估计的信号模型设发送设备发送的信号为s亿6，信道的加性噪声为），接收设备的接收信号为X。）， 那么加性噪声情况信息传输系统的接收信号模型为x（0 = s（t, 4 + n（t） = s（入4,%，4）+ 几（8.2.1）式中：。=8T为未知参量向量，表示未知参量信号的2个未知参量。由于噪声 是随机信号，故接收设备的接收信号也是随机信号。在信号参量估计

41、中，将所有可以观测的接收信号组成的集合称为观测空间，并记为 声=无。），或记为/ = x。3 .参量空间及判决空间对于信号参量估计，信号sQ, 3的所有参量向量组成的集合称为参量空间，记作 6 = 内。对于加维参量向量0,参量空间内是加维空间；如果参量向量。是单个参 量，那么参量空间就是一段直线。对于信号参量估计，判决空间一般取参量空间，即=。=内。4 .信号参量估计所需的信息信号参量估计所需的信息是指未知信号、噪声以及信息传输系统的统计特性，也就是贝 叶斯统计决策所需的信息，包括先验信息、抽样信息和损失信息。（1）先验信息对于信号参量估计问题，先验信息就是可以事先确定的信息源和发送设备发送信

42、号的参 量向量。的联合概率密度p（功，称为先验概率密度。（2）抽样信息对于接收信号x） = s, 0） + ,如果发送设备发送的信号g是具有未知参量信 号（信号形式），那么接收设备接收信号的概率分布形式与噪声的概率分布形式相同，只是 概率分布的参数不相同。将接收信号看作总体，知道了信道噪声的概率分布形式，也就知道 了接收设备所接收信号的总体分布。设信道噪声的概率密度为以信号参量向量。为条件的接收信号的条件分布为p（x| 4 = M）|=as=p（x-s（幼（822）条件分布p（x| 3就是似然函数，它是对接收信号统计特性的描述，是接收信号观测样本信 息与接收的信号总体信息的综合反映。抽样信息是

43、指似然函数。（3）损失信息损失信息就是信号参量估计系统作出正确或错误判决的代价函数，表示信号参量估计系统所作决策的正确程度。设发送设备发送信号的真实参量为凡而信号参量估计系统将信号参量估计为初定义 信号参量估计系统为此付出的代价为代价函数。(Q引。真实参量夕与估计量之差 e=e-称为估计误差。一般选用的代价函数与估计误差c=有关。即 c(“8 = c(e-8,而且误差越大，代价越大。代价函数c(q应为非负函数、凹函数、在估计误差 = 0时到达最小值，并且是误差 绝对值I 0-初的非减函数，是关于=。的对称函数。常用的典型代价函数有：误差平方代价函数、误差绝对值代价函数及均匀代价函数。误差平方代

44、价函数的数学表示式为c( m=c(夕一3=(。一歹误差平方代价函数的图形如图822所示。误差绝对值代价函数的数学表示式为c(q 0)= c( e-3y o- e误差绝对值代价函数的图形如下图。均匀代价函数的数学表示式为八入 八入 1 I e- e Ac( Q g =。(。一 g = 人0 | e- ff a(8.2.3)(8.2.4)(8.2.5)图均匀代价函数图822误差平方代价函数图823误差绝对值代价函数式中：为正的常数。均匀代价函数的图形如图824所示。5 .信号参量估计的准那么信号参量估计的准那么就是使估计量到达最正确的标准。信号参量估计问题是一个最优化问 题。6 .信号参量估计的估计量信号参量吵估计量就是满足一定最正确准那么的从观测空间中=x到判决空间上的一 个映射或函数d(x)，7 .估计量的性能评价对于同一个参量向量区可以有许多不同的估计量或有许多不同的估计方法，需要对估 计量性能进行评价。1368 .设计信号参量估计系统框图在满足估计性能要求的情况下，依据估计量的数学表示式，设计信号参量估计系统的系 统模型，并画出系统框图。9 .设计信号参量估计