统计信号处理(电子版).pdf
《统计信号处理(电子版).pdf》由会员分享,可在线阅读,更多相关《统计信号处理(电子版).pdf(101页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、统计信号处理 东南大学信息科学与工程学院 孟桥 参考书目:1)本讲义 2)管致中等 信号与线性系统下册 高等教育出版社 3)刘福声 罗鹏飞 统计信号处理 国防科技大学出版社 4)沈凤麟等 信号统计分析与处理 中国科技大学出版社 5)美Steven M.Kay 著 统计信号处理基础-估计与检测理论(中文版)电子工业出版社 第一章第一章 随机事件与随机变量随机事件与随机变量$1.1 概述概述 一、统计信号处理的研究的意义 1 研究的必要性 客观世界中干扰存在的必然性 传输信息的不可预知性 对客观时间认识的局限性 2 研究的方法 应用数理统计手段,提出一系列信号处理的手段和方法,对信号进行处理,完成
2、工程应用中的任务。3 应用领域 通信,雷达,声纳,地震,气象,电子仪器,生产,经济,二、统计信号处理的研究的内容 检测:从接受到的信号中,判别是否存在目标信号 估计:从接受到的信号中,估计出有关参数的值 参数估计 频谱估计 。滤波:从接受到的信号中,尽可能地排除干扰,恢复有用信息 识别:从接受到的信号中,识别出目标的类型 三、统计信号处理与确定信号处理的区别 研究的信号不同:确定性信号处理研究的信号具有确定的形式;统计信号处理研究的信号的形式不确定,只能用统计特性描述。研究的目标不同:确定性信号处理研究的系统的响应具有确定的形式,统计信号处理研究的系统的响应的形式不确定,只能用统计特性描述。分
3、析的方法不同:确定性信号处理可以通过求解微分或差分方程得到,统计信号处理得很多结论只能通过数理统计分析得到 研究的内容不同:由于干扰的存在,统计信号处理担负的任务要比确定性信号处理中的工作复杂得多,研究的内容也比之广泛。$1.2 随随机事件,随机变量与随机过程机事件,随机变量与随机过程 本节的内容是对概率论与数理统计中相关内容得复习 一、随机事件 1、定义:在一定条件下,可能出现也可能不出现的事件。几种特殊的事件 必然事件()与不可能事件()基本事件与复合事件 2、随机事件的运算 和运算(或运算):或 差运算:积运算(与运算):或 3、随机事件之间的关系 包含:等价:互斥:!对立:A 完备 4
4、、概率随机事件出现可能性大小的度量 41 定义 1)古典定义法:通过等概率基本事件的个数定义()AP A 包含的基本事件数基本事件的总数 2)统计定义:根据随机事件在试验中出现的次数 P()AA 事件在试验中出现的次数试验的总次数 42 概率的性质 1)0()1P A 2)()1P 3)()0P 4)()()()()P ABP AP BP AB 5)如果AB,则()()P AP B 6)如果AB,则()()()P B AP BP A 7)()1()P AP A 8)如果事件iA(1,2,.in)之间两两互斥,则11nniiiiPAA 9)如果事件iA(1,2,.in)之间互不相关,则11nni
5、iiiPAA 10)条件概率公式()(|)()P ABP A BP B(定义为在 B 事件发生的前提下 A 事件发生的概率)从这个公式中还可以引出 乘法公式:()(|)()(|)()P ABP A B P BP B A P A 贝叶斯公式:(|)()(|)()P B A P AP A BP B 例题:假设在某数字通信系统中,由于传输通道中的干扰,发送1信号而在接收端误接收到0的概率等于 a,发送0信号而在接收端误接收到1的概率同样等于 a。发送系统发出1和0的概率个为 50。现在在接收端接收到的信号为1,问在发送端发出信号是1的概率有多大?解:以 X 表示发送的数据,Y 表示接收到的数据。根据
6、题意,已知:aXYPXYP1|00|1 误码率 或:aXYPXYP11|10|0 上面这样的概率常常被称为先验概率;以及:5.010XPXP 现在要求出:1|1YXP?这种概率被称为后验概率 aXaPXPaXPaXPXYPXPXYPXPXYPYPYXPYXP101)1(1)1(00|111|111|111,11|1 思考:1、如果 a 变化,1|1YXP如何变化?2、如果0|1XYP和1|0XYP不相等,结果如何?3、如果系统发送1和0的概率不等,结果又如何?例题:假设在某种有关病症的医学化验中:A 表示诊断结论呈阳性(结论表明有病)A 表示诊断结论呈阴性(结论表明没有病)B 表示病人有病 B
7、 表示病人没有病 已知:95.0|BAPBAP,005.0BP。问:这种化验的有效率(ABP|)是多少?解:087.0995.0*05.0005.0*95.095.0*005.0|,|BPBAPBPBAPBAPBPAPBAPABP 二、随机变量 21 定义:将随机事件用一个实数表示,就构成了随机变量。随机变量与随机事件之间应该是一一对应的。随机变量可能直接含有物理意义。通过随机变量可以扩大随机事件的定义范围,易于定义无穷多的随机事件 连续随机变量:随机变量占有数轴上一个区间中所以可能的数值,其间隔可能中的任意一个实数都对应于一个随机事件;离散随机变量:随机变量只可能取数轴上某些间断的点上的值(
8、总数也可能有无穷多个)22 随机变量的概率分布函数 1)定义:()()F xPx 2)性质:(1)单调性:如果ab,则()()P aP b(2)lim()0 xF x,lim()1xF x+(3)右连续性(0)()F xF x 一般文献上用 p 表示概率密度函数,而用 P 表示概率。用 F()来表示概率的分布(如果 P 是连续的)。23 随机变量的概率密度函数 1)定义:()()dp xF xdx 2)性质:(1)()0p x,xR (2)()1pd(3)()()xF xpd(4)假设21xx,则2121()()()xxpdF xF x 24 随机变量的数字特征 1)均值(统计平均值,数学期望
9、或期望)()XE Xx p x dx 2)方差:2222()XXEXXXXp x dx 显然这里的 3)矩:()()()E f xf xp x dx ()f xx时,相应的矩称为一阶矩,实际上就是均值;2()f xxX相应的矩称为二阶中心矩,实际上就是方差;()juxf xe,可以得到一个以 u 为自变量的函数,称为特征函数 25 常见随机变量的分布 1、正态分布 1)定义:222)(21)(axexp 2)特性:(1)xa,22x (2)高斯分布随机变量只和依然是高斯型的随机变量(3)中心极限定理:无穷多个相互独立的随机变量的和的分布一定满足高斯分布 3)高斯分布在工程应用中有很重要的作用
10、这种分布最常见 这种分布有利于数学推导 4)应用举例:电路中的热噪声等 5)正态随机变量常常被简单表示为:),(2mNX 其中m为正态随机变量的均值,2为随机变量的方差。2、均匀分布 1)定义:21211()0 xxxxxp x其它 2)特性:212xxx,2221()12xxx 3)应用举例:随机正弦信号的相位,ADC 的量化误差 3、瑞利分布 1)定义:22220()0 xxexp x其它 其实际意义为:两个均值为 0 方差为2的高斯随机变量的平方和。2)特性:2x,2222x 3)应用举例:射击时弹着点与靶心距离的分布;窄带随机过程的振幅的分布 三、多维随机变量 1、定义:用两维以上的变
11、量表示的随机事件 2、联合概率分布函数 1)定义:(,)(,)P x yP Xx Yy 2)性质:(1)0),(P,0),(yP,0),(xP (2)1),(0yxP (3)1),(P (4),(yxP不能随x和y的增加而减少(5),(),(),(),(),(111221222121yxPyxPyxPyxPyYyxXxP(6)(),(xPxPX,)(),(yPyPY 3、联合概率密度函数:1)定义:yxyxPyxp),(),(2 2)性质:(1)0),(yxp (2)1),(dxdyyxp (3),(),(2121yxPddpyx (4),),(21211221yYyxXxPdxdyyxpxx
12、yy 3)边界概率密度公式:dxyxpypdyyxpxpYX),()(,),()(4、条件概率公式与贝叶斯公式 000(,)(|)()p x yp x yyp y(|)()(|)()p x y p yp y xp x 5、统计独立 1)各个随机事件之间没有相互联系,互相不相关,则称两个事件统计独立。2)统计独立的另外一个定义:()()()P ABP A P B,或(,)()()p x yp x p y 3)根据统计独立的定义以及条件概率公式,可以得出:(|)()P A BP A A 事件出现的概率与 B 事件无关 或:(|)()p x yp x (|)()P BAP B B 事件出现的概率与
13、A 事件无关】或:(|)()p y xp y 6、多维随机变量的统计特性 1)矩:(,)(,)(,)E f x yf x y p x y dxdy 2)当(,)mnf x yx y的情况下:(1)当 m 和 n 其中一个为零,一个为 1 时,相应的矩就是随机变量 x 或 y的均值,记为x或y;(2)当1mn时,称为二阶联合矩或两个随机变量的相关,记为XYR a、如果0XYR,则称随机变量 x 和 y 正交-不相关 b、如果XYRx y,则称 x 和 y 统计独立“统计独立”和“不相关”两者之间不等价。但是:如果变量的分布是高斯的,则其“统计独立”与“不相关”之间一定等价。3)联合正态分布函数(
14、1)定义 设:YXX,YXX,YYYXXYXXCCCC,yxx 则:)()(212/1121),(XxXxTeyxpXY(2)如果随机变量X和Y不相关,即0YXXYCC,则协方差矩阵非对角线上的矩阵元素全为零,成为对角线矩阵:220000YXYYXXCC 此时有:22YX,22100YX 则其分布为:2222)()(2121),(YXYyXxYXXYeyxp(3)联合正态分布的随机变量的边界概率密度 22)(21221),()(XXxXXYXedyyxpxp 22)(21221),()(YYyYXYYedxyxpxp 联合正态分布的随机变量X和Y的一维边界概率密度函数也满足正态分布。(4)当X
15、和Y不相关时,有:)()(),(ypxpyxpYXXY 应用举例:电压表设计 图示一电压表电路,表头满程电流为 100A,表头电阻 1000。R 为扩程电阻。要求:制作一个满程为 10V 的直流电压表。但是:由于制造容差,扩程电阻扩程电阻的阻值不可能很精确,而是作随机分布的高斯型变量,其平均值等于其标称值,标准差分为标称值的 1。如果用了这样的电阻后,试问此电压表测量误差不超过 2%的概率是多少,不超过 3%的概率又是多少?解:按照电路理论,容易求得这个扩程电阻阻值应该为 46109.910001010010 现在假定从库房中随机选用阻值为 100K的电阻。由于制造容差,这些电阻的阻值不可能正
16、好都是 100K而是作随机分布的。根据题意,得知电阻的平均值和标准差分别为 100K和 1K。在外加电压为 10V 的条件下,电压表的读数误差直接产生于电路中电阻的误差。在没有误差的情况下电路的电流应该为100 A 如果电阻值偏小而导致电流增加 2,则会使电压读数增加 2%,此时的电阻值应该为:561097.0100002.11010010 同样,如果电压表的读数降低 2,则电阻的阻值应该等于 561001.1100098.01010010。所以,电压表的测量误差在 2以内的概率就应该等于电阻取值在51097.0到51001.1之间的概率:551001.11097.055)(1001.1109
17、7.0P2drrpRPR电压表误差小于 现已知)(rpR是高斯型随机变量 R 的密度函数,由其已给的平均值和标准差可知 625102)10(210001)(rRerp 所以:556251001.11097.0102)10(2100012drePr电压表误差小于 将此密度函数代入,不难用计算机或可利用归一化高斯分布函数表求出此积分。如何计算上面的积分?Step1:化为标准的归一化的高斯分布函数形式:xdex2221)(具体过程:56255625556251097.0102)10(1001.1102)10(1001.11097.0102)10(2100012100012100012dredredr
18、ePrrr电压表误差小于 而:)(2110001021210001)(1252)1010(1001.1102)10(1001.112123556255xderdedredrrpxxrrR 其中 110101001.13551x)(21)(221097.0215xdedrrpxR 其中 310101097.03552x Step 2:方法 1:查表 方法 2:计算机辅助计算 例如:在 Matlab 中,提供了函数:xdexerf022)(经过计算,可以得到:8413.0)1(,0013.09987.01)3(1)3(。由此可得所求概率为 8400.0)3()1(1001.11097.055RP
19、可见,电压表读数误差不超过 2%的概率为 84。用同样方法,可以计算出电压表读数误差不超过 3%的概率为 97.72%由此可见,扩程电阻的阻值虽然没有严格按计算值 9.9105选用,但由于阻值的随机分布性质,电表测量的精确度还是可以认为有一定程度的保证的。四、切比雪夫不等式 1、切比雪夫不等式:假设X是一个随机变量,其均值为xm,方差为2x。则对于任意大于零的,有:22xxmXP 证明:假设X的概率密度函数为)(xp,则:xmxmxxxxmXPdxxpdxxpmxdxxpmxxx22222)()()()()(或者:22xxmXP 命题得证。引理:221xxmXP 切比雪夫定理说明,随机变量的方
20、差表明了随机变量分布的集中程度。随机变量分布在其均值左右,其误差:超过的概率小于 1(useless)超过 2的概率小于41 超过 3的概率小于91 超过k的概率小于21k 这个概率也被称为切比雪夫界(Chebyshev Bound,CV)。它可以用于估计误差超过一定范围的概率的最大值。利用 CV,即使不知道随机变量的分布,也可以估计出随机变量的大致分布情况。2、非负的随机变量的误差界 对于一个非负的随机变量X,有:xmXP (0)证明:假设X的概率密度函数为)(xp,则:XPdxxpdxxxpdxxxpdxxxpmx)()()()(0 或者:xmXP 命题得证。例题:某电阻厂生产一种质量要求
21、不高的小阻值电阻,电阻存在一定的误差,其均值为 100。假设电阻值只要在 1000 以内就合格,问其不合格率最大为多少?解:根据上面的定理,有:10010000.11000 xmP X 既:无论电阻值的分布和方差怎样,其不合格率都不会超过 10%。在这个定理中,不仅可以不知道随机变量的分布,而且可以不知道其方差。第二章随机信号分析第二章随机信号分析 2.1 概述概述 一、概念与定义 随机过程是随机事件含义的进一步推广。在随机过程中,每一个事件再也不能用一个实数(或向量)来表示,而必须用一个时间变量函数 f(t)或者其它自变量的函数来描述。这可以被认为是概率事件的函数化。随机过程的样本空间由很多
22、函数组成;随机事件为其中的某一个函数;每个函数都有其出现的概率。在随机实验中,每次得到的结果都是样本空间中的一个函数,这被称之为随机过程的一个实现。二、随机过程的分类 按照信号的性质,随机过程可以分为:连续随机过程与离散随机过程。按照随机过程的随机特性,随机过程又可以分为:确定性随机过程与不确定性随机过程。此外随机过程还有其它分类方法。三、随机过程与随机变量的关系 随机事件随机变量随机过程:随机事件概念的进一步延伸。当固定观测时间 t 以后,此时的观测结果就是一个随机变量。2.2 随机过程的概率随机过程的概率 一、一维描述 用随机过程各个时刻观测到的随机变量的概率密度函数来描述:(;)p x
23、t【有些文献上记为:(|)p x t】优点:简单,方便 缺点:不能准确反映各个时间点上的随机变量之间的相互关系,不全面。二、多维描述 用多个时间点上的随机变量的联合概率密度函数来描述:1212(,.,;,.,)nnp x xx t tt 它可以描述多个时间点上随机变量之间的关系,点数 n 越大描述越全面。但是这是一个多变量的函数,显然比较复杂。当各个不同的时间点上取得的随机变量之间相互统计独立时,有:12121122(,.,;,.,)(;)(;).(;)nnnnp x xx t ttp x t p x tp x t 此时只要得到了一维分布就可以得到其任意 n 维分布。这种随机过程称为独立随机过
24、程。三、常见的随机过程概率分布:高斯分布,白噪声等。见下面各节专门介绍。2.3 随机过程的数字特征随机过程的数字特征 随机过程是(时间的)函数,所以其数字特征往往也是一个(时间的)函数。一、均值()()(;)xm tE x txp x t dx 二、方差 222()()()()(;)xxxtEx tm txm tp x t dx 三、相关函数 1、自相关函数 212121212121),;,()()(),(dxdxttxxpxxtXtXEttRXX 性质:1)对称性:1221(,)(,)XXXXRt tRt t 2)22(,)()()XXXxRt ttmt 相关系数:121212(,)(,)(
25、)()XXXXxyRt tt ttt 2、互相关函数 dxdyttyxxyptYtXEttRXY),;,()()(),(212121 注意:互相关函数没有对称性。四、自协方差函数 2121212211221121),;,()()()()()()(),(dxdxttxxptXxtXxtXtXtXtXEttCXX 协方差系数:121212(,)(,)()()XXXXxyCt tt ttt 例 求随机过程)2cos()(tAtX的平均值和相关函数,其中A和分别是两个相互独立的随机变量。A 的均值为 0,方差等于2A;在20之间均匀分布。解:0)2cos()2cos()(tEAEtAEtXE )224
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 统计 信号 处理 电子版
限制150内