经典检测理论ppt课件.ppt

第三章第三章 经典检测理论经典检测理论3.13.1检测理论的基本概念检测理论的基本概念3.2 3.2 最大后验概率准则最大后验概率准则 3.3 3.3 最小风险最小风险BayesBayes准则准则3.4 3.4 最小错误概率准则最小错误概率准则3.5 3.5 极大极小准则极大极小准则3.6 Neyman-Pearson3.6 Neyman-Pearson准则准则3.7 M3.7 M元检测元检测 检测理论：在噪声和干扰环境下，根据有限的检测理论：在噪声和干扰环境下，根据有限的观测数据，来识别信号有无或判断信号类别的观测数据，来识别信号有无或判断信号类别的理论。理论。 判断准则：在特定条件下具有不同含义的最优判断准则：在特定条件下具有不同含义的最优准则。准则。 信号检测：是一种基于某种最优准则，对观测信号检测：是一种基于某种最优准则，对观测数据的概率统计特性进行分析，最终做出判决数据的概率统计特性进行分析，最终做出判决的过程。的过程。3.1 3.1 检测理论的基本概念检测理论的基本概念 二元检测又称为双择检测，理论模型如下图。二元检测又称为双择检测，理论模型如下图。 第一部分是信号空间第一部分是信号空间s s（信源）（信源）：对于二元信：对于二元信号，信源在某一时刻输出（发射机发送）的信号，信源在某一时刻输出（发射机发送）的信号只有两种状态。号只有两种状态。 s s1 1(t)-(t)-代表代表1 1码的波形码的波形 s s0 0(t)-(t)-代表代表0 0码的波形码的波形第二部分是干扰空间：第二部分是干扰空间：信号在信道上传输时所叠信号在信道上传输时所叠加的噪声。一般假设为均值为加的噪声。一般假设为均值为0 0，方差为，方差为 的高的高斯白噪声。斯白噪声。第三部分是接收空间（观测空间）第三部分是接收空间（观测空间）x x：接收端接：接收端接收到的受到干扰的信号，也是判决处理的输入信收到的受到干扰的信号，也是判决处理的输入信号。号。 x(t)=sx(t)=si i(t)+n(t) (i=0,1)(t)+n(t) (i=0,1)2第四部分是判决规则：第四部分是判决规则：对输入空间的受到噪声干对输入空间的受到噪声干扰的信号按照某种准则进行判决归类，判断发扰的信号按照某种准则进行判决归类，判断发送端发送的是送端发送的是s s1 1(t) (t) 或或s s0 0(t)(t)。第五部分是判决空间第五部分是判决空间D D：二元检测中，：二元检测中，D D分为分为D D0 0区域区域和和D D1 1区域两部分。区域两部分。D D0 0区域：判断发送端发送的信号是区域：判断发送端发送的信号是s s0 0(t) (t) D D1 1区域：判断发送端发送的信号是区域：判断发送端发送的信号是s s1 1(t)(t)在接收端，无法确定信源在某一时刻输出是那种信号，为在接收端，无法确定信源在某一时刻输出是那种信号，为了分析方便，把信源的输出称为假设。两种假设了分析方便，把信源的输出称为假设。两种假设H H0 0和和H H1 1 H H0 0:x(t)=s:x(t)=s0 0(t)+n(t)(t)+n(t) H H1 1:x(t)=s:x(t)=s1 1(t)+n(t)(t)+n(t) 二元数字通信系统中，信源由符号二元数字通信系统中，信源由符号“0”0”和和“1”1”组成。当信源输出组成。当信源输出“0”0”时，用假设时，用假设H H0 0表示；而表示；而当信源输出当信源输出“1”1”时，就用假设时，就用假设H H1 1表示。表示。 雷达系统中，雷达对特定的区域进行观测并判雷达系统中，雷达对特定的区域进行观测并判定该区域是否存在目标，信源就是目标源。通定该区域是否存在目标，信源就是目标源。通常用假设常用假设H H0 0表示没有目标，而用假设表示没有目标，而用假设H H1 1表示有表示有目标。目标。四种可能的判决结果四种可能的判决结果（1 1）实际是）实际是H H0 0假设为真，而判决为假设为真，而判决为H H0 0假设为真。假设为真。（2 2）实际是）实际是H H0 0假设为真，而判决为假设为真，而判决为H H1 1假设为真。假设为真。（3 3）实际是）实际是H H1 1假设为真，而判决为假设为真，而判决为H H0 0假设为真。假设为真。（4 4）实际是）实际是H H1 1假设为真，而判决为假设为真，而判决为H H1 1假设为真。假设为真。正确的假设正确的假设 （1 1）（）（4 4）错误的假设错误的假设 （2 2）（）（3)3)对应于每一种判决结果，有相应的判决概率对应于每一种判决结果，有相应的判决概率P P（D Dj j|H|Hi i) ) (i,j=0,1) :(i,j=0,1) :假设假设H Hi i为真的条件下，判决为真的条件下，判决H Hj j成立的概率。成立的概率。在假设在假设H Hi i为真的条件下，观测量为真的条件下，观测量(x|H(x|Hi i) )的概率密度函的概率密度函数为：数为：f(x|Hf(x|Hi i) )。由于观测量（由于观测量（x|Hx|Hi i）落在判决空间）落在判决空间D Di i，则判决，则判决H Hi i成立，成立，所以判决概率有：所以判决概率有：就判决概率而言，我们希望正确的判决概率尽可能大，就判决概率而言，我们希望正确的判决概率尽可能大，而错误判决概率尽可能小。而错误判决概率尽可能小。判决概率是评价检测性能的重要因素之一。判决概率是评价检测性能的重要因素之一。 1 , 0,)|()|(jidxHxfHDPjDiij 代价函数代价函数 代价函数代价函数C Cijij: :表示实际是表示实际是H Hj j假设为真，而判决为假设为真，而判决为H Hi i假设为真所付出的代价。也称为风险函数。假设为真所付出的代价。也称为风险函数。 正确的判决无代价：正确的判决无代价：C C0000=C=C1111=0=0 检测概率检测概率：正确判决的概率：正确判决的概率P(DP(D1 1|H|H1 1) )和和P(DP(D0 0|H|H0 0) ) 虚警虚警：实际：实际H H0 0假设为真，而判决为假设为真，而判决为H H1 1假设为真。假设为真。又称为第一类错误。又称为第一类错误。 虚警引入的代价称为虚警代价虚警引入的代价称为虚警代价C C0101。 虚警发生的概率为：虚警发生的概率为：P(DP(D1 1|H|H0 0) )称为虚警概率。称为虚警概率。 漏报漏报：实际：实际H H1 1假设为真，而判决为假设为真，而判决为H H0 0假设为假设为真。又称为第二类错误。真。又称为第二类错误。 漏报引入的代价称为漏报代价漏报引入的代价称为漏报代价C C1010。 漏报发生的概率为：漏报发生的概率为：P(DP(D0 0|H|H1 1) )称为漏报概率。称为漏报概率。双择检验的本质双择检验的本质双择检验的本质双择检验的本质：如何决定判决区间的划分，使判：如何决定判决区间的划分，使判决在某种意义上位最佳。决在某种意义上位最佳。如果我们把如果我们把 降低，则正确判决概率降低，则正确判决概率P P（D D1 1| H| H1 1) )将将增大，但同时另一个正确判决概率增大，但同时另一个正确判决概率P P（D D0 0| H| H0 0) )将减小。将减小。判决域的划分不仅影响判决概率，而且有最佳的划判决域的划分不仅影响判决概率，而且有最佳的划分方法。分方法。最佳接收机的设计最佳接收机的设计 理想接收机理想接收机: :检测时能够使错误判决为最小的检测时能够使错误判决为最小的接收机。接收机。 最佳接收机的设计最佳接收机的设计：设计信号处理系统，以：设计信号处理系统，以便最佳的从干扰背景中发现信号和提取信号便最佳的从干扰背景中发现信号和提取信号所携带的信息，并根据其输入做出有无信号所携带的信息，并根据其输入做出有无信号或信号参量取值的决策。或信号参量取值的决策。3.2 3.2 最大后验概率准则最大后验概率准则 3.2.1 3.2.1接收机结构形式接收机结构形式 先验概率：先验概率：实验进行之前，观察者根据以往经实验进行之前，观察者根据以往经验和分析得到的概率验和分析得到的概率P(HP(H0 0),P(H),P(H1 1) )。 P(HP(H0 0)+P(H)+P(H1 1)=1)=1 后验概率：后验概率：在一个通信系统中在一个通信系统中, ,在收到某个消息在收到某个消息x x之后之后, ,观察者（接收端）所得到的该消息发送观察者（接收端）所得到的该消息发送的概率：的概率： P(HP(H0 0|x)|x)和和P(HP(H1 1|x)|x)。 二元检测二元检测：根据观测到的样本值：根据观测到的样本值x x，来选择或判，来选择或判决决H H0 0假设为真还是假设为真还是H H1 1假设为真。假设为真。最大后验准则最大后验准则设是设是s(t)s(t)的状态仅有两个的状态仅有两个 H H0 0:x(t)=n(t):x(t)=n(t)无信号，仅有噪声无信号，仅有噪声 H H1 1=s(t)+n(t)=s(t)+n(t)有信号（有目标）有信号（有目标）设先验概率设先验概率P(HP(H0 0),P(H),P(H1 1) )已知已知检验（检测）：根据检验（检测）：根据x(t)x(t)一个样本点一个样本点x=x(tx=x(t0 0) )，给出判决，那个是，给出判决，那个是真？真？有乘法公式：有乘法公式： P(x,H0)=P(H0|x)P(x) P(x,H1)=P(H1|x)P(x)最大后验概率准则最大后验概率准则 原则：要选择最可能出现的信号为最终的判决结果。原则：要选择最可能出现的信号为最终的判决结果。 若若P(HP(H0 0|x) P(H|x) P(H1 1|x),|x),则判决则判决H H0 0假设为真。反之，判决假设为真。反之，判决H H1 1假假设为真。设为真。 即选择与最大后验概率相对应的那个假设作为判决结果，即选择与最大后验概率相对应的那个假设作为判决结果，这个准则称为最大后验概率准则这个准则称为最大后验概率准则(MAP(MAP准则）准则）(maximum a posterior probability criterion)由于由于P(HP(H1 1|x)|x)和和P(HP(H0 0|x)|x)不容易计算不容易计算如果已知如果已知P(x|HP(x|H1 1) )和和P(x|HP(x|H0 0),),可以根据可以根据bayesbayes公式计算得到公式计算得到BayesBayes公式公式： 假设已知先验概率假设已知先验概率P P(i i) )和观测值的类条件概率和观测值的类条件概率密度函数密度函数p p(x|(x|i i) )，i i=1,2=1,2。 计算后验概率：计算后验概率：(,)(|)()()(|)()(|)iiiijjjPPpPpPpxxxxx后验概率后验概率P P (H(Hi i| x)| x)的计算的计算似然函数，似然比似然函数，似然比f(x)dxdx)xXP(xP(x)设随机变量设随机变量X X的概率密度函数为的概率密度函数为f(x)f(x)dxH|f(x)H|dxxXP(x)H|P(xiiif(x|Hf(x|Hi i) )是条件概率密度函数，又称为似然函数是条件概率密度函数，又称为似然函数最大后验概率准则推导最大后验概率准则推导设设称为似然比门称为似然比门限值限值称为似然比称为似然比似然比的性质似然比的性质（1 1）似然比是非负实数。）似然比是非负实数。f(x|Hf(x|Hi i)0)0（2 2）似然比是一个一维随机变）似然比是一个一维随机变量，当有量，当有m m个观测值个观测值x x1 1,x,x2 2,x,xm m)|.,()|()|()|()(2101_imiHxxxfHxPHxPHxPxl判决过程为：求出不同假设条件下的似然函数的似然比，然后判决过程为：求出不同假设条件下的似然函数的似然比，然后与似然门限值相比，如果大于门限值，则判决假设与似然门限值相比，如果大于门限值，则判决假设H H1 1为真；为真；否则，判决假设否则，判决假设H H0 0为真。为真。最大后验概率准则最大后验概率准则例例3.1 3.1 设在某二元通信系统中，有通信信号和无通信信号的设在某二元通信系统中，有通信信号和无通信信号的先验概率分别为：先验概率分别为：P(HP(H1 1)=0.9,P(H)=0.9,P(H0 0)=0.1)=0.1。若对某观测值。若对某观测值x x有有条件概率分布条件概率分布f(x|Hf(x|H1 1)=0.25)=0.25和和f(x|Hf(x|H0 0)=0.45)=0.45，试用最大后验，试用最大后验概率准则对该观测样本概率准则对该观测样本x x进行分类。进行分类。解：解：11. 09 . 0/ 1 . 0)()(100HPHPl56. 045. 0/25. 0)|()|()01HxfHxfxl（0)(lxl判决判决H H1 1假设为真，即有信号状态。假设为真，即有信号状态。3.2.2 3.2.2 接收机性能评价接收机性能评价最大后验概率准则可以使平均错误概率为最小，又称为最最大后验概率准则可以使平均错误概率为最小，又称为最小错误概率准则。小错误概率准则。虚警概率为：虚警概率为：漏报概率为：漏报概率为：总的错误概率（平均错误概率）为：总的错误概率（平均错误概率）为：总错误率的计算总错误率的计算总错误率最小值的计算总错误率最小值的计算同理可得同理可得将将 代入代入要使得总错误率最小，则后面的积分取负值。要使得总错误率最小，则后面的积分取负值。即：即：最大后验概率准则可以使平均错误概率为最小，最大后验概率准则可以使平均错误概率为最小，又称为最小错误概率准则。又称为最小错误概率准则。例例3.2 3.2 在存在加性噪声的情况下，测量只能为在存在加性噪声的情况下，测量只能为1v1v或或0v0v的直的直流电压，设噪声服从均值为流电压，设噪声服从均值为0 0、方差为、方差为 的正态分布，的正态分布，试对测量结果进行分类试对测量结果进行分类2最大后验概率准则：最大后验概率准则：解：在两种假设下的，接收的信号模型为解：在两种假设下的，接收的信号模型为 H0:x(t)=n(t) H H1 1:x(t)=s(t)+n(t)=1+n(t):x(t)=s(t)+n(t)=1+n(t)噪声样本符合正态分布噪声样本符合正态分布而正态分布的概率密度函数为：而正态分布的概率密度函数为：在两种假设下，观测信号样本在两种假设下，观测信号样本x x的概率密度函数分别为：的概率密度函数分别为：2221)(fznen似然比函数：似然比函数：判断规则为：判断规则为：两边取对数两边取对数结论：当观测值大于结论：当观测值大于 时，判决被测直流电压为时，判决被测直流电压为1V1V；当观测电压小于当观测电压小于 时，判决被测直流电压为时，判决被测直流电压为0 0 当当x x落入落入D D0 0区域，判决为区域，判决为H H0 0，即直流即直流电压信号为电压信号为0V0V；若落入；若落入D D1 1区域，判决为区域，判决为H H1 1，即直流电压信号为即直流电压信号为1V1V3.3 3.3 最小风险最小风险BayesBayes准则准则3.3.1 3.3.1 接收机结构形式接收机结构形式 最大后验概率准则只能使平均错误概率最小，并未考最大后验概率准则只能使平均错误概率最小，并未考虑两类错误判决所造成的损失大小。虑两类错误判决所造成的损失大小。 BayesBayes准则是使平均风险（也称为平均代价或平均损失）准则是使平均风险（也称为平均代价或平均损失）最小的准则。最小的准则。 代价函数代价函数C Cijij: :表示实际是表示实际是H Hj j假设为真，而判决为假设为真，而判决为H Hi i假设假设为真所付出的代价为真所付出的代价( (所引起的风险）。也称为风险函数。所引起的风险）。也称为风险函数。 正确的判决无代价：正确的判决无代价：C C0000=C=C1111=0=0 错误的判决肯定有代价：错误的判决肯定有代价：C C0101,C,C101000所以所以: :正确判决的风险小于错误判决的风险正确判决的风险小于错误判决的风险在已知在已知H H1 1假设为真的条件下，做出判决的平均代价称为假设为真的条件下，做出判决的平均代价称为H H1 1假设下的条件风险：假设下的条件风险：在已知在已知H H0 0假设为真的条件下，做出判决的平均代价称为假设为真的条件下，做出判决的平均代价称为H H0 0假设下的条件风险：假设下的条件风险：平均风险各条件概率按其先验概率来进行平均平均风险各条件概率按其先验概率来进行平均BayesBayes准则就是按照准则就是按照R R最小的原则来划分最小的原则来划分D D1 1区域和区域和D D2 2区域区域由于虚警概率：由于虚警概率：检验概率：检验概率：要使要使R R为最小为最小: :因此，最小风险因此，最小风险BayesBayes准则叙述为：准则叙述为：则判决则判决H H1 1假设为真，反之判决假设为真，反之判决H H0 0假设为真。假设为真。 BayesBayes准则也是一种似然比检验，将似然函数准则也是一种似然比检验，将似然函数l(x)l(x)与似然与似然门限值门限值l l0 0(x)(x)比较。比较。设似然比门限值：设似然比门限值：似然比：似然比：BayesBayes准则下的接收机形式准则下的接收机形式3.3.2Bayes3.3.2Bayes准则与最大后验概率准则的关系准则与最大后验概率准则的关系 （1 1）BayesBayes准则与最大后验概率准则均属于似然比检验，准则与最大后验概率准则均属于似然比检验，只是门限值不同而已。只是门限值不同而已。 （2 2）最小风险）最小风险BayesBayes准则的门限值不仅与先验概率准则的门限值不仅与先验概率P(HP(H1 1) )和和P(HP(H0 0) )有关，还与四个代价函数有关。最大后验概率有关，还与四个代价函数有关。最大后验概率准则仅与先验概率有关。准则仅与先验概率有关。 （3 3）最大后验概率准则是最小风险）最大后验概率准则是最小风险BayesBayes准则中取准则中取C C1010- -C C0000=C=C0101-C-C1111时的一种特例。时的一种特例。最大后验概率准则中两类错误的代价：最大后验概率准则中两类错误的代价： C C0101=C=C1010所以最大后验概率准则称为理想观测者准则。所以最大后验概率准则称为理想观测者准则。例题：设二元假设检验的观测信号模型为：例题：设二元假设检验的观测信号模型为： H H0 0:x=-1+n:x=-1+n H H1 1:x=1+n:x=1+n其中其中n n是均值为零、方差为是均值为零、方差为1/21/2的高斯观测噪声。若两的高斯观测噪声。若两种检验都是等先验概率的，而代价因子为：种检验都是等先验概率的，而代价因子为： C C0000=1 ,C=1 ,C1010=4=4, , C C1111=2=2 C C0101=8=8试求试求BayesBayes判决表示式判决表示式解：因为两种假设是等先验概率的解：因为两种假设是等先验概率的 P(HP(H0 0)=P(H)=P(H1 1)=1/2)=1/2似然比门限值为：似然比门限值为：似然比为：似然比为：2 / 12 / 12 / 12814)|()|()(01HxfHxfxl噪声样本符合正态分布噪声样本符合正态分布而正态分布的概率密度函数为：而正态分布的概率密度函数为：在两种假设下，观测信号样本在两种假设下，观测信号样本x x的概率密度函数分别为：的概率密度函数分别为：2/ 1) 1() 1(02222/ 12121)|(zxzxeeHxf2221)(fznen似然比函数：似然比函数：2/1) 1() 1(12222/12121)|(zxzxeeHxfxeHxfHxfxl401)|()|()(3.4 3.4 最小错误概率准则最小错误概率准则BayesBayes判决准则表示式为：判决准则表示式为：xe42/ 1两边取对数，整理得到最简判决表示式为：两边取对数，整理得到最简判决表示式为：x1733.0即信号样本函数大于等于即信号样本函数大于等于-0.1733-0.1733，假设，假设H H1 1成立成立信号样本函数小于信号样本函数小于-0.1733-0.1733，假设，假设H H0 0成立成立