(10.3.1)--贝叶斯准则及奈曼-皮尔逊准则.pdf

贝叶斯准则及奈曼贝叶斯准则及奈曼-皮尔逊准则皮尔逊准则 贝叶斯准则及计算贝叶斯准则及计算 派生贝叶斯准则及计算派生贝叶斯准则及计算最小总错误概率准则最小总错误概率准则最大后验概率准则最大后验概率准则奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算1.1.贝叶斯准则及计算贝叶斯准则及计算在已知信号的先验概率和代价因子条件下，使统计平均代在已知信号的先验概率和代价因子条件下，使统计平均代价最小。价最小。00100111cDCC PCqCC Pp统计平均代价统计平均代价q q和和p p分别表示分别表示和和的先验概率，的先验概率，C Cij ij表示表示H Hj j为真，判决为为真，判决为H Hi i所付出的代价。所付出的代价。0H1H001110000111CC qC pCCqCCp10000111CCCqCCp10000111CCqCCCp110001001111(|)(|)ZCCqCp z Hp z HdzCCp 1.1.贝叶斯准则及计算贝叶斯准则及计算1.1.贝叶斯准则及计算贝叶斯准则及计算1000100111()(|)(|)CCqf zp z Hp z HCCp()f zz1Z1Z1Z1.1.贝叶斯准则及计算贝叶斯准则及计算1000100111(|)(|)0CCqp z Hp z HCCp10(|)()(|)p z Hzp z H10000111()()CCqCCp10()HzH似然比：似然比：门限：门限：判决式：判决式：1.1.贝叶斯准则及计算贝叶斯准则及计算(z)(z)计算器计算器z(z)判决判决 似然比为两个条件概率密度之比，是非负的一似然比为两个条件概率密度之比，是非负的一 维变量；维变量；似然比是观察数据的函数，是随机变量；似然比是观察数据的函数，是随机变量；似然比不含任何未知参量；似然比不含任何未知参量；对于简单假设检验，似然比为充分统计量。对于简单假设检验，似然比为充分统计量。0H1H1.1.贝叶斯准则及计算贝叶斯准则及计算0()|)cPpzH d1()|)DPpzH d0()|)pzHd1()|)pzH d00(|)cZPp z H dz11(|)DZPp z H dz10(|)Zp z Hdz01(|)Zp z H dzP(|H1)P(|H0)P(|Hi)1.1.贝叶斯准则及计算贝叶斯准则及计算例例1 1：考虑二元假设，考虑二元假设，H H0 0:z=:z=-1+n1+nH H1 1:z=z=1 1+n+n其中其中nN(0,0.5)nN(0,0.5)，先验概率，先验概率p=q=0.5p=q=0.5，代价因子，代价因子C C0000=1,C=1,C1111=2=2，C C1010=4=4，C C0101=8=8，试根据一次观测数据，试根据一次观测数据z z，给出贝叶斯准则判决表，给出贝叶斯准则判决表达式及平均代价。达式及平均代价。1.1.贝叶斯准则及计算贝叶斯准则及计算解解:（1 1）201(|)exp(1)p z Hz10(|)()exp 4(|)p z Hzzp z H门限：门限：10000111()1()2CCpCCq似然比：似然比：100.1733HzH判决式：判决式：211(|)exp(1)p z Hz1.1.贝叶斯准则及计算贝叶斯准则及计算（2 2）P(z|H1)P(z|H0)-11-0.1733z00.1733(|)0.121p z Hdz10.1733(|)0.9515DPp z H dz001001111.827cDCC PCqCC Pp2.2.派生贝叶斯准则及计算派生贝叶斯准则及计算1 1、最小总错误概率准则（、最小总错误概率准则（MPEMPE）在通信系统中，通常假定在通信系统中，通常假定，即正确的，即正确的判决不付出代价，错误判决代价相同。判决不付出代价，错误判决代价相同。判决式为：判决式为：10()HqzpH001101100,1cccc00100111cDeCC PCqCC PpqpP2.2.派生贝叶斯准则及计算派生贝叶斯准则及计算例例2 2：考虑二元假设，考虑二元假设，H H0 0:z=n:z=nH H1 1:z=A+nz=A+n其中其中nN(0,)nN(0,)，先验概率，先验概率p=q=0.5p=q=0.5且且A0A0，试根据一次观测数，试根据一次观测数据据z z，给出最小总错误概率准则判决表达式及错误概率。，给出最小总错误概率准则判决表达式及错误概率。2n2.2.派生贝叶斯准则及计算派生贝叶斯准则及计算解解:2021(|)exp22nnzp z H102HAzH判决式：判决式：2121()(|)exp22nnzAp z H0/2(|)/2Ap z HdzQ d/2ePQ d/21(|)/2Ap z H dzQ d222/ndA2.2.派生贝叶斯准则及计算派生贝叶斯准则及计算2 2、最大后验概率准则（、最大后验概率准则（MAPMAP）在贝叶斯准则中，当在贝叶斯准则中，当时，判决式为：时，判决式为：1100(|)()(|)Hp zHqzp zHpH10000111cccc1100(|)1(|)HP HzP HzH1100(|)(|)(|)(|)p z HpP HzP z HqP Hz3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算其中门限其中门限由下式决定由下式决定奈曼奈曼-皮尔逊（皮尔逊（NPNP）定理）定理奈曼奈曼-皮尔逊准则：指定一个皮尔逊准则：指定一个虚警概率虚警概率 的容许值，在约束的容许值，在约束 不不变的条件下使检测概率变的条件下使检测概率PDPD达到最大达到最大1100(|)()(|)Hp zHzp zHH100(|)()|ZpH dpH dzzz3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算利用拉格朗日乘子构造函数利用拉格朗日乘子构造函数:划分判决域使划分判决域使最小。最小。()MFJPP0101010(|)(|)(1)(|)(|)ZZZJp z H dzp z Hdzp z Hp z Hdz J奈曼奈曼-皮尔逊定理证明：皮尔逊定理证明：3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算选取选取 满足满足 为常数为常数的约束条件，即的约束条件，即:100(|)()|ZpH dpH dzzz划分的结果是使划分的结果是使最小的分界面满足最小的分界面满足:1100(|)()(|)HpHpHHzzzJ3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算奈曼奈曼-皮尔逊准则的存在性说明皮尔逊准则的存在性说明P(|H1)P(|H0)P(|Hi)123.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算奈曼奈曼-皮尔逊准则与贝叶斯准则关系皮尔逊准则与贝叶斯准则关系10()HzH1100001110()()()HCCqzCCpH10000111(),()1CCqCCp3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算例例3 3：考虑二元假设，：考虑二元假设，H0:z=nH0:z=nH H1 1:z=z=1 1+n+n其中其中nN(0,1)nN(0,1)，试根据一次观测数据，试根据一次观测数据z z，规定，规定=0.1=0.1，应用奈曼应用奈曼-皮皮尔逊准则给出判决式及检测概率。尔逊准则给出判决式及检测概率。101exp2HzH解解:易得判决式：易得判决式：101ln2HzH 即：即：3.3.奈曼奈曼-皮尔逊准则及计算皮尔逊准则及计算101ln2HzH 2/201(|)0.12zp z H dzedz其中其中门限门限 将将由给定的虚警概率确定由给定的虚警概率确定可解得可解得 1.291.29，对应的检测概率，对应的检测概率2(1)/211(|)0.6142zDPp z H dzedz小结：小结：1 1、贝叶斯准则及计算、贝叶斯准则及计算介绍了由贝叶斯准则推导得到判决式，通过典型例题介绍了根介绍了由贝叶斯准则推导得到判决式，通过典型例题介绍了根据贝叶斯准则计算判决式、检测性能及平均代价的方法；据贝叶斯准则计算判决式、检测性能及平均代价的方法；2 2、派生贝叶斯准则及计算、派生贝叶斯准则及计算介绍了由贝叶斯准则派生出来的两种准则，即最小总错误概率介绍了由贝叶斯准则派生出来的两种准则，即最小总错误概率准则及最大后验概率准则，其判决式和性能分析基本相同；准则及最大后验概率准则，其判决式和性能分析基本相同；3 3、奈曼、奈曼-皮尔逊准则及计算皮尔逊准则及计算介绍了由奈介绍了由奈-皮尔逊准则推导得到判决式，分析了其存在性及皮尔逊准则推导得到判决式，分析了其存在性及与贝叶斯准则的关系。与贝叶斯准则的关系。