信息率失真理论优秀PPT.ppt

《信息率失真理论优秀PPT.ppt》由会员分享，可在线阅读，更多相关《信息率失真理论优秀PPT.ppt（53页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、信息率失真理论第1页，本讲稿共53页一、保真度准则和实验信道1、失真度定义汉明失真度常用于离散信源表示第2页，本讲稿共53页全部nn个失真度失真矩阵汉明失真矩阵第3页，本讲稿共53页平方误差失真度常用于连续信源平方误差失真函数2、平均失真度失真度的数学期望定义第4页，本讲稿共53页表示3、保真度准则平均失真度不大于给定的允许失真D定义第5页，本讲稿共53页表示4、实验信道定义满足保真度准则的所有数据处理信道第6页，本讲稿共53页离散信源的实验信道表示全部nn个实验信道转移概率实验信道矩阵第7页，本讲稿共53页连续信源的实验信道实验信道转移概率密度函数第8页，本讲稿共53页二、单符号离散信源的信

2、息率失真函数信源固定时，与等效信源间的平均互信息量是数据处理信道转移概率分布的严格下凸函数，总能在实验信道中找到一种信道转移概率分布，使实验信道中传输的平均互信息量在保真度准则下达到最小信源概率分布不变时，保真度准则下平均互信息量的极小值，用R(D)表示定义第9页，本讲稿共53页表示1、信息率失真函数实验信道转移概率分布的n个约束条件保真度准则的约束条件第10页，本讲稿共53页第11页，本讲稿共53页第12页，本讲稿共53页第13页，本讲稿共53页第14页，本讲稿共53页对j求和乘P(xi)对i求和第15页，本讲稿共53页信息率失真函数第16页，本讲稿共53页第17页，本讲稿共53页2、二进制

3、信源的信息率失真函数第18页，本讲稿共53页第19页，本讲稿共53页第20页，本讲稿共53页第21页，本讲稿共53页第22页，本讲稿共53页第23页，本讲稿共53页R(D)D0.50.25p=0.25p=0.5010.811第24页，本讲稿共53页求允许失真D=1/8时的信息率失真函数R(D)及达到R(D)的实验信道例1D=1/8时第25页，本讲稿共53页第26页，本讲稿共53页第27页，本讲稿共53页3、等概率信源的信息率失真函数等概率信源第28页，本讲稿共53页第29页，本讲稿共53页第30页，本讲稿共53页第31页，本讲稿共53页第32页，本讲稿共53页第33页，本讲稿共53页p=0.5

4、时，二进制信源的信息率失真函数第34页，本讲稿共53页n=2时，等概率信源的信息率失真函数第35页，本讲稿共53页三进制等概率信源，求允许失真D=1/3时的信息率失真函数R(D)及达到R(D)的实验信道例2D=1/3时第36页，本讲稿共53页习题：(P129-130)4.1、4.10、4.11第37页，本讲稿共53页三、N次扩展信源的信息率失真函数1、N次扩展信源的保真度准则和实验信道失真度平均失真度第38页，本讲稿共53页第39页，本讲稿共53页如果给定允许失真ND保真度准则实验信道第40页，本讲稿共53页2、N次扩展信源的信息率失真函数第41页，本讲稿共53页四、单符号连续信源的信息率失真

5、函数信源概率密度函数不变时，保真度准则下平均互信息量的下确界，用R(D)表示定义信源固定时，与等效信源间的平均互信息量是数据处理信道转移概率密度函数的严格下凸泛函，总能在实验信道中找到一种信道转移概率密度函数，使实验信道中传输的平均互信息量在保真度准则下达到最小第42页，本讲稿共53页表示1、信息率失真函数实验信道转移概率密度函数的约束条件保真度准则的约束条件第43页，本讲稿共53页信息率失真函数第44页，本讲稿共53页2、高斯信源的信息率失真函数第45页，本讲稿共53页第46页，本讲稿共53页第47页，本讲稿共53页第48页，本讲稿共53页第49页，本讲稿共53页达到R(D)的实验信道方差为-1/2S的反向高斯加性信道N第50页，本讲稿共53页第51页，本讲稿共53页方差为D的反向高斯加性信道第52页，本讲稿共53页R(D)D0第53页，本讲稿共53页