《信息论与编码技术》复习题3-4.pdf

《《信息论与编码技术》复习题3-4.pdf》由会员分享，可在线阅读，更多相关《《信息论与编码技术》复习题3-4.pdf（2页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、信息论与编码技术复习题（信息论与编码技术复习题（3 3）一、填空题（共一、填空题（共 2020 分，每空分，每空 2 2 分）分）1.信息的基本概念在于它的。2.一个随机事件的定义为其出现概率对数的负值。3.按树图法构成的码一定满足的定义。4.称为香农第二极限定理。5.纠错码的检、纠错能力是指。6.信息率失真函数 R(D)是关于 D 的严格单调函数。7.如果转移概率矩阵 P P 的每一行，称该矩阵是输入对称的。8.加密编码的主要目的是。9.若最小码距为 dmin的码同时能检测 ed个错误、纠正 ec个错误，则三个量之间的关系为。10.稳定的马尔可夫信源必须有不可约性和。二、选择题（共二、选择题

2、（共 1010 分，每题分，每题 2 2 分）分）1.给定 xi条件下，随机事件 yj所包含的不确定度和条件自信息量I(yj|xi)，（a）数量上不等，单位不同；（b）数量上不等，单位相同；（c）数量上相等，单位不同；（d）数量上相等，单位相同。2.下面哪一项不属于熵的性质：（a）非负性；（b）完备性；（c）对称性；（d）确定性。3.下面哪一项不是增加信道容量的途径：（a）减小信道噪声功率；（b）增大信号功率；（c）增加码长；（d）增加带宽。4.香农编码方法是根据推导出来的。（a）香农第一极限定理；（b）香农第二极限定理；（c）香农第三极限定理；（d）香农第四极限定理。5.下面哪一项不属于最简

3、单的通信系统模型：（a）信源；（b）加密；（c）信道；（d）信宿。三、名词解释（共三、名词解释（共 1010 分，每题分，每题 5 5 分）分）1.唯一可译码。2.最小码距。四、简答题（共四、简答题（共 2020 分，每分，每 1010 分）分）1.利用公式介绍无条件熵、条件熵、联合熵和平均互信息量之间的关系。2.简单介绍霍夫曼编码的步骤。五、计算题（共五、计算题（共 4040 分）分）（log2(3)=1.585，log2(5)=2.322）1.某信源含有三个消息，概率分别为p(0)=0.2，p(1)=0.3，p(2)=0.5，失真矩阵为421。D 032201求 Dmax、Dmin和 R(

4、Dmax)。（10 分）2.设对称离散信道矩阵为P 1/31/31/61/6，求信道容量 C。（10 分）1/61/61/31/33.有一稳态马尔可夫信源，已知转移概率为p(S1/S1)=2/3，p(S1/S2)=1。求：（1）画出状态转移图和状态转移概率矩阵；（2）求出各状态的稳态概率；（3）求出信源的极限熵。（20 分）信息论与编码技术复习题（信息论与编码技术复习题（4 4）1.（5 分）简述信源编码、信道编码和保密编码三种编码的联系。2.（10 分）已知一离散无记忆信源u2u3u4u5u6u7u8 u u1p(u)0.20.150.150.10.10.10.10.1，试利用三元码编成霍夫

5、曼码，用两种方法使得它们有相同的最小码长但方差不相同，并说明哪种编码实用性更好。3.（10 分）已知二元信源1 u 0，试对序列 11110111110 进行算术编码，p(u)1/87/8并对结果进行译码。4.（10 分）下面以码字集合的形式给出5 种不同的编码，第一个码的码符号集合为 x,y,z，其它 4 个码都是二进制：（1）xx,xz,y,zz,xyz；（2）000,10,00,11；（3）100,101,0,11；（4）01,100,011,00,111,1010,1011,1101；（5）01,111,011,00,010,110。对于上面列出的 5 种编码，分别回答下述问题：（a）

6、此码的码长分布是否满足Kraft-McMilian不等式？（b）此码是否是即时码？如果不是，请给出反例。（c）此码是否唯一可译？如果不是，请给出反例。b1a11/25.（10 分）设有一个离散信道，其信道矩阵为P a21/4a31/4b21/41/21/4b31/4，1/41/2（1）当信源X 的概率分布为 p(a1)=2/3，p(a2)=p(a3)=1/6 时，按最大后验概率准则选择译码函数，并计算其平均错误译码概率pe。（2）当信源是等概信源时，按最大似然译码准则选择译码函数，并计算其平均错误译码概率 pe。6.（10 分）已知(7,4)循环码的生成多项式g(x)x x 1，若已知接收码的最高位码元发生错误，求其伴随多项式；若已知接收码字为0111000，求发送码字。7.（10 分）设(3,1,2)卷积码的生成子矩阵 g1=1 1 1，g2=0 1 0，g3=0 0 1。（1）求卷积码的生成矩阵G。（2）若输入信息序列 U=1 0 1 1 0 1 0 1 0 0.时，求卷积码的输出码字序列。8.（5 分）什么是对称密码体制和非对称密码体制？各有何优缺点？9.（30 分）网络信息论研究的主要问题是什么？目前的研究热点主要之中在哪几个问题上？它们与历史上相关的研究成果有哪些不同？采用的模型和分析技术是什么？3