《信息论与编码》课程考试试题.docx

信息论与编码课程考试试题20*20*学年 第*学期*班级一、填空题（每空1分，共5分）1、必然事件的自信息是 O2、假设一离散无记忆信源的信源嫡H （X）等于2.5,对信源进行等长的无失真二进制编 码，那么编码长度至少为 o3、对于离散无记忆信源，当信源燧有最大值时，满足条件为 o4、假设失真矩阵为d= 1 3 ,假设输入等概，那么对应的Dmax=，R（Dmax）=。时量：120分钟 总分100分,考试形式：开卷1 0二、是非判断题（每题2分，共12分，正确的划错误的划X）1、离散信源记忆的长度越大，信源的符号燧越小。（）2、只要信息传输速率小于信道容量，总可以找到一种编码方式使得当编码序列足够长时传输过失率任意小。（）3、离散无记忆信源的N次扩展源的熠是原信源端的N倍。（）4、当马氏源的初始状态So和输出X0,也,，X给定后，那么状态si, S2,，Sn+1就能唯一确定。（）5、最大似然准那么等价于最小汉明距离准那么。（）6、唯一可译码一定满足Kraft不等式。（）三、简答题（共23分）1、一个8状态马氏链如图1所示:问：1）哪些状态是过渡态？ （2分）2)哪些状态可以构成闭集？ (2分)2、设X、Y、Z为离散信源，从符号集 W, 2, >,<,= 中选择的一个合适符号写 到括号内，以连接下面括号两边的嫡函数：(1) H(5X ) () H(X) (2 分)H(X|Y) () H(X |YZ)(2 分)3、 (5分)什么是信源编码，试述香农第一编码定理的物理意义？4、 (5分)信源U=0, 1,接收变量丫=0, 1,2。定义它的单个符号失真度为：o (i = j).(七；匕)=T1/2 (j = s)试问：其失真矩阵是以下哪种形式？请给出理由。】011/21【0 1/211D =D=L101/2JL1 1/20_5、 (5分)信息率失真函数R (D)如何定义？为什么R (D)反映了信源的可压缩程度。四、分析、计算题(共60分)1、 (5分)掷两颗骰子，当其向上的面的小圆点之和是3时，该消息包含的信息量是 多少？X Xx %2%3 X4 X5 x6 2、(5 分)设信源 p(x)-(0.2 0,19 0.18 0.17 0.16 0.17f 求这个信源的 烯，并解释为什么H(X) > log6不满足信源烯的极值性。3、 (10分)设有下述消息将通过一个有噪二元对称信道传送，消息为：阳|二00, 圾=01,弧=10,此=11,这四种消息在发送端是等概的。试求：(1)输入为输出第一个数字为0的互信息量是多少？(2)如果知道第二个数字也是0,这又带来多少附加消息？4、 (10分)二元对称信道如下图:假设p（o） = ：, p（i） = ：,求”（x）、n（x|y）/（x；r）o（15分）某离散无记忆信源有8个信源符号40，ai，。2,14,。5, 616,。7,各符号的概率分别为：0.1, 0.1, 0.1, 0.1, 0.1, 0.4, 0.05, 0.05o1）对该信源符号进行三元Huffman编码；（要求：写出编码过程、列出信源符号 和码字的对应表）；（5分）2）求平均码长；（2分）3）求码长的方差；（2分）4）求编码速率；（2分）5）求信源的熠和编码效率。（2+2分）（15分）一个二元信源发出符号“°和卬的概率分别为2/5和3/5,将每个信源符号编成码长为2的二元码，码字分别为Ci=00, C2=llo假定码字通过一个单符号的二元删除信道传输，信道的转移概率矩阵为:的二元删除信道传输，信道的转移概率矩阵为:p (1-p p 0、 o P 1-P,1）求此二元删除信道的容量及其到达容量时的出概率分布；（3+3分）2）求利用最正确判决准那么的判决函数和平均译码错误率；（7+2分）