2022年第三章答案-电子科大信息论导论作业.docx

《2022年第三章答案-电子科大信息论导论作业.docx》由会员分享，可在线阅读，更多相关《2022年第三章答案-电子科大信息论导论作业.docx（16页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精选学习资料 - - - - - - - - - 2 某信源有 8 个符号u1u 8,概率分别为1/2,1/4,1/8,1/16,1/32,1/64,1/128,1/128,编成这样的码： 000,001,010, 011,100,101,110,111；求1信源的符号熵 HU；2显现一个“1” 或一个“0” 的概率；3这种码的编码效率；4相应的香农码和费诺码；5该码的编码效率；解：1H（ u）1log221log241log281log2161log23224816321log2641log212821 . 98 比特/符号10.86412812111 2p 0112121124383163

2、3236431283p 11p00.266% 3HX1.984K3log221 45香农码：名师归纳总结 信源消符号概率累加概率log 2p iu码字码字长度第 1 页,共 9 页息符号iupiuipu11/2 0 1 0 1 u21/4 1/2 2 10 2 u31/8 3/4 3 110 3 u41/16 7/8 4 1110 4 1/32 15/16 5 11110 5 u5u61/64 31/32 6 111110 6 - - - - - - -精选学习资料 - - - - - - - - - u71/128 63/64 7 1111110 7 1u8121/128 1127/128

3、1.9847 161111111 727 22费1 83141524163264128log11 诺码：U1U2 U3 U4U5U6U7U80 1 U2U3 U4 U5U6U7U8U101U3U4 U5 U6U7U8U201U4U5 U6 U7U8U301U5U6 U7 U8U401U6U7 U8U5U6001U7U8U8U71费诺码为： 0 10 110 1110 11110 111110 1111110 1111111 同样 H X 1 K 3-11 信源符号 X 有 6 种字母,效率为, ,；1求符号熵 H X 2用香农编码编成二进制变长码,运算其编码效率；3用费诺编码编程二进制变长码,

4、运算其编码效率；4用哈夫曼编码编程二进制变长码,运算其编码效率；5用哈夫曼编码编程三进制变长码,运算其编码效率；6假设用单个信源符号来编定长二进制码,要求能不出过失的译码,求所需要的每符号的平均信息率和编码效率；名师归纳总结 - - - - - - -第 2 页,共 9 页精选学习资料 - - - - - - - - - 解：1H（LX）0.6log2px i0. 32log2010. 22log2010. 18log2010.16log201px. 32. 22. 18. 16i08log210. 04log2012. 35（比特/符号）0. 08. 042信源消息符号概率累加概率iplog

5、 2pix码字码字长度符号ixpixx10.32 0 00 2 x2010 3 x3100 3 x4101 3 x51110 4 x611110 5 其码字为 00 010 100 101 1110 11110 HLXk0.3220.220.182.3530.0840.0450.1612.3582.75%2.843名师归纳总结 - - - - - - -第 3 页,共 9 页精选学习资料 - - - - - - - - - x1x2x3x4x5x600x1x211x3x4x5x601x4x5x6x1x2x301x5x6x4x501x6其码字为 00 01 10 110 1110 1111 HL

6、Xk0.320.220.1822.351630.080.04440.1名师归纳总结 97.92%第 4 页,共 9 页- - - - - - -精选学习资料 - - - - - - - - - 其码字为 11 01 00 101 1001 1000 HLXk0.320.220.1822.351630.080.04450.197.92%10名师归纳总结 0.320126,第 5 页,共 9 页0.180.22012其码字为0 11 10 122 0.040.080.16121 120；6由题意知,要遍个无失真二进制编码,其码字的个数必需大于等于当wi2时,只有 4 个小于 6,其编码必失真当wi

7、3时,有 8 个大于 6,编码满意要求,故- - - - - - -精选学习资料 - - - - - - - - - kKLlog2m3log223 比特/信源符号 L1H LX2 . 3578 . 33 %k33-10 设有离散无记忆信源P X0.37,0.25,0.18,0.10,0.07,0.03.1求该信源符号熵HX；2用哈夫曼编码成二元变长码,运算其编码效率；解：1H（LX）.06pxilog2p x i0. 37log210. 25log240. 18log201.0 1log210i.037. 1807log210. 03log212. 23（比特/符号）0. 07.00321.

8、00名师归纳总结 0.380100.62123. 比特/符号第 6 页,共 9 页010.2000.370.180.25010.10. 0340.1001故码字分别为11,10,00,010,0111,0110 0.07k0. 370 .250. 1820 .130 .07HLX2.2396.96%k2.3- - - - - - -精选学习资料 - - - - - - - - - 3-1 将某六进信源进行二进编码如下表所示；求 1这些码中哪些是唯独可译码？2哪些码是非延长码即时码？3全部唯独可译码的平均码长和编码效率；符号概率C1C2C3C4C5C6名师归纳总结 u11/2 000 0 0 0

9、 1 01 第 7 页,共 9 页u 21/4 001 01 10 10 000 001 u 31/16 010 011 110 1101 001 100 u41/16 011 0111 1110 1100 010 101 u 51/16 100 01111 11110 1001 110 110 u61/16 101 011111 111110 1111 110 111 解：1依据 kraft 不等式,C 中i62ki2152391,所以C 不是唯独可译码18C ,C ,C ,C ,C 中C 不是唯独可译码；例如1001010,有 2 译码方式u2u1u2u 和u5u 1u ,所以C 不是唯独

10、可译的,C ,C ,C ,C 是唯独可译码；2依据即时码定义,即时码又叫非前缀码,C 中u 是其它码的前缀,故C 不是即时码；因此C ,C ,C 是即时码；3C ：平均码长k 13码字符号 /信源符号平均信息率K1k1log2mk13比特 /符号HX1log221log2441log216（比特/符号序列）2416HX266.7%K13- - - - - - -精选学习资料 - - - - - - - - - C ：k211121（3456）17（比特8/符号）2416HX294.1%k217 8名师归纳总结 C ：k317（比特 信源符号）8/符号）第 8 页,共 9 页HX294.1%C ：k6k317812131342.5（比特2416HX280%k62.5- - - - - - -精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 9 页,共 9 页