朱雪龙《应用信息论基础》习题答案 第三章.doc

《朱雪龙《应用信息论基础》习题答案 第三章.doc》由会员分享，可在线阅读，更多相关《朱雪龙《应用信息论基础》习题答案 第三章.doc（4页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第三章习题答案3.1 解：3.2 解：(1) (2) 3.3 0.469 bit/sample3.4 1) 不妨设，可进行如下编码：首先作一深度为j的二叉满树，并在个叶子节点中取k个节点，以这k个节点为根节点，生成k个深度为1的子树，于是得到了一个有 个叶子的二叉树，对此二叉树的叶子按Halfman方法进行编码，即得到最优的二元即时码。2） 当且仅当k=0，即时，3.5 解： 不妨设( i =-2,-1,0,1,2, ) 取自字母表，设一阶转移概率为，所以在当前码字进行编码时，由，对可能的取值，依概率分布() 进行Halfman编码，即是最佳压缩方案。3.6 0.801 bit/sample3

2、.7 1) bit/sample 2) P(1)= P(2)= P(3)=如按无记忆信源进行编码，则根据信源所处的的1，2，3三个状态对应编码成00，1，01。平均码长为：2+1+2= bit/sample如果按马尔可夫信源进行编码：状态1时：a0, b10, c11状态2时：a0, b1状态3时：无需发任何码字平均码长： bit/sample3.8 3.9 1) H(X) = （plog p+qlog q） bit/sample H(Y)= （plog p+qlog q） bit/sample 2) p=q=时，H(Y) = 1 bit/符号3.10 二元Halfman 码：=00，=01，=100，=101，=110，=1110，=1111 三元Halfman 码：=0，=1，=20，=21，=220，=221，=2223.11 1）证明： 当且仅当 即，k=为整数，取得等号， 即H(U) = 或 时，信源字母概率取的形式。 2）设经过j+1缩减，又由于最后一次缩减必剩下3个字母， 即k满足：,k为奇数。3.12 1）考虑信源 满足分布： 其中 对进行最优编码，则其平均码长 ，如果取最小，则取最小，又 2） 即 又