信息论与编码试卷及答案(共16页).doc

《信息论与编码试卷及答案(共16页).doc》由会员分享，可在线阅读，更多相关《信息论与编码试卷及答案(共16页).doc（16页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精选优质文档-倾情为你奉上一、（11）填空题（1） 1948年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。（2） 必然事件的自信息是 0 。 （3） 离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍 。 （4） 对于离散无记忆信源，当信源熵有最大值时，满足条件为_信源符号等概分布_。（5） 若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。（6） 对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是 香农编码 。（7） 已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_个码元错

2、误，最多能纠正_1_个码元错误。（8） 设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R_小于_C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。（9） 平均错误概率不仅与信道本身的统计特性有关，还与_译码规则_和_编码方法_有关三、 （5）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0

3、.5 p(B|A)=0.75 （2分）故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （2分） I(A|B)=-log0.375=1.42bit （1分）四、（5）证明：平均互信息量同信息熵之间满足I(X;Y)=H(X)+H(Y)-H(XY)证明： （2分）同理 （1分）则 因为 （1分）故即 （1分）五、（18）.黑白气象传真图的消息只有黑色和白色两种，求：1） 黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熵；2） 假设黑白消息出现前后有关联，其依赖

4、关系为 ，求其熵。3）分别求上述两种信源的冗余度，比较它们的大小并说明其物理意义。解：1）信源模型为 （1分）2）由题意可知该信源为一阶马尔科夫信源。 （2分）由 （4分）得极限状态概率 （2分） （3分）3） （1分） （1分）。说明：当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。（2分）六、（18）.信源空间为，试分别构造二元香农码和二元霍夫曼码，计算其平均码长和编码效率（要求有编码过程）。七（6）.设有一离散信道，其信道传递矩阵为，并设，试分别按最大后验概率准则与最大似然译码准则确定译码规则，并计算相应的平均

5、错误概率。 1）（3分）最小似然译码准则下，有， 2）（3分）最大后验概率准则下，有，八（10）.二元对称信道如图。1）若，求、和； 2）求该信道的信道容量。 解：1）共6分 2）， （3分）此时输入概率分布为等概率分布。（1分）九、（18）设一线性分组码具有一致监督矩阵1）求此分组码n=?,k=?共有多少码字？2）求此分组码的生成矩阵G。3）写出此分组码的所有码字。4）若接收到码字（），求出伴随式并给出翻译结果。解：1）n=6,k=3,共有8个码字。（3分）2）设码字由得 （3分） 令监督位为，则有 （3分）生成矩阵为 （2分）3）所有码字为，。（4分）4）由得 ，（2分）该码字在第5位发生

6、错误，（）纠正为（），即译码为（）（1分） 一、填空题（本题10空,每空1分,共10分）1、必然事件的自信息量是_0_，不可能事件的自信息量是_无穷_。2、一信源有五种符号a，b，c，d，e，先验概率分别为Pa=0.5，Pb=0.25，Pc=0.125，Pd=Pe=0.0625。符号“a”的自信息量为_1_bit，此信源的熵为_1.875_bit/符号。3、如某线性分组码的最小汉明距dmin=6，最多能纠正_2_个随机错。4、根据密码算法所使用的加密密钥和解密密钥是否相同，可将密码体制分成_对称（单密钥）_和_非对称（双密钥）_。5、平均互信息量I(X;Y)与信源熵和条件熵之间的关系是_I(X

7、:Y)=H(X)-H(X/Y)_。6、克劳夫特不等式是唯一可译码_存在_的充要条件。00，01，10，11是否是唯一可译码？_是_。三、单项选择题(本题共10小题；每小题2分，共20分)1、对连续集的熵的描述不正确的是（A）A 连续集的熵和离散集的熵形式一致，只是用概率密度代替概率，用积分代替求和B 连续集的熵值无限大C 连续集的熵由绝对熵和微分熵构成D 连续集的熵可以是任意整数2、设信道输入为xm，输出为y，若译码准则是当P(y | xm)P(y | xm)，对所有mm时，将y判为m，则称该准则为（D）A 最大后验概率译码准则B 最小错误概率准则C 最大相关译码准则D 最大似然译码准则3、线

8、性分组码不具有的性质是（C）A 任意多个码字的线性组合仍是码字B 最小汉明距离等于最小非0重量C 最小汉明距离为3D 任一码字和其校验矩阵的乘积cmHT=04、关于伴随式的描述正确的是（A）A 伴随式s与传送中信道出现的错误图样e有关B 通过伴随式s可以完全确定传送中信道出现的错误图样eC 伴随式s与发送的具体码字有关D 伴随式s与发送的具体码字有关，与传送中信道出现的错误图样e也有关5、率失真函数的下限为（B）AH(U) B0 CI(U; V) D没有下限6、纠错编码中，下列哪种措施不能减小差错概率（D）A 增大信道容量B 增大码长C 减小码率D 减小带宽7、已知某无记忆三符号信源a,b,c

9、 等概分布，接收端为二符号集，其失真矩阵为,则信源的最大平均失真度Dmax 为（ D）A 1/3 B 2/3 C 3/3 D 4/38、一珍珠养殖场收获240 颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1 颗。一人随手取出3 颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6 次能找出，结果确是如此，这一事件给出的信息量（ A）。A 0bit B log6bit C 6bit D log240bit9、已知随机噪声电压的概率密度函数 p(x) =1/2，x 的取值范围为1V 至+1V，若把噪声幅度从零开始向正负幅度

10、两边按量化单位为0.1V 做量化，并且每秒取10 个记录，求该信源的时间熵（B ）A 21.61bit/s B 43.22bit/s C 86.44 bit /s D 以上都不对10、彩色电视显像管的屏幕上有5105 个像元，设每个像元有64 种彩色度，每种彩度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独立。每秒传送25 帧图像所需要的信道容量（C ）A 50.106 B 75.106 C 125.106 D 250.106第7章 线性分组码1. 已知一个(5, 3)线性码C的生成矩阵为：（1）求系统生成矩阵；（2）列出C的信息位与系统码字

11、的映射关系；（3）求其最小Hamming距离，并说明其检错、纠错能力；（4）求校验矩阵H；（5）列出译码表，求收到r=11101时的译码步骤与译码结果。解：（1）线性码C的生成矩阵经如下行变换：得到线性码C的系统生成矩阵为（2）码字的编码函数为生成了的8个码字如下信息元系统码字0000000000100111010010100110110110010011101101001101100111111110(3) 最小汉明距离d=2，所以可检1个错，但不能纠错。(4) 由，得校验矩阵(5) 消息序列m=000,001,010,011,100,101,110,111，由c=mGs 得码字序列c0=0

12、0000, c1=00111,c2=01010, c3=01101,c4=10011, c5=10100,c6=11001, c7=11110则译码表如下：0000000111010100110110011101001100111110100001011111010111010001100100010010111001000011110001000101110111110010001101100000100110010110110010010101011100011111当接收到r =(11101)时，查找码表发现它所在的列的子集头为(01101)，所以将它译为c=01101。2设（7, 3）

13、线性码的生成矩阵如下（1）求系统生成矩阵；（2）求校验矩阵；（3）求最小汉明距离；（4）列出伴随式表。解：（1）生成矩阵G经如下行变换得到系统生成矩阵：（2）由，得校验矩阵为（3）由于校验矩阵H的任意两列线性无关，3列则线性相关，所以最小汉明距离d=3。（4）（7, 3）线性码的消息序列m=000,001,010,011,100,101,110,111，由c=mGs 得码字序列：c0=，c1=，c2=，c3=，c4=，c5=，c6=，c7=。又因伴随式有24=16种组合，差错图样为1的有，差错图样为2的有，而由，则计算陪集首的伴随式，构造伴随表如下：伴随式陪集首伴随式陪集首0000010111

14、0110011010111101111100100011100100101100100011000101103已知一个(6, 3)线性码C的生成矩阵为：（1） 写出它所对应的监督矩阵H；（2） 求消息M=(101)的码字；（3） 若收到码字为，计算伴随式，并求最有可能的发送码字。解：（1）线性码C的生成矩阵G就是其系统生成矩阵GS，所以其监督矩阵H直接得出：（2）消息M=(m0,m1,m2)=(101)，则码字c为：（3）收到码字r=()，则伴随式又（6, 3）线性码的消息序列m=000,001,010,011,100,101,110,111，由c=mGs 得码字序列：c0=，c1=，c2=，

15、c3=，c4=，c5=，c6=，c7=。伴随式有23=8种情况，则计算伴随式得到伴随表如下：伴随式陪集首000101011110100010001111伴随式（001）对应陪集首为（），而c=r+e，则由收到的码字r=()，最有可能发送的码字c为：c=（）。4设(6, 3)线性码的信息元序列为x1x2x3，它满足如下监督方程组（1）求校验矩阵，并校验10110是否为一个码字； （2）求生成矩阵，并由信息码元序列101生成一个码字。解：（1）由监督方程直接得监督矩阵即校验矩阵为：因为收到的序列10110为5位，而由（6, 3）线性码生成的码字为6位，所以10110不是码字。（2）由，则生成矩阵为

16、：信息码元序列M=（101），由c=mGs 得码字为c：第8章 循环码1. 已知(8, 5)线性分组码的生成矩阵为 （1）证明该码是循环码；（2）求该码的生成多项式。（1）证明如下：由生成矩阵可知为（8、5）循环码。（2）生成多项式如下：2. 证明：为(15, 5)循环码的生成多项式，并写出信息多项式为时的码多项式（按系统码的形式）。由定理8-1可知（n，k）循环码的生成多项式g(x)为xn+1的因子， g(x)为n-k次多项式，本题目中知：为一个10次多项式，n-k=15-5=10并且：所以：是的一个因子，也是循环码的生成多项式。按系统码构造多项式如下：3. 已知(7, 4)循环码的生成多项

17、式为，信息多项式为，分别由编码电路和代数计算求其相应的码多项式C(x)。由题目可知代数计算求解过程如下：由编码电路进行求解：编码电路如下所示：编码过程如下：时钟信息元寄存器码字输出码字D0 D1 D200 0 0111 1 01200 1 10301 1 10410 1 1150 0 1160 0 0170 0 00可得：4. 令(15, 11)循环码的生成多项式为，计算 （1）若信息多项式为，试求编码后的系统码字； （2）求接收码组的校正子多项式。(1)解题过程如下：（2）校正多项式如下所示：5. 码长为n=15的本原BCH码，求不同纠错能力下的BCH码各自的生成多项式。纠错能力：，所以最多

18、能纠正7个错误码。有限域GF（24），4次本原多项式，为f(x)的一个根，可知：，计算2t=14个连续幂次为对应的最小多项式：(1) t=1的码字： (15，11)BCH码 (2)t=2的码字：(15，7)BCH码(3)t=3的码字：(15，5)BCH码(4) t=4的码字：(15，1)BCH码(5) t=5的码字：(15，1)BCH码(6) t=6的码字：(15，1)BCH码(7) t=7的码字：(15，1)BCH码6 构造一个能纠正t=3个错误符号，码长为15，m=4的RS码，并求其生成矩阵。码长：n=q-1，m=4n-k=2t=6 k=n-2t=15-6=9可知RS码为：（5，9）码设为本原多项式的根，即：t=3，生成多项式g(x)有6个连续的根，（15，9）的RS码的生成矩阵如下：专心-专注-专业