2022年信息论与编码试卷-信息论与编码试卷题目及答案.docx
一、概念简答题（每题5分，共40分）.什么是平均自信息量与平均互信息，比拟一下这两个概念的异同平均自信息为：表示信源的平均不确定度，表示平均每个信源消息所提供的信息量。以（幻=尸® ）logp（&） 2-1平均互信息：表示从Y获得的关于每个X的平均信息量；表示发X前后Y的平均不 确定性减少的量；表示通信前后整个系统不确定性减少的量。/（x；y）=抄piog2-1 /马1 .简述最大离散燧定理。对于一个有m个符号的离散信源，其最大蜡是多少最大离散熠定理为：离散无记忆信源，等概率分布时熠最大。最大烯值为%淑=10g2 m.解释信息传输率、信道容量、最正确输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分 别是什么关系信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能到达的最大信息传输率。信息传 输率到达信道容量时所对应的输入概率分布称为最正确输入概率分布。平均互信息是信源概率分布的n型凸函数，是信道传递概率的u型凸函数。2 .对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。数据处理定理为：串联信道的输入输出x、丫、z组成一个马尔可夫链，且有41（N；丫）,说明经数据处理后，一般只会增加信息的损失。3 .写出香农公式，并说明其物理意义。当信道带宽为5000Hz,信噪比为30dB时求信道容量。香农公式为c CPCt = lim= jyiog2 1 + bit /s"丁跖中）它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。PP由 10怆丽 .30得丽.1000,那么G =5000og2（+ 1000） = 49836 玩£fs4 .解释无失真变长信源编码定理。只要'loga四，当N足够长时，一定存在一种无失真编码。5 .解释有噪信道编码定理。答：当RVC时，只要码长足够长，一定能找到一种编码方法和译码规那么，使译码错 误概率无穷小。8.什么是保真度准那么对二元信源口 =其失真矩阵，求a>0时率失真函数的和答：1）保真度准那么为：平均失真度不大于允许的失真度。2）因为失真矩阵中每行都有一个0,所以有劣加而 A啾 =min(l-o)a,m a。二、综合题（每题10分，共60分）L黑白气象图的消息只有黑色和白色两种，求：1）黑色出现的概率为0.3,白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熠 （）;2）假设黑白消息出现前后有关联，其依赖关系为： I） , （，、I） ,，、）°8,求其炳.；的=黑火 =白答：1）信源模型为I °30.7.2耳（幻=-£产）1。82尸（勾）=0881次"符号2-1产(%)=£尸(%)尸(%/%)，i=l,2 川尸3) +尸(町)=122H.X）= 一允允尸Q）尸（%/%） log?产（以j/角）=0.5533加”符号那么2.二元对称信道如右图。31产（0）=7 P（l） = - H（X n i）假设 4,4,求和八乙¥）；2）求该信道的信道容量和最正确输入分布。答：1）H（= 0.8113反”符号/(X；y)= 0.0616 初"符号2） 0= 0 082而"符号，最正确输入概率分布为等概率分布。3.信源空间为S S % S4S$ % S? S& 0.4 0.2 0.1 0.1 0,05 0.05 0.05 0.05试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。答：1）二元码的码字依序为：10, 11, 010, 011, 1010,平均码长 4 = 2.6%/符万，编码效率% =0 972)三元码的码字依序为：1, 00, 02, 20, 21, 22, 010,1011, 1000, 1001o1011, 1000, 1001oOlio4.设有一离散信道，其信道传递矩阵为131261613121 产=? ,产（）尸（弓）=g试分别按最小错误概率准那么与最大平均码长 4 =1.7切/符节，编码效率/ = 0 936似然译码准那么确定译码规那么，并计算相应的平均错误概率。,31）=再,9（2）=与1答：1最小似然译码准那么下，有IF（3）=/，*2，31）=占方（2）=勾U2）最大错误概率准那么下，有15泌）=町，s 2410000111'010001005 （8, 5）线性分组码的生成矩阵为。求：1）输入为全00011和10100时该码的码字；2）最小码距。6 .设某一信号的信息传输率为5.6kbit/s,在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5xlO6mw/Hz。试求: （1）无过失传输需要的最小输入功率是多少（2）此时输入信号的最大连续焙是多少写出对应的输入概率密度函数的形式。Pa c = jyiog2（i + ）7 .答：1）无错传输时，有乂网5.6X103 =4xl03log2(l +10即25x10x4x103/-nr z P > 0.0328 mw那么2）在。328叫，最大J”舞式2叱/自由度p（x）二对应的输入概率密度函数为O.O556xiCr32最大错误概率准那么下,70.206X10-3p 一11% 一 Nk = 2a <c = jyiog2（i +6.答：1）无错传输时，有5.6xl03 =4xl03log2(l即+ 5x10x4x10那么 F 2 0.0328 mw2)在产= 00328羽w时,2)在产= 00328羽w时,ilog2(2P) = -5.4 期"自由度最大焙 2P（x）二对应的输入概率密度函数为0.0556x1 十70.206x10-3
