2022年信息论与编码试卷-信息论与编码试卷题目及答案.pdf

一、概念简答题（每题5分，共40分）1 .什么是平均自信息量与平均互信息，比拟一下这两个概念的异同平均自信息为：表示信源的平均不确定度，表示平均每个信源消息所提供的信息量。.2-1平均互信息：表示从Y获得的关于每个X的平均信息量；表示发X前后Y的平均不确定性减少的量；表示通信前后整个系统不确定性减少的量。=-汽 汽P Q.）l o g勺 彳）2.简述最大离散燧定理。对于一个有m个符号的离散信源，其最大燧是多少最大离散端定理为：离散无记忆信源，等概率分布时燧最大。最大嫡值为%-=l0 g 2也3.解释信息传输率、信道容量、最正确输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能到达的最大信息传输率。信息传输率到达信道容量时所对应的输入概率分布称为最正确输入概率分布。平均互信息是信源概率分布的n型凸函数，是信道传递概率的u型凸函数。4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。数据处理定理为：串联信道的输入输出x、Y、z组成一个马尔可夫链，且有1（X；Z）4 I（X；y）,Z（Z,Z）Z（K;Z）o说明经数据处理后，一般只会增加信息的损失。5.写出香农公式，并说明其物理意义。当信道带宽为5 0 0 0 Hz,信噪比为3 0 d B时求信道容量。香农公式为C （P G =l i m =l o g2 1+-bills9 T l 既 印J ，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。P P由 1 0场 初 后 -3 0 d B得 丽7-l O O O,那么4=5 0 0 0 1 o g 2（1 +1 0 0 0）=4 9 8 3 6 biMs6.解释无失真变长信源编码定理。只 要L l o g 2阳，当N足够长时，一定存在一种无失真编码。7.解释有噪信道编码定理.答：当R 2)=电 I 2)最大错误概率准那么下，有 尸仇)=X Z,自2 4100001110100010000100010000100015-(8,5)线性分组码的生成矩阵为00001111求：1)输入为全0 0 0 1 1 和 1 0 1 0 0 时该码的码字；2)最小码距。6.设某，-信号的信息传输率为5.6 k b i t/s,在带宽为4 k H z 的高斯信道中传输，噪声功率谱N O=5 x 1 0 6 m w/H z。试求:(1)无过失传输需要的最小输入功率是多少(2)此时输入信号的最大连续燧是多少写出对应的输入概率密度函数的形式。2)=芯29(3)=X ,P=114 24 4 =22?C =J7 1og2（l+6.答：1）无错传输时，有5.6 xlO3=4xl03log2(l+即P5X10-9X4X103）那么尸 2 0.0328n _ n A 29Q 4=iog2（2至 eg）=-5.4 肘”自由度2）在尸=0.0328 w w 时，最 大 蜡，2豺/P（x）对应的输入概率密度函数为10.0656X1(T3A/0.206X10-3