信息论测试题及答案.docx
一, 设X, Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX一般乘积。试计算：1.HY, HZ； 2.HYZ；3.IX;Y, IY;Z；二, 如下图为一个三状态马尔科夫信源的转移概率矩阵 1. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 3. 求极限熵；三, 在干扰离散对称信道上传输符号1与0，P0=1/4,P(1)=3/4,试求：1. 信道转移概率矩阵P 2.信道疑义度 3.信道容量以及其输入概率分布四, 某信道的转移矩阵，求信道容量，最正确输入概率分布。五, 求以下各离散信道的容量其条件概率P(Y/X)如下：六, 求以下各信道矩阵代表的信道的容量答案一, 设X, Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX一般乘积。试计算：1.HY, HZ；2.HXY, HYZ；3.IX;Y, IY;Z；解：1. =1bit/符号Z=YX而且X与Y相互独立故H(Z)= =1bit/符号2.从上式可以看出:Y与X的联合概率分布为:第 4 页P(Y,Z)Y=1Y=-1Z=1Z=-1H(YZ)=H(X)+H(Y)=1+1=2bit/符号3.X与Y相互独立，故H(X|Y)=H(X)=1bit/符号 IX;Y=H(X)-H(X|Y)=1-1=0bit/符号 I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-H(YZ)-H(Z)=0 bit/符号二, 如下图为一个三状态马尔科夫信源的转移概率矩阵 2. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 3. 求极限熵；,可得其三个状态的稳态概率为：3.其极限熵:三, 在干扰离散对称信道上传输符号1与0，P0=1/4,P(1)=3/4,试求：0101 P= 2.依据PXY=PY|XPX，可得联合概率PXYYYX=09/401/40X=13/4027/40P(Y=i)12/4028/40由PX|Y=P(X|Y)/P(Y)可得P(X|Y)Y=0Y=1X=03/41/28X=11/427/28H(X|Y)=- 3.该信道是对称信道，其容量为： 这时，输入符号听从等概率分布，即四, 某信道的转移矩阵，求信道容量，最正确输入概率分布。 解：该信道是准对称信道，分解为两个互不相交的子信道矩阵 这里 C=logr-H(P的行矢量) 这时，输入端符号听从等概率分布，即=五, 求以下各离散信道的容量其条件概率P(Y/X)如下：六, 求以下各信道矩阵代表的信道的容量
