《信息论》试题及答案.docx
《《信息论》试题及答案.docx》由会员分享,可在线阅读,更多相关《《信息论》试题及答案.docx(6页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、 信息论试题及答案信息论 试题 答案 期终练习 一、某地区得人群中,1就是胖子,80不胖不瘦,就是瘦子。已知胖子得高血压得概率就是 15,不胖不瘦者得高血压得概率就是 10,瘦子得高血压得概率就是 5,则“该地区得某一位高血压者就是胖子这句话包含了多少信息量。 解:设大事 A:某人就是胖子; B:某人就是不胖不瘦 C:某人就是瘦子 D:某人就是高血压者 依据题意,可知:()=、1 P(B)=0、8 (C)=0、1 P(DA)=、15 P(DB)0、1 P(D|)=0、05 而“该地区得某一位高血压者就是胖子 这一消息说明在 D 大事发生得条件下,A 大事得发生,故其概率为 P(AD) 依据贝叶
2、斯定律,可得: P(D)=() P(A)P(B) P(D|B)(C)* (DC)=0、1 (D)P(D)/P(D)(D|)*(A)/ P(D)0、15、1/0、1、15 故得知“该地区得某一位高血压者就是胖子这一消息获得得多少信息量为: I(AD) = - ogP(A)log(0、15)2、3 (bi) 二、设有一个马尔可夫信源,它得状态集为 , ,S ,符号集为a 1 ,a 2 ,a 3 ,以及在某状态下发出符号集得概率就是(i,k=,2,3),如下图 (1)求图中马尔可夫信源得状态极限概率并找出符号得极限概率 (2)计算信源处在某一状态下输出符号得条件熵 H(XS=j) (j=s 1 ,s
3、 2 ,s ) (3)求出马尔可夫信源熵 解:(1)该信源到达平稳后,有以下关系成立: 可得 () ()31( ) ( | ) 2/7*3/2 3/7*1 2/7*0 6/7i iiH Q E H X E= = + + =(比特/符号) 三、二元对称信道得传递矩阵为 (1)若 P(0)3/4,P(1)=1/,求(X),H(X)与 I(X;) ()求该信道得信道容量及其最大信道容量对应得最正确输入分布 解:=、811(比特/符号) =、7*0、6+0、50、4=、5 0、50、4+0、50、=0、45 、2(比特符号) 1 2 2( | ) ( ) ( | ) ( ) ( | ) 0.75 (0
4、.6,0.4) 0.25 (0.4,0.6)(0.6log0.6 0.4log0.4)0.971 /H Y X p x H Y x p x H Y x H H = + = + = - + (比特 符号) 0、81+、9710、992=0、79 (比特/符号) 0、110、9=、01(比特/符号) (2)此信道为二元对称信道,所以信道容量为 C=(p)=1H(、)=-0、97=、029(比特/符号) 当输入等概分布时到达信道容量 四、求信道得信道容量,其中. 解:这就是一个准对称信道,可把信道矩阵分为:, , 故21log ( 2 , 2 ,0,4 ) loglog2 ( 2 , 2 ,0,4
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 信息论 试题 答案
限制150内