《信息论与编码技术》复习提纲.pdf

《《信息论与编码技术》复习提纲.pdf》由会员分享，可在线阅读，更多相关《《信息论与编码技术》复习提纲.pdf（8页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 复习1 信息论与编码技术复习提纲 一、考试题型 1.名词解释（10%）2.填空题（20%）3.判断题（10%）4.简答题（20%）5.证明题（10%）6.计算题（30%）二、考试时间 1 月 9 日 10:2012:20 三、复习题纲 第 0 章 绪论 题纲：I.什么是信息？II.什么是信息论？III.什么是信息的通信模型？IV.什么是信息的测度？V.自信息量的定义、含义、性质 需掌握的问题：1.信息的定义是什么？（广义信息、狭义信息Shannon 信息、概率信息）2.Shannon 信息论中信息的三要素是什么？3.通信系统模型图是什么？每一部分的作用的是什么？复习2 4.什么是信息测度？5

2、.什么是样本空间、概率空间、先验概率、自信息、后验概率、互信息？6.自信息的大小如何计算？单位是什么？含义是什么（是对什么量的度量）？第 1 章 信息论基础 离散信源题纲：I.信源的定义、分类 II.离散信源的数学模型 III.熵的定义、含义、性质，联合熵、条件熵 IV.离散无记忆信源的特性、熵 V.离散有记忆信源的熵、平均符号熵、极限熵 VI.马尔科夫信源的定义、状态转移图 VII.信源的相对信息率和冗余度 需掌握的问题：1.信源的定义、分类是什么？2.离散信源的数学模型是什么？3.信息熵的表达式是什么？信息熵的单位是什么？信息熵的含义是什么？信息熵的性质是什么？4.单符号离散信源最大熵是多

3、少？信源概率如何分布时能达到？5.信源的码率和信息率是什么，如何计算？6.什么是离散无记忆信源？什么是离散有记忆信源？7.离散无记忆信源的数学模型如何描述？信息熵、平均符 复习3 号熵如何计算？8.离散有记忆多符号离散平稳信源的平均符号熵、极限熵、条件熵（N 阶熵）的计算、关系和性质是什么？9.什么是马尔科夫信源？马尔科夫信源的数学模型是什么？马尔科夫信源满足的 2 个条件是什么？10.马尔科夫信源的状态、状态转移是什么？如何绘制马尔科夫信源状态转移图？11.马尔科夫信源的稳态概率、稳态符号概率、稳态信息熵如何计算？12.信源的相对信息率和冗余度是什么？如何计算？离散信道题纲：I.信道的数学模

4、型及分类 II.典型离散信道的数学模型 III.先验熵和后验熵 IV.互信息的定义、性质 V.平均互信息的定义、含义、性质、维拉图 VI.信道容量的定义 VII.特殊离散信道的信道容量 需掌握的问题：1.信道的定义是什么？信道如何分类？信道的数学模型是什么？2.二元对称信道和二元删除信道的信道传输概率矩阵是什么？3.对称信道的信道传输概率矩阵有什么特点？复习4 4.根据信道的转移特性图，写出信道传输概率矩阵。5.先验熵、后验熵的区别？6.联合熵、条件熵和信息熵的关系。7.互信息的大小如何计算？互信息的性质是什么？8.联合互信息、条件互信息、互信息之间的关系是什么？9.平均互信息的定义是什么？平

5、均互信息的含义？平均互信息的性质？10.联合平均互信息、条件平均互信息和平均互信息的关系？11.损失熵和噪声熵的含义是什么？维拉图表示了哪些关系式？12.信道的传码率和传信率（信息率）的计算方法是什么？13.信道容量的定义是什么？信道容量的含义如何理解？14.无噪无损信道、有噪无损信道、无噪有损信道、对称信道的信道容量如何计算？连续信源和波形信道 题纲：I.连续信源的定义、数学模型、绝对熵、相对熵 II.给定条件下，连续信源的最大熵 III.熵功率 IV.连续信道和波形信道的信道容量 需掌握的问题：1.连续信源定义、数学模型是什么？2.连续信源熵的表达式是什么？相对熵和绝对熵的区别是什么？复习

6、5 3.如何计算均匀分布、正态分布连续信源的最大熵？4.什么是波形信道？了解波形信道互信息、信道容量的求解思路。5.香农公式是什么？物理意义是什么？第 2 章 无失真信源编码 题纲：I.基本概念 1.编码 2.二元码 3.等长码 4.变长码 5.码的 N 次扩展码 6.唯一可译码 II.等长码 III.变长码 IV.无失真信源编码定理 V.编码方法 1.香农编码 2.费诺编码 3.霍夫曼编码 需掌握的问题：1.编码的定义及编码相关术语。2.信源编码的定义及目的是什么？3.解释二元码、等长码、变长码、唯一可译码。复习6 4.变长码和定长码的区别是什么？用码树描述二者的差异，能够说明变长码和定长码

7、各自的优劣。5.描述香农第一定理及意义。6.掌握香农编码、费诺编码、霍夫曼编码的步骤及特点，会计算编码效率。7.了解游程编码和算术编码的思路。第 3 章 信道编码 题纲：I.检错、纠错原理及方法、能力 II.差错控制理论 1.译码规则 2.2 种准则下的错误概率 III.信道编码定理 IV.编码方法 1.简单的检错、纠错码 2.线性分组码 3.循环码 需掌握的问题：1.信道编码的定义及目的是什么？2.检错原理是什么？3.差错控制方法有哪些？4.如何确定一种编码的检错、纠错能力？5.汉明距离是什么？汉明重量是什么？最小码距是什么？6.信道编码的效率如何确定？复习7 7.奇偶校验码的编码规则是什么

8、？检错、纠错能力如何？8.译码规则的定义是什么？9.最大后验准则是什么？极大似然准则是什么？这两种准则下如何计算错误概率？10.错误概率与损失熵之间的关系是什么？11.描述香农第二定理及意义。12.线性分组码的编码原理和校验原理是什么？13.循环码的编码原理和校验原理是什么？14.了解循环冗余校验码和卷积码的编码思路。第 4 章 信息率失真函数 题纲：V.失真度 VI.平均失真度 VII.信息率失真函数 VIII.信息率失真函数的性质 IX.限失真信源编码定理 需掌握的问题：1.失真度如何表示？2.四种常见失真度的形式分别是什么？分别用于什么场合？3.平均失真度如何计算？4.什么是保真度准则？5.什么是试验信道？6.信息率失真函数的定义是什么？复习8 7.信息率失真函数和信道容量的区别和联系是什么？8.信息率失真函数的性质是什么？9.定义域 Dmin,Dmax，以及相应的 R(Dmin),R(Dmax)如何计算？10.描述香农第三定理及意义。11.了解预测编码和变换编码的思路。