《信息论》教学大纲.docx

信息论课程教学大纲一、课程的基本信息适应对象：信息与计算科学课程代码：15E01525学时分配：54赋予学分：3先修课程：数学分析、高等代数、概率论与数理统计后续课程：毕业综合训练二、课程性质与任务信息论是信息与计算科学专业的一门重要专业选修理论课程，本课程反映了信息与计算科 学专业具有数学学科与信息学科交叉的学科背景；信息论主要运用概率论、随机过程等方法来 研究信息的度量、传输和处理的一般规律，保证通信系统的可靠性、有效性；通过本课程的学 习，拓宽学生专业视野，有利于培养学生的数学应用能力，提高专业综合素养。三、教学目的与要求通过本课程的教学，使学生对信息论有一个比拟全面系统的了解；理解信息论的基本概念 和基本理论；掌握离散信源的信息测度；掌握离散信道的信息传输率及信道容量的计算方法； 掌握几种基本的无失真信源编码方法；了解离散信源无失真编码定理、离散有噪信道编码定理、 离散信源的信息率失真理论。培养运用信息测度方法研究不确定性问题的能力，充分认识到数 学学科应用广泛性与科学性，为从事信息科学的研究和应用打下一个坚实的基础。四、教学内容与课时安排第1章绪论（2课时）信息通信系统模型信息论的形成和开展第2章信息的统计度量（10课时）自信息量和条件自信息量 互信息量和条件互信息量 离散集的平均自信息量 离散集 的平均互信息量连续随机变量的互信息和相对牖*第3章 离散信源（10课时）信源的数学模型及其分类 离散无记忆信源 离散无记忆信源的扩展信源 离散平稳信 源 马尔可夫信源 信源的相关性和剩余度第4章 离散信道及其容量（10课时）信道的数学模型 离散无记忆信道 离散无记忆扩展信道 信道的组合 信道容量第5章 无失真信源编码（10课时）编码器 分组码定长码 变长码第6章 有噪信道编码（4课时）噪声信道的编码问题 错误概率与编码方法 有噪信道编码定理 错误概率的上界第7章 限失真信源编码（4课时）失真测度 信息率失真函数 限失真信源编码定理和逆定理 信息率失真函数的计算第8章纠错编码*（4课时）纠错码的基本概念纠错码分类 线性分组码 儿种重要的纠错码（打*为选讲内容）五、附录教学参考文献目录1周荫清.信息理论基础M,北京：北京航空航天大学出版社2012年3月。【2】傅祖芸.信息论一基础理论与应用M,北京：电子工业出版社，2011年2月。3常 迥.信息理论基础M,北京：清华大学出版社，2013年3月。4朱雪龙.应用信息论基础M,北京：清华大学出版社，2012年3月。