《信息论基础》教学大纲（本科）.docx
信息论基础教学大纲课程英文名Element of Information Theory课程代码J0712Z17学分3总学时48理论学时32实验/实践学时 16课程类别专业课课程性质限选先修课程数学分析高等代数 概率论与数理统计适用专业信息与计算科学专业开课学院理学院执笔人审定人制定时间2018年05月注：课程类别是指公共基础课/学科基础课/专业课；课程性质是指必修/限选/任选。一、课程地位与课程目标(-)课程地位信息与计算科学专业是数学学科的一个重要专业，它主要培养当今信息社会日益需要的信息 基础理论研究的专门人才。信息论是应用近代概率统计方法来研究信息传输，交换，存储和处理 的一门学科，也是源于通信实践发展起来的一门新兴应用科学。40多年来，信息论学科有了很 大的发展并延伸到许多领域中。人们已认识到，在现代科学技术高度发展过程中，学习和掌握信 息理论日益成为人们的一种需要。通过本课程的学习能让学生掌握好本学科的基本概念，基本理 论和基本方法，为以后从事这方面研究打下坚实的基础。(-)课程目标1 .课程目标1：掌握信息论的基本理论，能利用信息论的基本理论解题。2 .课程目标2：掌握理想通信系统的基本概念，并能分析和解决常见问题。3 .课程目标3：掌握编码和译码的方法，并把所学编码方法运用到实际问题中，培养学生 的运用知识解决实际问题的能力。二、课程目标达成的途径与方法以课堂教学为主，结合实验课程教学，并借用BB平台资源和微课程资源、多媒体和自媒体 完成课程的教学工作和教学任务。三、课程目标与相关毕业要求的对应关系课程 目标课程目标对毕业要求的支撑程度(H、M、L)毕业要求1毕业 要求2毕业 要求3毕业 要求4毕业 要求5毕业 要求6毕业 要求7毕业 要求8毕业 要求9毕业要求10课程 目标1LHHMMMLMLM课程目标2LMHHHMLMLM课程LMHHHLLMLM 目标3注：1 ,支撑强度分别填写H、M或L （其中H表示支撑程度高、M为中等、L为低）。四、课程主要内容与基本要求第1章绪论课程主要教学内容：信息的概念，信息论的研究对象、目的和内容课程基本要求：通过本章的学习，要求熟练掌握信息的概念，信息、消息和信号之间的异同; 掌握信息论的研究对象和目的。第2章信息的度量课程主要教学内容：自信息、互信息、平均自信息和平均互信息。课程基本要求：理解信息的可度量性；理解信息度量的原则。理解随机变量和它的不确定性 度量；熟练掌握自信息、互信息的概念。掌握不确定性的特征表示与香农焙的产生；熟练掌握香 农烯的概念与简单性质；熟练掌握联合焙与条件烯。掌握平均互信息的定义与性质。第3章信源及信源端课程主要教学内容：信源的分类及其数学模型；离散单符号信源；离散平稳无记忆信源；离 散平稳有记忆信源；马尔可夫信源；信源的相关性和剩余度；连续信源的微分焙。课程基本要求：了解信源的分类，掌握用概率空间描述信源的方法；掌握离散无记忆信源的 概念及其信息嫡；掌握离散平稳信源的概念和极限熠；熟练掌握马尔可夫信源的概念和极限嫡。 掌握连续信源的微分嫡。第4章 信道及信道容量课程主要教学内容：离散单符号信道及其信道容量；信道容量的概念；几种特殊信道的信道 容量；离散对称信道的信道容量；一般离散信道的信道容量。课程基本要求：了解信道的分类；熟练掌握信道容量的概念；会计算几种特殊信道的信道容 量和一般离散信道的信道容量。第5章无失真信源编码课程主要教学内容：编码器；码的分类；定长码及定长信源编码定理；变长码及变长信源编 码定；Kraft不等式；唯一可译码的判别准则；无失真变长信源编码定理（香农第一定理）；变 长码的编码方法。课程基本要求：掌握信源编码的分类，即时码唯一可译码；掌握定长码和变长码及其编码定 理；掌握Kraft不等式；熟练掌握唯一可译码判别准则；熟练掌握香农编码、霍夫曼编码和费诺 编码。第6章有噪信道编码课程主要教学内容：错误概率和译码规则；错误概率与编码方法；有噪信道编码定理；纠错 编码。课程基本要求：掌握错误概率的概念；熟练掌握错误概率准则、最大似然概率准则。第7章限失真信源编码课程主要教学内容：失真测度；失真函数；平均失真；信息率失真函数定义和性质；D失真 许可信道。课程基本要求：掌握失真测度、平均失真保真度准则的概念；掌握信息率失真函数的定义和 性质。五、课程学时安排章节号教学内容学时 数学生任务对应课程目 标第1章绪论2作业：习题一课程目标1第2章信息的度量6作业：习题二、实验报告课程目标1、2第3章信源及信源焙8作业：习题三、实验报告课程目标1、2第4章信道及信道容量8作业：习题四、实验报告课程目标1、2第5章无失真信源编码12作业：习题五、实验报告课程目标2、3第6章有噪信道编码6作业：习题六课程目标2第7章限失真信源编码6作业：习题七、实验报告课程目标1、2六、实践环节及基本要求序实验项目名称学时基本要求学生任务实验 性质实验 类别1信息量的计算2掌握计算方法完成实验报告综合必做2信息端曲线的绘制2了解信息上曲线完成实验报告验证选做3信道容量的计算2掌握信道容量计完成实验报告验证必做4香农编码2掌握编码方法完成实验报告验证必做5Huffman 编码2掌握编码方法完成实验报告验证必做6费诺编码2掌握编码方法完成实验报告验证必做7线性分组码2了解分组吗完成实验报告验证选做8率失真函数计算2了解率失真函数 计算完成实验报告验证选做注：1 ,实验性质指演示性、验证性、设计性、综合性等；2,实验类别指必做、选做等。七、考核方式及成绩评定考核内容考核方式评定标准（依据）占总成绩比例过程考核到课率、课堂讨论发言、平时作 业、实验成绩点名5次，每次2分；平 时作业10分；实验成绩40%期末考核闭卷期末试卷满分100分60%考核类别考试成绩登记方式百分制八、推荐教材与主要参考书（一）推荐教材：信息论基础教程，李梅、李亦农、王玉嗥编著，北京邮电大学出版社，2015.8 ,第三 版（二）主要参考书：（1）信息论-基础理论与应用，傅祖芸编著，电子工业出版社出版，2015.3,第三版。（2）信息论基础第二版，叶中行编著，高等教育出版社，2007.7（3）信息理论与编码学习辅导及精选题解，傅祖芸编著，电子工业出版社出版，2004.7（4）信息论、编码与密码学,Ranjan Bose著，武传坤译，机械工业出版社出版，2010.9, 第二版（5）系统论、控制论、信息论经典文献选编，庞元正、李建华编著，求实出版社，1989.1 （6）信息论基础与应用，沈世镒、吴忠华编著，高等教育出版社，2004.7,第二版。（7）信息论与编码，陈运编著，电子工业出版社出版，2015.12,第三版。
