信息论与编码第一章精选PPT.ppt

《信息论与编码第一章精选PPT.ppt》由会员分享，可在线阅读，更多相关《信息论与编码第一章精选PPT.ppt（40页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、信息论与编码第一章1第1页，此课件共40页哦教材 信息论与编码,陈 运,电子工业出版社信息论基础理论与应用,傅祖芸,电子工业出版社纠错码原理与方法,王新梅,西安电子科技大学出版社 信息论与编码,曹雪虹,北京邮电大学出版社信息论与编码,傅祖芸,电子工业出版社参考教材：2第2页，此课件共40页哦课程概述n当今的时代是一个信息的时代，信息处理技术的不断进步极大的影响了我们的生活，使我们的生活质量得到很大提高。n本课程将介绍信息科学的基础理论和基本方法，课程将基于一个通讯系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成。3第3页，此课件共40页哦学习方法n

2、 本课程以概率论为基础，数学推导较多，学习时主要把注意力集中到概念的理解上，不过分追求数学细节的推导。n 学习时一定要从始至终注意基本概念的理解，不断加深概念的把握。学习时注意理解各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。4第4页，此课件共40页哦第一章 绪论 主要内容：5第5页，此课件共40页哦第一节 信息的概念 从哲学的角度上讲，信息是构成物质世界的三大支柱之一，其他两个是物质和能量。可以说我们生活在信息的海洋之中，没有信息就没有世界，当然也就没有我们人类社会。人类利用信息利用信息的历史非常悠久，而且随着人类社会的发展

3、而发展。到了现代，信息的利用已经非常重要，以至于我们当今生活的社会被称作信息社会。可见信息的重要。但是有史以来，人们都没有对信息下过一个确切的定义。就像对于物质和能量一样。6第6页，此课件共40页哦n 信息虽无确切定义，但是却具有两个明显的特征：广泛性与抽象性。广泛性客观世界充满着信息 人类离不开信息 知识、书本是有用信息的积累 抽象性三大要素是：物质、能量与信息。三要素中物质是基础，是实体。能量是物质运动的形式，E=mc2，物质可转换成能量，而能量又是改造客观世界的主要动力。什么是信息？7第7页，此课件共40页哦n通俗的说，信息就是消息。如：告诉你一个消息 从不同的角度，有上百种不同的定义；

4、如：“信息是事物之间的差别。”“信息是接受者事先不知道的东西。”n广义地说，信息是认识主体（人、生物、机器）所感受的事物运动状态和变换方式。n狭义地说，信息是用来消除不确定性的东西。这是香农（Claude Elwood Shannon)给出的定义。什么是信息？8第8页，此课件共40页哦信息的直观认识9第9页，此课件共40页哦信息的直观认识10第10页，此课件共40页哦信息的直观认识11第11页，此课件共40页哦信息的直观认识12第12页，此课件共40页哦香农信息的度量n信息“是来消除不确定性的东西”；13第13页，此课件共40页哦互信息n互信息量：互信息量：yj对对xi的互信息量定义为后验概率

5、与先验的互信息量定义为后验概率与先验 概率概率比值的对数。比值的对数。n先验概率：先验概率：信源发出消息信源发出消息xi的概率的概率p(xi)。n后验概率：后验概率：信宿收到信宿收到yj后推测信源发出后推测信源发出xi的概率的概率p(xi/yj)。14第14页，此课件共40页哦信息的特性信息是可度量的；信息是无形的；信息是可共享的；信息是无限的；15第15页，此课件共40页哦n消息消息是信息载体和具体表现形式（如文字、符号、图片、电影等）；消息、信号和信息之间的关系16第16页，此课件共40页哦信号是消息的表现形式；消息是信号的具体内容；信号是表示消息的物理量（随时间、空间变化），适合在信道传

6、输的物理量，如声波、光波、电磁波等。消息、信号和信息之间的关系17第17页，此课件共40页哦信息论研究的对象18第18页，此课件共40页哦信息论研究的对象19第19页，此课件共40页哦信源编码的主要目的20第20页，此课件共40页哦信源编码的主要目的n压缩！使信号能够更加有效地传输信息。呵呵，这样就能过去啦！21第21页，此课件共40页哦信道编码的主要目的22第22页，此课件共40页哦调制的主要目的23第23页，此课件共40页哦调制的主要目的24第24页，此课件共40页哦通信系统的指标通信系统的基本问题：在某一点精确或近似地恢复另一点发送的信息。25第25页，此课件共40页哦香农的主要贡献26

7、第26页，此课件共40页哦信息论的研究内容27第27页，此课件共40页哦信息论的研究内容28第28页，此课件共40页哦信息论的研究内容29第29页，此课件共40页哦信息论的分支30第30页，此课件共40页哦信息论的发展31第31页，此课件共40页哦信息论的发展32第32页，此课件共40页哦信息论的发展33第33页，此课件共40页哦信息论的应用34第34页，此课件共40页哦信息论的应用35第35页，此课件共40页哦香农生平介绍36第36页，此课件共40页哦香农的主要学术贡献37第37页，此课件共40页哦香农的主要学术贡献38第38页，此课件共40页哦香农的特点39第39页，此课件共40页哦附录：希腊字母表40第40页，此课件共40页哦