书签分享收藏举报版权申诉 / 37

立即下载

当前位置：首页 > 教育专区 > 高考资料 > 2022年信息论与编码教案 .pdf

2022年信息论与编码教案 .pdf

上传人：H****o

文档编号：57613829

上传时间：2022-11-05

格式：PDF

页数：37

大小：664.41KB

( 4.5 )

《2022年信息论与编码教案 .pdf》由会员分享，可在线阅读，更多相关《2022年信息论与编码教案 .pdf（37页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、名师精编精品教案2.3 连续信源熵上一章我们讨论的为离散信源，实际应用中还有一类信源称为连续信源，这种信源的时间和取值都是连续的，例如语音信号，电视信号都是连续信号。时间离散状态连续的信源熵可以用连续信源熵表示，相当于一个连续随机变量。而时间连续的信源，为一个随机过程，只要信号频谱有限，则可以根据采样定理，将其变为时间离散信源。信息论中只讨论单变量连续信源，即时间离散状态连续的连续信源。1 连续信源的熵1-1 连续信源熵的定义连续信源的状态概率用概率密度来表示。如果连续随机变量X，取值为实数域R，其概率密度函数为p(x)，则如果取值为有限实数域a,b，则这是 X 的概率分布函数为：连续信源的数

2、学模型X:R(或a,b)P(X):p(x)连续信源熵的表达式利用离散信源熵的概念来定义连续信源熵，首先看一个再a,b取间的连续随机变量，如图：p(x)p(xi)a 0 xi b x 首先把 X 的取值区间 a,b分割为 n 个小区间，小区间宽度为：=(b-a)/n 根据概率分布为概率密度函数曲线的区间面积的关系，X 取值为 xi 的概率为：Pi=p(xi).这样可以得到离散信源Xn 的信源空间为：Xn,P:Xn:x1x2xnP(Xn):p(x1)p(x2)p(xn)且有：当n 趋无穷时，按离散信源熵的定义：可得离散信源Xn 的熵：p x dxR()1p x dxab()1F xP Xxp x

3、dxx()()111p x dxR()1Pip xip x dxininab111()()名师精编精品教案当趋于0，n 趋于无穷时，离散随机变量Xn将接近于连续随机变量X，这时可以得到连续信源的熵为：其中：连续信源的熵定义为：连续信源熵为一个相对熵，其值为绝对熵减去一个无穷大量。连续信源有无穷多个状态，因此根据SHANNON熵的定义必然为无穷大。连续信源的熵不等于一个消息状态具有的平均信息量。其熵是有限的，而信息量是无限的。连续信源熵不具有非负性，可以为负值。尽管连续信源的绝对熵为一个无穷大量，但信息论的主要问题是信息传输问题，连续信道的输入输出都是连续变量，当分析其交互信息量时是求两个熵的差

4、，当采用相同的量化过程时，两个无穷大量将被抵消，不影响分析。连续信源的疑义度：则平均交互信息量为：I(X,Y)=H(X)-H(X/Y)1-2 几种连续信源的熵(1)均匀分布的连续信源熵设一维连续随机变量X 的取值区间是a,b，在 a,b中的概率密度函数是这种连续信源称为均匀分布的连续信源。其熵为：H XPPp xip xiniiinin()log()log()11p xip xip xiinin()log()log()11p xip xi()log()logHXH Xp xip xicnnin()lim()lim()log()log01p xp x dxab()log()limlog0HX()

5、H Xp xp x dxab()()log()H XYp x yp xy dxdy(/)(,)log(/)p xbaaxbxb xa(),10文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ

6、4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D1

7、0B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7

8、ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G

9、2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文

10、档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM

11、2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5文档编码:CM2K2O9T4X3 HQ4L10D10B6V7 ZL5B1G2I8C5名师精编精品教案这时可以看

12、到：当(b-a)1 时，H(X)0，即 H(X)不具有熵函数的非负性，因为H(X)是相对熵，相对熵可以为负值，但绝对熵仍然为正值。(2)高斯分布的连续信源熵设一维随机变量X 的取值范围是整个实数R，概率密度函数为：其中，m 是随机变量X 的均值2是随机变量X 的方差当均值 m=0 时，方差 2就是随机变量的平均功率，这个信源称为高斯分布的连续信源，其数学模型为：这时可以得到高斯连续信源的熵为：这里的对数是以e 为底。当均值为0时，高斯信源的熵为(3)指数分布的连续信源熵设一随机变量X 的取值取间为0，其概率密度函数为则称为指数分布的连续信源。其中常数a为随机变量X 的均值。即H Xp xp x

13、 dxbabadxbaabab()()log()loglog()11p xxm()exp()122222mE xxp x dx()222EXmxmp x dx()()()Px p x dx2(),:():()exp()X PXP XRp xxm122222p x dx()1H Xp xp x dxp xxmdx()()log()()logexp()122222p xdxp xxmdx()log()()122222logloglog21212212122222eHXeP()log122p xaexxa()()10文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1

14、文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:C

15、H10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N

16、5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8

17、HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10

18、P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9

19、 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5

20、I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1名师精编精品教案指数分布的连续信源的熵为2 连续信源的最大熵2-1 连续信源的最大熵为了求出连续信源的最大熵，将利用数学中的变分法的方法来求解。连续信源的熵为：其基本约束条件为：其它约束条件为：建立辅助函数：其中有：根据极值的条件有：及 m 个约束方程

21、，可以确定最大熵和所对应的信源概率密度分布p(x)。下面讨论两种基本信源。（1）输出幅度受限时的最大熵（瞬时功率受限）E Xmxp x dxxaedxaxa()100HXp xp x dxaeaedxxaxa()()log()log11001100aaedxaxedxaexaxaloglogH Xp xp x dx()()log()p x dx()111abx p dxK(,)22abx p dxK(,)F x p xfx p dxx p dxx p dxmm,()(,)(,).(,)11fx pp xp x(,)()log()F x pp(,)0文档编码:CH10J9N5P6X8 HZ8J1

22、0P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L

23、9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C

24、5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J

25、1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:

26、CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9

27、N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8

28、 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1名师精编精品教案其基本条件为：|x|v，x2S，这时对应只有一个约束方程，并且：可以得到：这里的对数为以e 为底，由约束方程可得：结论：对于瞬时功率受限的连续信源，在假定信源状态为独立时，当概率密度分布为常数时，信

29、源具有最大熵。其最大熵为：（2）输出平均功率受限时的最大熵推导：这时的约束条件为：可知：由极值条件：可得：logp(x)=1+2x2-1 p(x)=e1-1e2x2 将其代入约束条件1，可得：利用积分公式：可得：pxdxvv()1F x ppf x ppx ppp x(,)(,)(,)log()11101log();()p xp xe1111edxevp xvSvv11111121212;()HXvvdxvvvmax()loglog12122p x dxxp x dx();()122f x ppp xx ppx ppx(,)log();(,);(,)11122f x pp xp xx pp x

30、x px p x(,)()log();(,)();(,)()122fppp10122log()10122p xxp xeex()1221eedxx12211edxx2文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH

31、10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5

32、P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 H

33、Z8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P

34、6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9

35、ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I

36、8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1名

37、师精编精品教案由：利用积分关系：可得：代入前面的结果：得到：得到连续信源获得最大熵时的概率密度函数：这是一个均值为0 的高斯分布。其最大熵为其中利用两个积分关系：如果平均功率为N=2;则有ee1112121;x p x dxex edxx2122122()x edxx2222212()e1122212()222212()22112121;ep xex()12222H Xp xdxp xxdxe()()log()()12222logexxedxxedx21221222222222loglog;eeenet2122121422222edxx edxxx;文档编码:CH10J9N5P6X8 HZ8J

38、10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2

39、L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6

40、C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6

41、J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码

42、:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J

43、9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X

44、8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1名师精编精品教案结论：（最大熵定理）对于输出平均功率受限的连续信源，在假设状态相互独立时，当其概率密度函数为高斯分布时，具有最大熵。其最大熵值随功率N 的增加而增加。2-2 连续信源的熵功率对于平均功率受限的连续

45、信源，当信源为高斯分布时有最大熵，如果概率分布不是高斯分布，则信源熵将小于最大熵。熵功率则用来描述连续信源熵的剩余度。一个平均功率为N 的非高斯分布的连续信源的熵功率等于与其有同样熵的高斯信源的平均功率。当非高斯连续信源与高斯信源具有相同熵时，那非高斯信源的平均功率一定大于高斯信源的功率。当非高斯连续信源与高斯信源具有相同平均功率时，那非高斯信源的熵一定小于高斯信源的熵。平均功率为N 的非高斯信源的熵功率为2-3 连续信源的共熵和条件熵同离散信源相似，连续信源也可定义其共熵和条件熵，其基本关系为：H(X,Y)=H(X)+H(Y/X)=H(Y)+H(X/Y)H(X,Y)H(X)+H(Y)H(X/

46、Y)H(X)H(Y/X)H(Y)2.4 平稳随机序列信源熵前面讨论的是单符号离散信源和单符号离散信道的信息特性。这一节开始讨论随机矢量或随机序列信源的情况。通常这种信源是很复杂的，通常要进行简化分析。X=X1，X2，X3，为平稳随机序列，即统计特性不随时间改变；随机序列为有限等长度，每个信源消息由N 个符号序列组成，1 离散无记忆信源的扩展信源A.假设条件这里对离散平稳随机序列信源做进一步假设。(1)我们假设多符号离散平稳信源X=X1，X2，XN中，符号的随机变量Xi都取值于同一个信源空间，Xi,P=x1x2x3xnp(x1)p(x2)p(x3)p(xn)(2)我们假设多符号离散平稳信源X=X

47、1，X2，XN中，各变量Xi(i=1,2,N)之间统计独立，即HXeNneteNbiteemax()log;.log214432HXHXeNNe()()logmax2eeNHXN22()NeeNHXN122()H X Yp x yp x y dxdy(,)(,)log(,)HXYp x yp xy dxdy(/)(,)log(/)H YXp x yp yx dxdy(/)(,)log(/)文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ

48、8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6

49、A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 Z

50、K6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8H6J1文档编码:CH10J9N5P6X8 HZ8J10P6A2L9 ZK6C5I8

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

4.3 金币

版权申诉 word格式文档无特别注明外均可编辑修改；预览文档经过压缩，下载后原文更清晰！ 立即下载

配套讲稿：: 如PPT文件的首页显示word图标，表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
特殊限制：: 部分文档作品中含有的国旗、国徽等图片，仅作为作品整体效果示例展示，禁止商用。设计者仅对作品中独创性部分享有著作权。
关键词：: 2022年信息论与编码教案 2022 信息论编码教案

淘文阁 - 分享文档赚钱的网站所有资源均是用户自行上传分享，仅供网友学习交流，未经上传用户书面授权，请勿作他用。

限制150内

关于本文

本文标题：2022年信息论与编码教案 .pdf
链接地址：https://www.taowenge.com/p-57613829.html