第五章 信源编码.ppt

《第五章 信源编码.ppt》由会员分享，可在线阅读，更多相关《第五章 信源编码.ppt（128页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第五章第五章 信源编码信源编码信源编码信源编码信源编码是以提高通信的有效性为目的编码。信源编码是以提高通信的有效性为目的编码。通常通过压缩信源的冗余度来实现。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。同样多的信息用较少的码特数或信源的码率。同样多的信息用较少的码率来传送，使单位时间内传送的平均信息量增率来传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。加，从而提高通信的有效性。信源编码的基本途径有两个：信源编码的基本途径有两个：使序列中的各个符号尽可能地互相使序列中的各个符号尽可能地互相独立，

2、即解除相关性；独立，即解除相关性；使编码中各个符号出现的概率尽可使编码中各个符号出现的概率尽可能地相等，即概率均匀化。能地相等，即概率均匀化。信源编码的基础是信息论中的两个编码定理：信源编码的基础是信息论中的两个编码定理：无失真编码定理无失真编码定理 限失真编码定理限失真编码定理 无失真编码无失真编码只适用于离散信源只适用于离散信源 对于连续信源，只能在失真受限制的情况下进对于连续信源，只能在失真受限制的情况下进行行限失真编码限失真编码下面介绍几种典型的离散信源编码方法。下面介绍几种典型的离散信源编码方法。a1,a2,aK为信源符号集，序列中每一个符号uml都取自信源符号集。b1，b2，bD是

3、适合信道传输的D个符号，用作信源编码器的编码符号。编码输出码字cm=cm1cm2 cmn，c mkb1，b2，bD k=1,2,n ，n表示码字长度，简称码长码长 信源符号 a1,a2,aK 信道符号（码符号）b1,b2,bD图5-1 信源编码器模型信源信源 信源编码器信源编码器 一般来说，信源编码可归纳为如图5-1所示的模型。消息ui=ui1ui2 uiL 码字ci=ci1ci2 cin 信源编码可看成是从信源符号集到码符号集的一种映射，即将信源符号集中的每个元素（可以是单符号，也可以是符号序列）映射成一个长度为n的码字。对于同一个信源，编码方法是多种的。【例例】用u1，u2，u3，u4表示

4、信源的四个消息，码符号集为0,1，表5-1列出了该信源的几种不同编码。表5-1同一信源的几种不同编码信 源消息各消息概率码1码2码3码4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1111111000码的分类3.变长码变长码若码字集合C中的所有码字cm(m=1,2,M)，其码长不都相同，称码C为变长码，表5-1中列出的码3、码4就是变长码。2.等长码等长码在一组码字集合C中的所有码字cm(m=1,2,M)，其码长都相同，则称这组码C为等长码，表3-1中列出的码1、码2就码长n=2等长码。一般，可以将码简单的分成如下几类：1.二元码二元码若

5、码符号集为0，1，则码字就是二元序列，称为二元码,二元码通过二进制信道传输，这是数字通信和计算机通信中最常见的一种码，表5-1列出的4种码都是二元码。5.非奇异码非奇异码从信源消息到码字的影射是一一对应的，每一个不同的信源消息都用不同的码字对其编码，例表5-1中的码2、码3和码4都是非奇异码。4.奇异码奇异码对奇异码来说，从信源消息到码字的影射不是一一对应的。例表5-1中的码1，信源消息u2和u4都用码字11对其编码，因此这种码就是奇异码，奇异码不具备惟一可译性。扩展信源信源编码器 信源符号 a1,a2,aK 信道符号（码符号）b1,b2,bD消息u1 uN=(u11u12 u1L)(uN1u

6、N2 uNL)N次扩展码字 c1 cN=(c11c12 c1n)(cN1cN2 cNn)图5-2 N次扩展信源编码器模型原码的N次扩展码是将信源作N次扩展得到的新信源符号序列u（N）=u1 uN =(u11u12 u1L)(uN1uN2 uNL)，对应码符号序列c（N）=c1 cN=(c11c12 c1n)(cN1cN2 cNn)，记集合C(N)=c1(N),c2(N),，C(N)即原码C的N次扩展码。6.原码原码C的的N次扩展码次扩展码原码C的N次扩展码中的每个元素是N次扩展信源中的序列所对应的N个码字组成的序列。对于定长码，若原码是惟一可译码，则它的N次扩展码也是惟一可译的，而对于变长码则

7、不尽然，见表5-2。信源消息各消息概率码1码2码3u1q(u1)011u2q(u2)11001u3q(u3)00100001u4q(u4)1110000001表5-2同一信源的几种不同变长编码表5-2同一信源的几种不同变长编码7.惟一可译码惟一可译码定义定义5.1 如果码的任意如果码的任意N次扩展码都是非奇异码，则称该码为次扩展码都是非奇异码，则称该码为惟一可译码。惟一可译码。8.即时码即时码对于变长码，又有如下定义定义定义5.2 对于码字对于码字c=c1 c2 cn,称称c、=c1 c2 ci(i n)为码字为码字c的字头（前缀）。的字头（前缀）。定义定义5.3 若码中任一码字都不是另一码字

8、的字头，称该码为异字头码（无前缀码）。表5-3中码3，收到“1”后就知道一个码字已经完结，无须等待下一个符号抵达，所以无前缀码能够即时译码,称之为即时可译码，简称即时码即时码。而对于码2，收到“1”后，并不能立即做出判决，就是收到“10”也不能立即做出判决，则还要收到下面的码元才能做出判决。所以非异字头码不能即时译码，称为非非即即时时码码，由于非异字头码的其中一些码字是另一些码字的延长，故也称延长码。显然，即时码是惟一可译码，而惟一可译码不一定是即时码。即时码可用树图法来构造。图5-3 用树图法编码树根编码深度u1：1u2：01u3：001u4：000110u1u2u3u411100【例例】用

9、树图法表示表5-2中的码3，如图5-3所示（D=2）。码奇异码非奇异码非惟一可译码惟一可译码变长码等长码即时码延长码图5-5 码的分类结构图图5-5是码的分类结构图由上面的结构图可看出，将码分为奇异码和非奇异码两大类，我们只讨论非奇异码。非奇异码又分为惟一可译码和非惟一可译码两大类，我们只讨论惟一可译码。平均码长的计算平均码长的计算对于变变长长码码，码集C的平均码长，用符号 表示，定义为码C中每个码字cm(m=1,2,，M)其码长的概率加权平均值为 (3-1)式中nm是码字cm所对应的码字的长度，p(cm)是码字cm出现的概率。对于等等长长码码，由于码集C中的每个码字的码长都相同，平均码长就等

10、于每个码字的码长KpkpkKmmmmm=11)()(c cc c【例例】给定信源 ，为提高传输效率，使平均码长尽可能短，遵照概率大取码长短，概率小取码长长的原则对上述信源进行二进制不等长编码，得到 ，求编码后的信息传输率R。（比特/符号）（码元/符号）等长码及等长编码定理等长码及等长编码定理考虑对一简单信源S进行等长编码，信源符号集有n个符号，码符号集含m个符号，码字长度记为K。要得到惟一可译码，必须满足下式nmK对单符号信源S的L次扩展信源S（L）进行等长编码，要得到长为K的惟一可译码，必须满足n L mK （5-5）对式（5-5）两边取对数，得 （5-6）对于那些出现概率极小的字符序列不予

11、编码，这样可以减小平均码长，当然这样会带来一定的失真当然这样会带来一定的失真。下面的定理 将证明，当满足一定的条件时，在L 时，失真pe 0译码定长编码定理：定长编码定理：11反之2编码效率：编码效率：变长码及变长编码定理变长码及变长编码定理 变长码变长码 对变长码的讨论是在L足够大的条件下得到的结论，当L为有限值时，则总会带来一定程度的失真。对于变长码，往往在L不是很大的情况下就可编出高效且无失真的码。变长码也要求原码的任意L次扩展码也是惟一可译的。变长码分为即时码和延长码，为保证即时译码，要求变长惟一可译码采用即时码。对于变长码，要求整个码集的平均码长力求最小，此时编码效率最高。对于给定信

12、源，使平均码长达到最小的编码方法，称为最最佳佳编编码码，得到的码集称为最佳码最佳码。克拉夫特不等式克拉夫特不等式 定定理理5.2 m进制码字集合C=c1,c2,cM，码集中每一ci（i=1,2,M）都是一个m进制符号串，设c1,c2,cM 对应的码长分别是k1,k2,kM，则存在唯一可译码的充要条件是 (5-10)式（5-10）也称克拉夫特不等式克拉夫特不等式 定理5.2只是说是存在惟一可译码的充要条件，这里强调的是“存在”，但它并不是唯一可译码的充要条件，换言之，惟一可译码一定满足克拉夫特不等式，反之，满足克拉夫特不等式的码不一定是惟一可译码。变长编码定理变长编码定理 定定理理5.3 给定熵

13、为H（X）的离散无记忆信源，及有m个元素的码符号集，则总可找到一种无失真编码方法，构成惟一可译码，其平均码长 满足：（5-19）定理定理5.4 变长编码定理变长编码定理(Shannon第一定理第一定理)给定熵为H（X）的离散无记忆信源 ，其L次扩展信源 的熵记为H（X），给定有m个元素的码符号集，对扩展信源进行编码，总可以找到一种惟一可译码，使码长 满足 (5-23)记 为信源每个符号所对应的平均码字数，则式(5-23)为 （5-24）Shannon第一定理的物理意义在于：对信源进行编码，使使编编码码后后的的码码集集中中各各码码字字尽尽可可能能等等概概分分布布，如如果果将将这这码码集集看看成成

14、为为一一个新的信源，这时新信源所含信息量最大。个新的信源，这时新信源所含信息量最大。编码效率编码效率 (5-26)是一个无量纲的数，一般情况下1，在极限情况下=1。5.1 5.1 离散信源编码离散信源编码 5.2 5.2 连续信源编码连续信源编码 5.3 5.3 相关信源编码相关信源编码 5.4 5.4 变换编码变换编码5.1.45.1.4 赫夫曼编码赫夫曼编码5.1.35.1.3 费诺编码费诺编码5.1.55.1.5 游程编码游程编码5.1.65.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.25.1.2 香农编码香农编码如何分离码字？如果0

15、，01都是码字，译码时如何分离？判断以下码字是否可分离？例2.4.1 对离散无记忆信源，消息长度为L，符号熵为H(X),对信源进行m元变长编码，一定存在无失真的信源编码方法，满足：满足：其码字平均长度其码字平均长度K满足：满足：其码字平均信息率其码字平均信息率R R5.1.45.1.4 赫夫曼编码赫夫曼编码5.1.35.1.3 费诺编码费诺编码5.1.55.1.5 游程编码游程编码5.1.65.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.2 5.1.2 香农编码香农编码5.1.2 香农编码香农编码设有离散无记忆信源设有离散无记忆信源1234香

16、农编码方法的步骤香农编码方法的步骤按信源符号的概率从大到小的顺序排队不妨设不妨设例例设有一单符号离散无记忆信源设有一单符号离散无记忆信源试对该信源编二进制香农码。试对该信源编二进制香农码。编码过程编码过程（1）5.1.45.1.4 赫夫曼编码赫夫曼编码5.1.3 5.1.3 费诺编码费诺编码5.1.55.1.5 游程编码游程编码5.1.65.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.25.1.2 香农编码香农编码5.1.3 5.1.3 费诺编码费诺编码对概率按m进行分组，使每组概率尽可能相等给每个分组分配一个码元对每个分组重复2、3步，直到

17、不可分为止1234按信源符号的概率从大到小的顺序排队不妨设不妨设设有一单符号离散无记忆信源设有一单符号离散无记忆信源试对该信源编二进制费诺码。试对该信源编二进制费诺码。例例编码过程编码过程 可以看出本例中费诺码有较高的编码效率。可以看出本例中费诺码有较高的编码效率。费诺码比较适合于每次分组概率都很接近的信源。费诺码比较适合于每次分组概率都很接近的信源。树图树图：5.1.4 5.1.4 赫夫曼编码赫夫曼编码5.1.35.1.3 费诺编码费诺编码5.1.55.1.5 游程编码游程编码5.1.65.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.25.

18、1.2 香农编码香农编码将信源符号按概率由大到小顺序排队给两个概率最小的符号各分配一个码位，将其概率相加后合并作为一个新的符号，与剩下的符号一起，再重新排队给缩减信源中概率最小的符号各分配一个码元重复步骤2、3直至概率和为121435.1.4 5.1.4 赫夫曼编码赫夫曼编码设有一单符号离散无记忆信源设有一单符号离散无记忆信源试对该信源编二进制哈夫曼码。试对该信源编二进制哈夫曼码。例例编码过程编码过程说明：说明：Huffman码的编码方法不是唯一的。首先，每码的编码方法不是唯一的。首先，每次对缩减信源两个最小的符号分配次对缩减信源两个最小的符号分配“0”和和“1”码码元试任意的，所以可得到不同

19、的码字。只要在元试任意的，所以可得到不同的码字。只要在各次缩减信源中保持码元分配的一致性，即能各次缩减信源中保持码元分配的一致性，即能得到可分离码字。不同的码元分配，得到的具体得到可分离码字。不同的码元分配，得到的具体码字不同，但码长，平均码长都不变，所以没有码字不同，但码长，平均码长都不变，所以没有本质区别。其次，若合并后的新符号的概率与其本质区别。其次，若合并后的新符号的概率与其他符号的概率相等，从编码的方法上来说，这几他符号的概率相等，从编码的方法上来说，这几个符号的次序可任意排列，编出的码都是正确的，个符号的次序可任意排列，编出的码都是正确的，但得到的码字不同。不同的编法得到的码字长度

20、但得到的码字不同。不同的编法得到的码字长度也不尽相同。也不尽相同。对信源进行缩减时，两个概率最小的符号合对信源进行缩减时，两个概率最小的符号合并后的概率与其它信源符号的概率相同时，这并后的概率与其它信源符号的概率相同时，这两者在缩减信源中进行概率排序，其位置放置两者在缩减信源中进行概率排序，其位置放置次序是可以任意的，故会得到不同的哈夫曼码。次序是可以任意的，故会得到不同的哈夫曼码。此时将影响码字的长度，一般将此时将影响码字的长度，一般将合并的概率放合并的概率放在上面在上面，这样可获得，这样可获得较小的码方差较小的码方差。如下面的例子如下面的例子例例 设有离散无记忆信源设有离散无记忆信源用两种

21、不同的方法对其编二进制用两种不同的方法对其编二进制huffmanhuffman码码方法一方法一方法二方法二信源符号信源符号xi概率概率p(xi)码字码字Wi1码长码长Ki1码字码字Wi2码长码长Ki2x10.411002x20.2012102x30.20003112x40.1001040103x50.1001140113两种不同的编码方法得到的码字和码长的对比两种不同的编码方法得到的码字和码长的对比平均码长和编码效率平均码长和编码效率两种编码方法编出的码字的码长方差比较两种编码方法编出的码字的码长方差比较可以看出第二种编码方法的码长方差要小可以看出第二种编码方法的码长方差要小许多。这意味着第二

22、种编码方法的码长变许多。这意味着第二种编码方法的码长变化较小，比较接近平均码长。由此可以得化较小，比较接近平均码长。由此可以得到一个结论到一个结论(怎样得到码方差较小的怎样得到码方差较小的huffmanhuffman编码编码)。结论：结论：进进行行赫赫夫夫曼曼编编码码时时，为为得得到到码码方方差差最最小小的的码码，应应使使合合并并的的信信源源符符号号位位于于缩缩减减信信源源序序列列尽尽可可能能高高的的位位置置上上，以以减减少少再再次次合合并并的的次数，充分利用短码。次数，充分利用短码。5.1.45.1.4 赫夫曼编码赫夫曼编码5.1.3 5.1.3 费诺编码费诺编码5.1.5 5.1.5 游程

23、编码游程编码5.1.65.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.25.1.2 香农编码香农编码5.1.5 游程编码游程编码 前面的几种编码方法主要时针对无记忆信源，对有前面的几种编码方法主要时针对无记忆信源，对有记忆信源，这些编码方法的效率并不高，特别是对二记忆信源，这些编码方法的效率并不高，特别是对二元相关信源，需要一些其它的方法。游程编码就是这元相关信源，需要一些其它的方法。游程编码就是这样的方法，对相关信源的编码更有效。样的方法，对相关信源的编码更有效。游程：游程：指数字序列中连续出现相同符号的一段。在指数字序列中连续出现相同符号

24、的一段。在二元信源中，连续的一段二元信源中，连续的一段00称为一个称为一个00游程，游程，00的个数称为此游程的长度，同样，也有的个数称为此游程的长度，同样，也有11游游程。程。游程序列：游程序列：用交替出现的用交替出现的00游程、游程、11游程的游程的长度，来表示任意二元序列而产生的一个新序列。它长度，来表示任意二元序列而产生的一个新序列。它和二元序列是一个一一对应的变换。和二元序列是一个一一对应的变换。00010111001000131132131若已知若已知二元序列二元序列以以0起始，从游程序列很起始，从游程序列很容易恢复成原来的二元序列容易恢复成原来的二元序列 游程序列是多元序列，各长

25、度可按游程序列是多元序列，各长度可按赫夫赫夫曼编码曼编码或其它方法处理以达到压缩码率或其它方法处理以达到压缩码率的目的。的目的。多元序列也存在相应的游程序列多元序列也存在相应的游程序列 多元序列变换成游程序列再进行压缩编多元序列变换成游程序列再进行压缩编码没有多大意义码没有多大意义 游游程编码只适用于二元序列，对于多游游程编码只适用于二元序列，对于多元信源，一般不能直接利用游程编码元信源，一般不能直接利用游程编码 因为游程变换是一一对应的可逆变换，所以游程变换后，熵不变。组合编码可获得较高的编码效率：游程编码赫夫曼编码5.1.45.1.4 赫夫曼编码赫夫曼编码5.1.3 5.1.3 费诺编码费

26、诺编码5.1.55.1.5 游程编码游程编码5.1.6 5.1.6 冗余位编码冗余位编码5.1.1 5.1.1 码字唯一可译的条件码字唯一可译的条件5.1.25.1.2 香农编码香农编码冗余位冗余位 信源序列中不携带信息的符号。多元信源序列：冗余位冗余位上面二元上面二元1表示信息位，表示信息位，0表示冗余位表示冗余位冗余位序列游程编码信息序列赫夫曼编码 分帧传送冗余位序列的编码 方法。N个符号为一帧，编成一个L-D码字，每个码字含有两个数：Q和T。Q：本帧内信息位的数目信息位的数目。T：信息位的位位置信息置信息。L-D编码编码第个信息位的位置序号。例例001000000010000，N=15,

27、编L-D码。编码。编码位数：Q的位数的位数T的位数的位数1T=47。、计算出00100101111译码。T=47适用适用：冗余位和信息位数目相差较 大的情况。25.1 5.1 离散信源编码离散信源编码 5.2 5.2 连续信源编码连续信源编码 5.3 5.3 相关信源编码相关信源编码 5.4 5.4 变换编码变换编码对于连续信源输出的消息，首先要在时间上进行采样，然后在取值上进行量化并进而编码。连续信源编码属于限失真编码，根据保真度准则下的信源编码定理，其编码效率受限于信息率失真函数 。在符合采样定理的条件下，采样所带来的信息失真可以忽略不计。量化是用值域上有限个称为量化值中的一个来代替信号值

28、，量化必然带来误差；如果量化后采用无失真编码，那么连续信源编码中的信息失真就都来自量化过程。5.2 连续信源编码连续信源编码量化有多种方法：量化有多种方法：一种是将各个采样时刻的信号值逐个进行量化，称为标量量化；另一种是将个采样时刻的信号值组成一组，将其看作一个维矢量，将这些维矢量逐个进行量化，称为矢量量化。脉冲编码调制（PCM，pulse code modulation）是研究最早、使用最广的一种最佳标量量化编码。PCMPCM的编码原理：的编码原理：采样采样量化、编码量化、编码x(iTs)x(t)C(iTs)5.2.1 最佳标量量化最佳标量量化模拟信号 经过采样，成为时间离散的信号序列；将各

29、个采样时刻的信号值逐个量化、编码，得到与取值也是离散的信号量化值序 列 相对应的二进制编码序列 。由于每个采样时刻的量化、编码过程相同，为方便，我们可去掉时标。将量化、编码的输入信号值记为 ，量化、编码中的信号量化值记为 ，量化、编码的编码输出记为 。一、均匀量化一、均匀量化 均匀量化是指在整个量化范围内的量化间隔都是相等的，均匀量化也称为线性量化，均匀量化的特性：其中，(a)为中平量化，(b)为中升量化，主要以有无零量化值来加以区别。x1x2x3x4xq1xq2xq3xq4x1x2x3x4xq1xq2xq3xq4(a)(b)以中平量化为例讨论均匀量化，引入四舍五入原则的中平量化特性：x1x2

30、x3x4xq1xq2xq3xq4由于均匀量化正反两个方向的对称性，可以将其分为极性判断和信号绝对值量化两个步骤。由于归一化信号绝对值满足 ，如果信号绝对值的量化数目为 ，取 ，则量化间隔 ，相应 。当信号绝对值及 时，将其量化为 ；当信号绝对值 时，将其量化为 。量化后，最常用的编码是定长折叠二进制码，其码元安排为：最高位为极性码，用以表示信号极性，当信号值 时，极性码取1；时，极性码取0。次高位以下为量化码，用以表示 的量化值。当 的量化间隔为 时，码长 。在编码电路或编码程序中，一般编码过程是：(1)对信号值进行极性判断，确定极性码；(2)通过信号绝对值与量化码各位权值组合的逐次比较，确定

31、量化码；(3)将极性码和量化码组合起来，得到均匀量化编码。【例5.2.1】已知某一采样时刻的归一化信号值，设量化间隔 ，求其均匀量化编码。确定码长：；确定极性码：由于信号值 ，所以极性码 ；确定量化码：确定量化码：信号绝对值与量化码最高位权值比较，由于，所以；与量化码最高位和次高位权值之和比较，由于，所以；与量化码最高位和最低位权值之和比较，由于，所以；故量化码；将其组合，归一化信号值的均匀量化编码为量化值与信号值之间由于四舍五入而产生的量化误差一般也称为量化噪声。量化噪声与信号值一样，也是随机变量，记为例如，例6.2.1的量化噪声。均匀量化的量化噪声。如果我们采用平方误差失真函数，则量化噪声

32、直接反映了信息失真的程度；根据限失真编码的要求就可以决定均匀量化的量化噪声水平。二、非均匀量化二、非均匀量化 只要在量化范围内的量化间隔不完全相等，就将其称为非均匀量化；非均匀量化也叫做非线性量化。采用压扩技术的非线性量化原理：均匀量化、编码均匀量化、编码x信道信道译码译码f(x)C在发送端，信号值首先通过一个电路或程序进行压缩，然后再进行均匀量化、编码；而在接收端，译码后也需通过一个电路或程序进行扩张；只要压缩和扩张特性相互补偿，压扩过程就不会引入新的信息失真。以语音信号为例，了解非线性量化的主要概念和方法。目前，在语音信号的非线性量化编码中，采用了两种压缩特性：一种称为律特性，另一种称为律

33、特性。欧洲和中国大陆等地的数字电话通信中采用的 律特性：式中：x为归一化信号值，当 时函数取正，否则取负，一般取 。为实现方便，大多采用13折线来逼近 律特性。量化范围的13折线 律特性：1f(x)7/86/85/84/83/82/81/8011/21/41/8x划分为8个不均匀的段落：其中第8段占 量化范围的 ，除第1段外，其余各段的宽度均按倍率 减小，即第7段占 ，第6段占 ，第2段占 ；第1段也占 。每个段落再均匀地分为16份，每一份作为一个量化间隔。这样，量化范围内共划分出了 个不均匀的量化间隔；如果将最小的量化间隔记为 ，则 ，相应最大的量化间隔为 。13折线 律非均匀量化编码也采用

34、定长折叠二进制码，并将码长确定为8位；其8位码元安排如下：最高位 为极性码，用以表示信号极性，其准则与均匀量化相同；以下三位 为段落码，用以表示 落在正方向的第几个段落；最后四位 为段内码，用以表示 在段内落在第几个量化间隔。在编码电路或编码程序中，13折线 律非均匀量化编码过程是：(1)对信号值进行极性判断，确定极性码 ；(2)通过段落码起始量化值的中位搜索，确定段落码 ；(3)信号绝对值与所确定段落起始量化值之差通过与段内码各位权值组合的逐次比较，确定段内码 ；(4)组合起来即得到13折线 律非线性量化编码。由于每个段落的宽度不同，每个段落内段内码各位的权值也不同。【例5.2.2】已知某一

35、采样时刻的归一化信号值 求其13折线 律非均匀量化编码。确定极性码 ，由于信号值 ，；确定段落码：取第1段与第8段的中位第5段进行比较，由于，所以 ；取第5段与第8段的中位第7段进行比较，由于，所以 ；取第7段与第5段的中位第6段进行比较，由于，所以 ；故段落码 即落在第6段；确定段内码 ：第6段的起始量化值为 ，量化间隔为 ；将其组合，归一化信号值的13折线律非线性量化编码为。与段内码最高位权值比较，由于，所以；与段内码次高位权值比较，由于，所以；与段内码第三位权值比较，由于，所以；与段内码第三位和最低位权值之和比较，由于，所以；故段内码；由于每个段落的量化间隔不同，13折线律非线性量化的量

36、化噪声随着信号值落在不同段落而不同。例如，例6.2.2的量化码所代表的量化值为，相应的量化噪声。显然，信号绝对值越小，13折线律非线性量化的量化噪声也越小，当信号绝对值落在第1段或第2段时，。虽然当信号绝对值落在其他段落时，量化噪声会大于；但由于语音信号小信号出现的概率远大于大信号出现的概率，所以13折线律非线性量化的量化噪声功率与码长为12的均匀量化的量化噪声功率相差并不太大。换句话说，对于语音信号而言，码长为8的13折线 律非线性量化编码与码长为12的均匀量化编码的量化噪声水平基本相当，而编码效率却提高了 。矢量量化是在图像、语音信号编码中研究得较多的量化编码方法，它的出现不仅仅是作为量化

37、，更多的是作为压缩编码而提出的。在矢量量化中，将 个采样时刻的信号值组成一组，将其看作一个 维矢量，以这些 维矢量为单位逐个进行量化编码。5.2.2 矢量量化矢量量化以 为例讨论矢量量化。对于时间离散的信号序列 ，如果将每2个采样时刻的信号值构成一个2维矢量，就形成 个2维矢量 ；由于每个2维矢量的矢量量化过程相同，为方便，我们也去掉时标，将2维矢量记为 。所有可能的2维矢量构成一个平面，矢量量化最重要的工作是将这个平面划分为 块（相当于标量量化中的量化数目），记为 ；这些块可以是均匀的，也可以是非均匀的（相当于标量量化中均匀或非均匀的的量化间隔）；一般将这些块称为胞腔（Cell）。平面的划分

38、：然后对于所划分的每一块给定一个量化矢量（相当于标量量化中的量化值），记为 ；通常将其取为所划分块的形心。在矢量量化中，一般将每个量化矢量 称为码字或码矢，将所有 个量化矢量构成的集合 称为码书；因此，矢量量化中这项最重要的工作称为码书的建立。码书建立之后，矢量量化过程就成了在给定码书中搜索一个与信号矢量最接近的码字的过程。矢量量化原理：码书码书搜索搜索信道信道码书码书检索检索在发送端，信号矢量与码书中的每一个码字通过计算误差失真函数进行比较，搜索到失真最小的码字及其相应的序号（该码字在码书中的地址）；在接收端，由于设置了一个与发送端相同的码书，故只需根据序号就可检索到与最接近的码字。当码书长

39、度为时，传输码字序号所需的比特数为；由于矢量维数为，相当于每个信号值所对应的比特数仅为 ，可见其压缩比可以很高。要做到最佳矢量量化，怎样建立一个合理的码书？当码书较大时，如何快速有效地搜索到与信号矢量最接近的码字？这是矢量量化的两个关键问题。一、一、LBGLBG算法算法 利用训练序列建立码书的LBG算法的流程是：(1)给定码书长度，置 、初始平均失真，给定初始码书，给定计算停止门限 ；(2)用码书为已知形心，利用信号序列构成的维训练序列，根据最佳划分原则，划分出个胞腔；(3)计算平均失真和相对失真，如，则停止计算，当前码书就是设计好的码书；否则，进行第(4)步；(4)计算各胞腔的形心，置，返回

40、第(2)步。该流程还有两个问题，第一是初始码书的选取，第二是空胞腔的处理。初始码书的选取常用的方法是随机选取法和分裂法；处理空胞腔常用的方法是去空胞腔分裂法。二、全搜索算法和树搜索算法二、全搜索算法和树搜索算法 常用时间复杂度和空间复杂度来衡量矢量量化的特点：时间复杂度是指每量化一个信号矢量所需的计算量，它主要取决于搜索过程中乘法运算的次数；空间复杂度是指码书所需的存储容量。全搜索算法的特点是信号矢量与码书中的码字逐一进行比较，根据采用的误差失真函数找到失真最小的码字作为其量化矢量，采用全搜索算法的矢量量化也称为基本矢量量化。对于基本矢量量化而言，如其矢量维数为，码书长度为，采用平方误差失真函

41、数，那么时间复杂度（次/信号矢量），空间复杂度（单元）。采用树搜索算法的矢量量化称为树搜索矢量量化，在树搜索矢量量化的发送端，需要建立树型码书以方便进行树搜索；而在接收端，由于只需根据序号检索，可以仍然是数组型码书。以以3层二叉树为例，其搜索步骤：层二叉树为例，其搜索步骤：(1)信号矢量分别与第二层的中间节点通过计算误差失真函数进行比较，如，则走上子树，送0至信道；否则走下子树，送1至信道；(2)如走的是上子树，信号矢量分别与第三层的中间节点通过计算误差失真函数进行比较，如，则走上上子树，送0至信道；否则走上下子树，送1至信道，结束搜索；如走的是下子树，信号矢量分别与第三层的中间节点通过计算误

42、差失真函数进行比较，如，则走下上子树，送0至信道；否则走下下子树，送1至信道，结束搜索。在信道中传输的是树型码书中树叶的序号，因此，在接收端，其数组型码书只需包含树叶就可根据序号检索。对于二叉树矢量量化而言，如其矢量维数为，码书树叶数为，则树的层数，采用平方误差失真函数，那么时间复杂度（次/信号矢量），空间复杂度（单元）。与基本矢量量化相比，二叉树矢量量化的特点就是以空间复杂度的提高来换取时间复杂度的降低。5.1 5.1 离散信源编码离散信源编码 5.2 5.2 连续信源编码连续信源编码5.3 5.3 相关信源编码相关信源编码 5.4 5.4 变换编码变换编码对于有记忆信源，采样后的信号序列存

43、在时间相关性，仍然对各个采样时刻的信号值逐个进行量化，会造成码长的冗余。为提高编码效率，对于时间相关的信号序列，通常用两类方法进行编码：第一类方法是利用信号序列的时间相关性，通过预测以减少信息冗余后再进行编码，这类方法称为预测编码；另一类方法则是引入某种变换，将信号序列变换为另一个域上彼此独立或者相关程度较低的序列，同时将能量集中在部分样值上，再对这个新序列进行编码，这类方法称为变换编码。5.3 相关信源编码相关信源编码现在讨论预测编码。为方便，将第个时刻的信号值记为，相应第个时刻的信号值记为。对于时间相关的信号序列，由于与相关，故只要知道，就可对进行预测。设预测值为，则，称为预测误差。5.3

44、.1 预测编码预测编码通过预测，我们将所携带的信息量分成了两部分：一部分为所携带的信息量，它实际上是所携带的信息量；另一部分是所携带的信息量，它才是所携带信息量的新增加部分。只要预测足够准确，就足够小。因此，如果是对进行量化、编码而不是对进行量化、编码，就会减少信息冗余，从而提高编码效率。由于预测编码是对进行量化、编码，接收端译码后也只能得到；接收端必须重建，而，因此接收端也同样需要进行预测。线性预测是最常用的预测方法，其表达为，式中，称为预测阶数，为加权系数。预测阶数应该取多大，加权系数又应该怎样选取，才能在性能和简单上得到合理的折中？为此，人们提出了许多方案，最常用的是增量调制（或DM，D

45、ifferentialModulation）、差分脉冲编码调制（DPCM，DifferentialPulseCodeModulation）和自适应差分脉冲编码调制（ADPCM，Adaptive Differential Pulse Code Modulation），这类方案通常也称为差值编码。一一、增量调制增量调制增量调制是预测编码中最简单的一种，增量调制原理如下，其中(a)为发送端，(b)为接收端。1比特量化比特量化+-编码编码+译码译码(a)(b)5.3.2 差值编码差值编码在发送端，将信号值与量化预测值之差进行1比特量化，所谓1比特量化，就是只对差值的符号而不是大小进行量化，即当时，否则

46、，。同时，在的基础上加减一个量化增量，以形成下一个采样时刻的量化预测值，备下一个采样时刻求差值之用。编码则当时，；时，；其码长为1。在接收端，通过译码将还原为量化增量后，将量化增量与量化预测值相加即可得到量化值。同时，在 的基础上加上一个量化值，以形成下一个采样时刻的量化预测值，备下一个采样时刻相加之用。【例例5.3.1】已知某归一化信号序列，设初始量化，量化增量，求其增量调制编码和量化值。的编码；的量化值。在增量调制中，量化噪声分为一般量化噪声和过载量化噪声；一般量化噪声，即1比特量化的量化噪声，其幅度不会超过量化增量 。过载量化噪声则是由信号斜率过大而产生的；因为在增量调制中，每个采样间隔

47、只允许一个量化增量的变化，所以当信号斜率比这个固定斜率大时，就会产生过载量化噪声。过载量化噪声：由于的最大斜率是，因此，为了避免产生过载量化噪声，最大信号斜率必须满足。对于正弦信号，避免产生过载量化噪声的条件是，即；通常取，所以为了避免产生过载量化噪声，增量调制的采样频率要远远大于奈奎斯特采样定理的要求。二、差分脉冲编码调制二、差分脉冲编码调制差分脉冲编码调制原理如下，其中(a)为发送端，(b)为接收端。+译码译码(a)(b)量化量化+-编码编码寄存寄存在发送端，将信号值与量化预测值之差进行量化；量化可以采用均匀量化，也可以采用非均匀量化；由于差值的动态范围一般比较小，通常用均匀量化且量化码的

48、长度取3就可以了，因此量化间隔。编码一般也与均匀量化相同，在量化码基础上增加一位极性码，故码长为4。同时，在的基础上加减一个量化值，以形成下一个采样时刻的量化预测值，备下一个采样时刻求差值之用。在接收端，通过译码将还原为量化值后，将量化值与量化预测值相加即可得到量化信号值。同时，在的基础上加上一个量化信号值，以形成下一个采样时刻的量化预测值，备下一个采样时刻相加之用。【例例5.3.2】已知某归一化信号序列，设初始值，采用码长为4的均匀量化，量化间隔，求其差分脉冲编码调制的编码和量化信号值。DPCM的编码；DPCM的量化信号值。在差分脉冲编码调制中，量化噪声，即均匀量化的量化噪声，其幅度不会超过

49、量化间隔的一半。5.1 5.1 离散信源编码离散信源编码 5.2 5.2 连续信源编码连续信源编码 5.3 5.3 相关信源编码相关信源编码 5.4 5.4 变换编码变换编码5.4 变换编码变换编码所谓变换编码变换编码，就是引入某种变换，通常是正交变换，将时间相关的信号序列变换为另一个域上彼此独立或者相关程度较低的序列，同时将能量集中在部分样值上，再对这个新序列进行编码，给能量较大的分量分配较多的比特，给能量较小的分量分配较少的比特，从而提高编码整体效率的方法。变换编码的关键关键是找到一种合适的变换，使时间相关的信号序列成为变换域上彼此独立或者相关程度较低的序列，同时将能量集中在部分样值上。满

50、足这样条件的变换有傅立叶变换傅立叶变换、余弦变换余弦变换、哈达玛变哈达玛变换换、变换、小波变换小波变换等。5.4.1 子带编码子带编码子带编码首先将信号分割成若干个不同的频带分量（一般称其为子带信号），然后再分别对子带信号进行时间采样和量化编码；可见，子带编码既与频域有关，也与时域有关，是一种基于时频分析的变换编码。子带编码原理如下，其中(a)(a)为发送端，(b)(b)为接收端。量化编码量化编码1带通滤波带通滤波1量化编码量化编码2带通滤波带通滤波2量化编码量化编码M带通滤波带通滤波M信号信号编码编码合合成成频率搬移频率搬移1频率搬移频率搬移2频率搬移频率搬移M采样采样1采样采样2采样采样M