第六讲-VQ语音信号处理第章优秀PPT.ppt

1.1.矢量量化基本原理矢量量化基本原理v量化分量化分为为两两类类：v *标标量量化：将取量量化：将取样样后的信号后的信号值值逐个地逐个地进进行量化。行量化。v *矢量量化：将若干取矢量量化：将若干取样样信号分成一信号分成一组组，即构成一，即构成一个矢量，然后个矢量，然后对对此矢量一次此矢量一次进进行量化。行量化。v矢量量化（矢量量化（VQ，Vector Quantization）是一种极）是一种极其重要的信号其重要的信号压缩压缩方法。方法。VQ在在语语音信号音信号处处理中占特理中占特别别重要的地位。广泛重要的地位。广泛应应用于用于语语音音编码编码、语语音音识别识别和和语语音合成等音合成等领领域。域。v凡是要用量化的地方都可以接受矢量量化。凡是要用量化的地方都可以接受矢量量化。VQ的定义vK维欧几里德空间 中的随意矢量 X 到K维空间 有限子集 Y 的映射术语v码本 Codebookv码字 CodeWordv码本大小 Codebook SizevVoronoi Cell 胞腔矢量量化矢量量化简约历史史早在早在5050和和6060年年头就被用于就被用于语音音压缩编码。7070年年头线性性预料技料技术被引入被引入语音音编码后，矢量后，矢量量化技量化技术才活才活跃起来。起来。7070年年头末，末，Linda,BuzoLinda,Buzo等人解决了等人解决了码本生成本生成问题8080年年头初，矢量量化技初，矢量量化技术的理的理论和和应用探用探讨得得到快速到快速发展。展。接受矢量量化的接受矢量量化的压缩作用作用对信号波形或参数信号波形或参数进行行压缩处理，可以理，可以获得很得很好的效益，使存好的效益，使存储要求、要求、传输比特率需求比特率需求或和或和计算量需求降低算量需求降低.量化量化压缩案例案例10KHz,16-bitPCM160,000bps10KHz,16-bitPCM160,000bps100spectralvectorsofdimensionp=10100spectralvectorsofdimensionp=101001032=32,000bps511001032=32,000bps51VQ:1024codebook10010=1000bpsVQ:1024codebook10010=1000bps321321接受矢量量化的效果接受矢量量化的效果优于于标量量化的量量化的缘由？由？矢量量化能有效的矢量量化能有效的应用矢量中各重量之用矢量中各重量之间的四种相互关的四种相互关联性性质来消退数据中的冗来消退数据中的冗余度。余度。线性依靠性依靠(相关性相关性)非非线性依靠性依靠(统计不独立不独立)概率密度函数的形概率密度函数的形态矢量量化的矢量量化的维数数而而标量量化量量化仅能利用能利用线性依靠和概率密性依靠和概率密度函数的形度函数的形态来消退冗余度。来消退冗余度。矢量量化探矢量量化探讨的目的？的目的？针对特定的信息源和矢量特定的信息源和矢量维数，数，设计出一种最出一种最优化的量化器，在化的量化器，在R（量化速率）（量化速率）确定的状况下，确定的状况下，给出的量化失真尽可能出的量化失真尽可能接近接近D(R)(最小量化失真最小量化失真)。矢量量化的形象矢量量化的形象说说明明 以以K2进进行行说说明：明：当当K2时时，所得到的是二，所得到的是二维维矢量。全部可能矢量。全部可能的二的二维维矢量就形成了一个平面。矢量就形成了一个平面。记为记为（a1,a2）,全部可能的（全部可能的（a1,a2）就是一个二就是一个二维维空空间间。如。如图图7-1（a）所示）所示图7-1 矢量量化概念示意矢量量化概念示意图图图7-2 矢量量化系矢量量化系统统的的组组成成 工作过程：工作过程：在编码端，输入矢量在编码端，输入矢量XiXi与码书中的每一个码字与码书中的每一个码字进行比较，分别计算出它们的失真。搜寻到进行比较，分别计算出它们的失真。搜寻到失真最小的码字失真最小的码字 的序号的序号 （或该码字所在（或该码字所在码书中的地址），这些序号就作为传输或存码书中的地址），这些序号就作为传输或存储的参数。储的参数。在复原时，依据此序号从复原端的码书中找出在复原时，依据此序号从复原端的码书中找出相应的码字相应的码字 。由于两本码书完全相同，此。由于两本码书完全相同，此时失真最小，所以时失真最小，所以 就是输入矢量就是输入矢量XiXi的重构的重构矢量。矢量。特点：特点：传输存存储的不是矢量本身而是其序号，所以的不是矢量本身而是其序号，所以据有高保密性能据有高保密性能收收发两端没有反两端没有反馈回路，因此比回路，因此比较稳定定矢量量化器的关矢量量化器的关键是是编码器的器的设计，译码器器只是只是简洁的的的的查表表过程。程。VQ的优、劣势v自由构造量化区域的形态v码本大小可随意选择v量化失真v码本存储一、如何划分一、如何划分M个区域个区域边边界界 方法是：将大量欲方法是：将大量欲处处理的信号的矢量理的信号的矢量进进行行统统支配分，支配分，进进一步确定一步确定这这些划分些划分边边界的中心矢量界的中心矢量值值来得到来得到码书码书。二、二、类类中心中心计计算方法算方法三、两矢量的相像度三、两矢量的相像度测测度度 这这个个测测度就是两矢量度就是两矢量间间的距离，或以其中某一矢量的距离，或以其中某一矢量为为基准基准时时的失真度。它描述了当的失真度。它描述了当输输入矢量用入矢量用码书码书所所对应对应的矢量来表征的矢量来表征时时所付出的代价。所付出的代价。四、如何准四、如何准备码备码本本训练训练集集 完完备备性：依据具体性：依据具体应应用而定用而定 2.VQ问题分解分解失真失真测度是矢量量化和模式度是矢量量化和模式识别中一个中一个特特别重要的重要的问题，选择合适与否干脆影响系合适与否干脆影响系统的性能。的性能。失真是将失真是将输入信号矢量用入信号矢量用码书的重构矢量的重构矢量来表征来表征时的的误差或所付出的代价。差或所付出的代价。这种代价的种代价的统计平均平均值（平均失真）描述了矢量量化器的（平均失真）描述了矢量量化器的工作性。工作性。3.3.失真测度失真测度失真度失真度选择选择必需具必需具备备的特性的特性必需在主必需在主观评观评价上有意价上有意义义，即小的失真，即小的失真应应当当对应对应于好于好的主的主观语观语音音质质量；量；必需是易于必需是易于处处理的，即在数学上易于理的，即在数学上易于实现实现，这样这样可以可以用于用于实际实际的矢量量化器的的矢量量化器的设计设计；平均失真存在并且可以平均失真存在并且可以计计算；算；易于硬件易于硬件实现实现 失真失真测测度主要有均方度主要有均方误误差失真差失真测测度（即欧氏距离）度（即欧氏距离）、加、加权权的均方的均方误误差失真差失真测测度、板度、板仓仓斋斋藤（藤（ItakuraSaito）距离，似然比失真）距离，似然比失真测测度等，度等，还还有人提出的有人提出的所所谓谓的的“主主观观的的”失真失真测测度。度。一、欧氏距离均方误差一、欧氏距离均方误差 设输设输入信号的某个入信号的某个K维维矢量矢量X，与，与码书码书中某个中某个K维维矢量矢量Y进进行比行比较较，xi,yi分分别别表示表示X和和Y中的各元素中的各元素 ，则则定定义义均方均方误误差差为为欧氏距离：欧氏距离：几种其他常用的欧氏距离：几种其他常用的欧氏距离：1.r方平均方平均误差差 2.r平均平均误差差 3.3.确定确定值平均平均误差差 4.4.最大平均最大平均误差差 二、线性预料失真测度二、线性预料失真测度 用全极模型表示的用全极模型表示的线性性预料方法，广泛料方法，广泛应用于用于语音信号音信号处理中。它在分析理中。它在分析时得到的是模型的得到的是模型的预料系数料系数.仅由由预料系数的差料系数的差值，不能完全表征，不能完全表征这两个两个语音信息音信息的差的差别。应当干脆由当干脆由这些系数所描述的信号模型的功些系数所描述的信号模型的功率率谱来来进行比行比较。当当预料器的料器的阶数数 ，信号与，信号与模型完全匹配模型完全匹配时，信号功率，信号功率谱为：信号的功率信号的功率谱预料料误差能量差能量预料逆料逆滤波器的波器的频率响率响应相相应的，的，设码书中某重构矢量的功率中某重构矢量的功率谱为则定定义Itakura-Saito距离距离为 这种失真种失真测度是度是针对线性性预料模型、用最料模型、用最大似然准大似然准则推推导出来，所以特殊适用于出来，所以特殊适用于LPC参参数，描述数，描述语音信号的状况，常用于音信号的状况，常用于LPC编码中。中。我我们由此又推由此又推导出两种出两种线性性预料色失真料色失真测度，度，他他们比上述具有更好的性能，即比上述具有更好的性能，即对比似然比失真比似然比失真测度度模型失真模型失真测度度 注：注：这两种失真两种失真测度都度都仅仅比比较两矢量的两矢量的功率功率谱，而没有考，而没有考虑其他能量信息。其他能量信息。三、三、识别失真失真测度度失真失真测度的定度的定义加加权因子因子输入信号矢量的入信号矢量的归一化能量一化能量码书重构矢量的重构矢量的归一化能量一化能量当两矢量的能量接近当两矢量的能量接近时（即（即 ），忽），忽视能量差异引起的能量差异引起的影响；当两矢量能量相差很大影响；当两矢量能量相差很大时，即，即进行行线性加性加权；而当能量差超；而当能量差超过门限限 时，则为固定固定值4.最佳矢量量化器和最佳矢量量化器和码本的本的设计最佳最佳设计就是使失真最小就是使失真最小1、最佳划分、最佳划分2、最佳、最佳码书一、矢量量化器最佳一、矢量量化器最佳设计的两个条件的两个条件最佳矢量量化器最佳矢量量化器满足的两个必要条件足的两个必要条件1）Voronoi分割条件（最近分割条件（最近邻准准则）对信号空信号空间的分割的分割应满足足依据依据该条件可以条件可以对信号空信号空间进行最佳划分，行最佳划分，得到的得到的 称称为一个胞腔一个胞腔2）Centroid质心条件心条件子空子空间分割固定后，分割固定后，Voronoi胞元胞元的的质心就是量化器的心就是量化器的码字字 对于一般的失真于一般的失真测度和信源分布，很度和信源分布，很难找到找到质心的心的计算方法，但算方法，但对于一般的分布和常用的于一般的分布和常用的均方失真均方失真测度，可以度，可以证明明是是 中包含的矢量个中包含的矢量个数数二、二、LBG算法算法 K-means clustering algorithm 1980年由年由Linde，Buzo和和Gray提出，提出，它是它是标量量化器中量量化器中Lloyd算法的推广，在矢算法的推广，在矢量量化中是一个基本算法。量量化中是一个基本算法。LBG算法由于其理算法由于其理论上的上的严密性密性、应用用上的上的简便性便性以及以及较好的好的设计效果效果，得到了广，得到了广泛的泛的应用，并常被作用，并常被作为各种改各种改进算法的基算法的基础LBG算法步算法步骤第一步：初始化第一步：初始化 给出出训练VQ码书所需的全部参考矢量所需的全部参考矢量X，X的集合用的集合用S表示；表示；设定量化定量化级数，失真限制数，失真限制门限限 ，算法最大迭代次数，算法最大迭代次数L以及初始以及初始码书 ；设总失真失真 ；迭代次数的初始；迭代次数的初始化化为m1其次步：迭代其次步：迭代2）计算失真：算失真：1）根据最近）根据最近邻准准则将将S分成分成N个子集个子集 ，即当即当 时，下，下式成式成立：立：4）计算相算相对失真改失真改进量量 ：3）计算新算新码字字将将 与失真与失真门限限值 进行比行比较。若若 则转入入 6）否）否则转入入5）；）；5）若）若 则转至至6），否），否则m加加1，转至至1）第三步：第三步：结束束6）得到最）得到最终的的训练码书 ，并并输出出总失真失真 为了避开迭代算法无限制循了避开迭代算法无限制循环下去，下去，这里里设置了两个置了两个阈值参数：最大迭代次数参数：最大迭代次数L和失真限制和失真限制门限限 。的的值设得得远小于小于1，当，当 时，表明再，表明再进行迭代运算失真得减小是有限的、行迭代运算失真得减小是有限的、可可以停止运算。以停止运算。L是限制迭代次数的参数，防止是限制迭代次数的参数，防止 设置置较低低时迭代次数迭代次数过多多三、初始三、初始码书的的选择 随机随机选取法取法 分裂法分裂法分裂法0.010.05