h[1]264帧内模式快速选择算法研究.pdf

《h[1]264帧内模式快速选择算法研究.pdf》由会员分享，可在线阅读，更多相关《h[1]264帧内模式快速选择算法研究.pdf（4页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、!#年第!期!总第!$期!#$!引言新一代视频压缩标准!#$%!包含了多模式预测多参考帧运动估计整数变换&(&循环去块滤波等研究成果!压缩效率比以前标准更高!但它没有脱离基于块的混合编码框架!其压缩效率的提高是以高计算复杂度为代价的#高计算复杂度已经成为其所面临的主要困难!特别是在实时性要求较高的应用场合!如)*+和视频实时通信等$与以前的标准相比!,-$%的预测模式增多$如对于亮度帧内预测!支持./*01$2$和./*0%预测模式!且在帧间编码中支持帧内预测模式$试验表明!按本文实验中的测试条件!对于&.3序列!帧内预测约占编码总时间的-4,256%对于7&.3序列!帧内预测约占编码总时间的

2、-4,846$可见!,-$%的帧内预测在编码中占有相当的计算量$因此!提高帧内预测的速度!对于实现实时性来说也是必不可少的$当前!对!,-$%运动估计的研究非常多!但对帧内预测算法的研究却很少92:$本文在对!,-$%帧内预测算法分析的基础上!在帧内编码中采用亮色分离方案对模式进行选择%在帧间编码中利用最佳帧间模式信息对帧内模式进行快速选择$与原;6!亮度!#$平均下降小于?,2 A(!色度!#$平均提高,A(!平均比特率上升约,5%6$-!,-$%的帧内预测方法!,-$%采用基于空间域的帧内预测!即用已经编码周围块的像素值对当前块进行预测!对预测残差进行变换量化及熵编码$对 于 亮 度 分

3、量!有 两 种 帧 内 预 测 模 式&./*0%与./*02$2$./*0%模式对宏块内的每一个%子块有4种预测模式%./*02$2$对于整个宏块有%种预测模式$对于色度分量!整个=色度块有%种预测模式!类似于./*02$2$的%种模式$%!&两个色差分量的帧内预测模式相同$帧间编码中!每一个宏块除了可采用帧间编码模式外!也可采用帧内预测模式$运动估计与帧内预测同时存在于帧间编码的模式选择之中$由于!,-$%支持多种编码模式!为得到最优模式!校验模型采用率失真模型对模式进行选择9-:$其中!率失真模型如下式所示()*!$2(式中&+为失真值%!为拉格朗日参数$如文献92:所述!按照校验模型中

4、的算法!帧内预测采用亮度与色度混合编码方案!对每一宏块实际计算的率失真代价将达到,=,%2$B,2$(C%42$B%(C4-次(其中&,=!,%和,2$分别代表色度=块模式个数./*0%模式个数和./*02$2$模式个数$显然!对这么多模式全部搜索一遍!耗时过大$下面给出了本文提出的快速算法$5帧间编码中帧内快速模式选择算法帧间编码时先对帧间编码模式进行选择!包括文章编号&!#$%&()%#*(D4E=E5!#$%帧内模式快速选择算法研究&纪永昭!张颖!张兆扬上海大学 通信与信息工程学院!上海-8-#摘要$在对校验模型帧内预测算法分析的基础上!提出了一种帧内模式快速选择算法&在帧内编码中采用亮

5、色分离方案对模式进行选择!在帧间编码中利用最佳帧间模式信息对帧内预测模式进行选择$实验证明!与原校验模型;8-相比!平均编码速度提高约-46!亮度!#$平均下降在2 A(之内!平均比特率上升约5%6$%关键词&视频压缩%!-$%标准%帧内预测%中图分类号&+,)24=2%文献标识码&-()*+,*-(./-0123*24,5410 6032)24,2,!7#$%;.FGHIEJKLG./0-,1 2MHI.N!/O NKLGEPLHI!#$%$&$()*+,-+$*-./0.1234-562.*/+*001+*/2 7-.87-6 3*+4015+-62 7-.87-6 9:;9!#+*,$%

6、!#$%&$&(LQRA GH SKR LHLTPQMQ GU SKR MHSVL WVRAMXSMGH GU SKR;8,-Y L ULQS ZGAR ARXMQMGH ZRSKGA GU MHSVL WVRAMXSMGH MQ WSUGVLVA.H MHSVL XGAMHIY SKR ZGAR QRTRXSMGHQ RSRRH XKVGZL WVRAMXSMGH LHA TZL WVRAMXSMGH LVR QRWLVLSRA.H MHSRV XGAMHIYSKR MHUGVZLSMGH GU SKR RQS MHSRV ZGAR MQ QRA SG LXXRTRVLSR SKR MHSV

7、L WVRAMXSMGH&GZWLVRA MSK SKR;8-YLGS-46 XGAMHISMZR MQ QL_RAY KMTR SKR TZL!#$ARXVRLQRQ GHTP DD1 A(LHA SKR MSEVLSR MHXVRLQRQ LGS D5%6%()*+,%-#&_MARG XGAMHI!-$%MHSVL XGAMHI(论文(国家自然科学基金重点项目!$899:898国家技术创新基金!8;:数字电视与数字视频技术篇!#$%$&()&*+!,-.!/01&*+,2每种模式运动向量的搜索以及代价值!的计算!然后进行帧内预测!并与帧间最佳编码模式比较!选择最优的模式帧间编码对序列的帧

8、间冗余信息进行压缩!在以运动向量与失真值对宏块的运动及纹理的描述中#大运动向量与大代价值所表征的宏块运动较复杂且纹理比较丰富!相应采用!#$%&!&模式可能性增大$小运动向量与小的代价值所表征的宏块运动与纹理较简单!相应地采用!#$%(!(模式的可能性增大 可利用已编码的帧间信息!对帧内模式进行预选!以减少计算量!#帧内预测模式有效性选择在图像获取时!前后帧之间的抽样间隔很短!对于序列或整帧图像来说!帧间冗余大于帧内冗余!运动补偿的效率高于帧内预测的效率$但对宏块来说!由于区域较小!前后上下相邻像素在小范围内的相关性有可能大于时间上相邻像素之间的相关性!使得帧内冗余大于帧间冗余!这时帧内预测的

9、效率就比运动估计的效率高 这也是帧间编码中帧内预测模式有效的原因上述现象主要表现为以下两种情况#%被预测块存在大的运动一般大的运动伴随着复杂运动或对象经过运动后存在形变!甚至出现新对象 因此!对于大的运动!运动补偿对应的失真值与帧内预测对应的失真之间的差值并不大!残差编码所需比特数也近似相同$对于大运动块!通过周围块的运动向量对当前块进行预测!其预测效率并不高!这主要是因为大的运动一般为非平移运动!因此!对运动向量的差值编码本身就需要多个比特 此时帧内预测的效率就可能高于帧间运动估计)%在纹理变化缓慢区域在纹理变化缓慢区域!并且其大小超过了一个宏块!如背景或大面积单一色彩区域!此时运动补偿效率

10、已经很高!失真值与运动向量都很小!对应的最佳帧间编码模式的代价值!*+,-.也很小!但由于帧内预测采用周围已经编码的像素值对当前块进行预测!纹理的缓慢变化!使得像素之间的空间相关性加大!而前后帧之间可能存在微弱的变化!这时帧内预测效率也可能高于运动补偿的效率根据帧间编码的最佳模式&运动向量&代价值!对这两种情况进行选择!对应帧内预测模式有效性选择算法首先在编码一个宏块之前!设置帧内预测模式无效 帧间编码完后对最佳帧间编码模式进行判断!设定失真代价阈值#!#/和#0分别为12的函数!不同的最佳帧间模式对应的阈值略有不同%!且#3#/3#0 对应宏块的纹理复杂度由低到高!图为最佳帧间模式!#4$5

11、!(对应的帧内模式选择方法 根据失真代价值!*+,-.与阈值之间的关系对帧 内 模 式 进 行 选 择 当!*+,-.3#!#$%(!(!#$%&!&全部有效$当#3!*+,-.3#/!#$%(!(模式有效$当!*+,-.6#/!则对运动向量进行判断!其中#$7!#$/!#$0分别为运动向量阈值!#$3#$/3#$0对应宏块的运动程度由平缓到复杂 根据运动向量的最大分量的绝对值%与阈值之间的关系对帧内模 式 进 行 选 择 当#/3!*+,-.3#0!且%&#$!则!#$%(!(模式有效$如果%&#$/则!#$%&!&模式也有效$当!*+,-.6#0!如果%&#$0则!#$%&!&模式有效!$

12、亮色分离模式选择当帧内预测模式有效!89:/采用色度和亮度混合编码方法!计算的代价值!过多!计算复杂度仍然很大 因此!本文算法中分别对亮度与色度进行模式选择 其中亮度的模式选择方法不变!色度的模式选择由其率失真值!5!5决定 当!#$%(!(与!#$%&!&都有效时的算法流程如图/所示 其算法分别对!#$%(!(模式&!#$%&!&模式以及色度预测模式进行选择!对所有的预测模式只计算一遍!实际计算的率失真代价!为(;5;&!7(种预测模式 由于块越小!相邻块之间相关性越大 因此!可根据相邻&!&块之间的相关性!对种预测模式进行选择!进一步减少计算量!#$%&$()*$%&)+,!#年第!期!总

13、第!$期!#$为了兼顾预测效率与计算效率!#$%&!&选择算法中以!(块为单位!每个(!(块中的第一个&!&块)种预测模式全部有效!并对)种预测模式根据代价值!&!&由小到大排序 其余*个&!&块!根据本块最佳帧间编码模式的运动向量是否等于前面&!&块的运动向量来选择经过排序后的预测模式 如果运动向量相同!第二个&!&块选择第一个&!&块的前&种有效模式#第三个&!&块选择第一个&!&块的前&种与第二个&!&块中前+种有效模式#第四个,!,块选择第二个,!,块的前+种$第三个,!,块的前*种$第一个,!,块的前+种与第五种预测模式 另外保持每个,!,块的垂直$水平$-.预测及前一帧中当前位置最

14、佳帧内预测模式始终有效 如果运动向量不相同!则相应的增加预测模式/0+种 本算法最快情况下能减少/1*以上的预测模式!最差情况减少/1,的预测模式,帧内编码中快速模式选择算法对于帧内编码!#$%,!,模式与!#$%/2!/2模式始终有效!采用前述亮度与色度分离模式选择方案!没有采用!#$%,!,快速模式选择这主要是因为经过亮度与色度单独模式选择后!编码时间比原来节省3)4左右!帧编码时间相对于5!6帧来说已经很少!并不足以构成实现实时的瓶颈3实验结果及讨论为验证本快速算法的有效性!采用运动与纹理复杂性不同的,个7.!8序列和3个.!8序列进行实验测试条件如下%运动估计/1,精度$搜索范围/2像

15、素$+个参考帧$9:;:有效$%6#模式无效 其中!.!8序列测试条件符合?:A B=CDEF要求%.%6%.#G5%!6565&7.!8序列 测 试 条 件 符 合6:HFEAF B=CDEF要 求%.%IJ.#G5%!55&每个序列编码)帧!测试结果列于表/和表+中!其中所有结果皆与参考软件K?L+相比较!表中!M(表示比原来降低!无符号表示比原来增加试验结果表明%最大节省时间为*N2*O!最小节省时间为+*N3L4#亮度#$%略有下降!最大为PNP3;6!最小时有PNP,;6的提高#色度#$%大部分提高!最大时达到PN*(;6!最差时有PN/3;6的下降#绝大多数情况比特率增加在/4之内

16、!仅有两次例外!分别为/N+4与/N2(4!但也存在比特率下降的情况!最大为PN,Q4表/7.!8序列测试结果75#$%&1;6#%(1;6#%)1;6 RSBHT4U#FT4U.CAV:AF=序列+,WPNP+WPN/3PNP+WPN+,W*PN/P+WPNP/PN*PN/WPN+W+N,*+PNP/PN*PN/,PN+W+2N)*2PNP+WPNP/PN*/N+W+,N)PFXH序列+,PNP/PNP,WPNP3WPN/*W*PN+)+PNP,PNP+PNP/PN,/W+N3P*+PNPPPNPPPN/2PNPW+LNPP*2PNP+PN/3PN*LPN3/W+3N3P8C=F:A序列+,

17、WPNP/PNP*PNPPWPN,LW*/N3+PNPPPNP+PNP2PN3W*PN2/*+WPNP+PNP)PNP,PN*PW+N*)*2WPNP/WPNPLPN/PWPN,/W+2NLLYEFAV序列+,WPNP/WPN/*PNP,PN3+W*,N2L+PNP/WPNP+PNP,PN3)W*/N23*+PNP+PN/3WPNPLPN32W+)N,3*2PNPPPNPLPNP/WPNP*W+2N)/表+.!8序列测试结果75#%&1;6#%(1;6#%)1;6 RSBH14#F148C=F:A序列+,WPNP,WPNP/WPNP,PN2,W+N),+WPNP*PNP*PNP+PNL/W+L

18、N3P*+WPNP3PN/PPNP)WPNPW+2N*)*2WPNP,PN/,PN/PPN/,W+3NL5:=H序列+,PNPPWPNP/PNP2PN/3W*2N/+PNP/PNPPPNPPPN,/W*,N+3*+PNPPPNPLPNP3WPNP+W*+N+*2WPNP+PN/,PNPPPN*PW*PN,/?CSEF序列+,PNPPPNPPPNPPWPNP/W*N2*+PNPPPNPPPNP/PN/W*2N/+*+WPNP/PNP/WPNP/WPN3*W*NP*2PNP/PNP*WPNP/PN*W+2NP)+,WPNP/PNPPWPNP/PN+W+)NL/+WPNP/PNPPPNPPPN*W+

19、LN*+*+PNPPPNP+PNP+PN+)W+3NL)#FBFVF序列*2PNP/PNP+PNPPPN23W+*N)PFXH序列+,PNPPPNP)PNPLPN23W+2N*/+PNP/PNP2PNPLPN2/W+3N/+*+PNP,PNP,PNP+PNPW+,NP2*2WPNP3PN/2PNP/N2W+*N3L数字电视与数字视频技术篇)下转第/,页*!#年第!期!总第!$期!#$!结论本文在分析校验模型帧内预测算法分析的基础上!利用最佳帧间模式信息!对帧内预测模式进行选择!并改变了帧内预测所采用的亮度色度混合编码方案!还提出了一种#$%&!模式选择算法相比于()*+!在码率略有上升的情况下

20、!节省了约+,-的编码速度!接近于不采用帧内预测时的编码速度!而信噪比却与采用帧内预测时相当参考文献./0 1宠 7#89:;6=%:?:AB:C 2:DE);A3F3G9D9;4 H;4E:13A9GE9;4C(I$JKLMN6(;94E I9A3;$3:OP(I$Q;H RST)1SK U$=J$ITSK6*E?)33E945V1:EE:W:6$?:9X:4A6*JM):G?6+LLNC.+0$:Y:59 Z;9G?96)XE9X93 7:5:4536%FJG?:GE39DE9GDC(;94E I9A3;$3:O#(I$;H RST)1SK:4A$=J$ITSK(I$JTC):

21、W6+LL+C.N0 C+!R⁢HE_:3 T;A94:E9;46()*C+C?EEVRRDC?9CA3RaD3?945REOXRC.0(;94E I9A3;$3:O;H$=J$:4A RST($TM6F:HE$=J$%3G;OO34A:E9;4:4A294:XF:HE4E34:E9;4:XE:4A:A;H(;94E I9A3;3G9H9G:E9;4#$=J$%3GCC+!bRST M,!JML&IT$C(;94E I9A3;$3:O#(I$;H RST)1SK:4A$=J$ITSK6(I$JKLcL6):G?+LLNC!责任编辑#刘伯义收稿日期#!#%$%$&通过对)&S及2$&预测编

22、码的时间可知#如图,%图ML$!随着门限值的提高!预测编码的时间明显下降!但同时其残差图像的!#也在增加因而通过合理选择门限可在保证较好图像质量的同时!预测编码核心算法的效率可提高N!倍!从而大大提高了编码效率结论C+!是一个新的视频编码标准!帧内预测可以充分利用图像空间域的相关性!较大地提高视频编码压缩效率!而快速%准确的预测算法是保证较高压缩比及编码效率的关键 本文提出的2$&算法能够充分利用图像的纹理相关性!分级搜索!逐步求精!从而有效地提高编码效率!实验也证实了该算法的有效性参考文献.M0)345 d;B46&DG:TC2:DE 4E:J13A9GE9;4);A33X3GE9;4 H;

23、e dX;GYD 94 C+!CLJ*LNJ*!NJN+LLNSSS T&DG:TCSHH9G934E 4E:J13A9GE9;4&X5;9E?O 94 C+!C LJ*LNJ*cLJ+LLN SSS T&1C.N0%9G?:AD;4:94 S KCC+!R)1SKJ 1:E ML f?9E31:3C_CgG;A3eCG;OCC+!R)1SKJ 1:E MLV4E:13A9GE9;46+LLN&9X LNC.0:X:G?$9XXC$?3 C+!I9A3;T;O3DD9;4 E:4A:AC41;G33A945D#;_359:4954:X1;G3DD945%GE;3+LLNC!作者简介#苏磊!%($硕士研究生$主研视频压缩%多媒体通信%无线多媒体&李国源)!&*(+$硕士研究生$主研视频压缩%多媒体通信%无线多媒体&张家谋$教授$北京邮电大学电信工程学院图像通信实验室主任责任编辑#哈宏疆收稿日期#!#%,%&数字电视与数字视频技术篇&上接第ML页$!