【精选】DCT变换及量化

《【精选】DCT变换及量化》由会员分享，可在线阅读，更多相关《【精选】DCT变换及量化（8页珍藏版）》请在金锄头文库上搜索。

1、整数变换及量化1.目的：进一步节省图像传输码率对图像信号进行压缩方法去除图像信号中的相关性，减少图像编码的动态范围变换编码 量化技术将图像时频信号变换成频域信号 根据图像动态范围的 大小确定量化参数信号能量集中在低频，比时域时码率下降H.264 中，将两个过程中的乘法合二为一，并进一步采用整 数运算，减少了编解码的运算量，提高图像压缩的实时性流程图：4 * 4 整数离散余弦变换输入图像块 X比例缩放及量化直流 H a d a m a r d 变换比例缩放及量化色度或帧内1 6 * 1 6 亮度块编码输出2.整数变换（1）一维 N 点离散余弦变化（DCT）为： NknxCyNnk2)1(cos1

2、0其中， 是输入时域序列的第 n 项， 是输出频域序列中的第 k 项，nx ky系数 定义为：kC;0,1kNCk.2,k， 对 ，k=0 时的系数为直流分量，其它系数成为 AC 系数。ky（2）二维 N*N 点图像块的离散余弦变化（DCT）为：可理解为先对图像块的每行进行一维 DCT，在对经行变换的块的每列再应用一维 DCT。可以表示为：NminjCXijXYnNijmjijijnmn 2)1(cos2)1(cos1010 为图像块中第 i 行第 j 列图像的残差值， 是变换结果矩阵 Y 相ijX nY应频率点上的 DCT 系数。用矩阵表示： XAYT其中， 。NijCAiij2)1(cos

3、H.264 中对 4*4 的图像块进行操作，则相应的 4*4 的 DCT 变换矩阵A 为： )821cos()815cos(2)89cos(21)83cos(21 406)7cs()cs()3cs()cs( 0o21o210o210o21 A )83cos(21-)8cos(21)8cos(21-)83cos(21-)cs(-)3cs()3cs()cs( 设 ，则3,ba cbcaaAA 中 a,b,c 是实数，而图像块 X 中元素是整数。对实数的 DCT，由于在解码端的浮点运算精度问题，会造成解码后的数据的失配，进而引起漂移。H.264 由于预测过程，其对预测漂移是十分敏感的，因此，对 A

4、进行改造，采用整数 DCT 技术，可有效减少计算量，同时不损失图像的准确度。 ECXYAXYTT)(改 造 为将 2222)11( babdXdd，为简化，取 d=0.5.)4.0(/bc“ ”表示 结果中的每个元素乘以矩阵 E 中对应位置上的系数TCX值的运算。同时为了保持变换的正交性，对 b 修正，取 。52b对矩阵 C 中第 2 行和第 4 行，和 CT 中的第 2 列和第 4 列，乘以 2 改造，改造矩阵 E 为 Ef。 fTffEXY)(（1） 22224)12121( bababaX“ ”对每个矩阵元素只进行一次乘法。 归纳到量化里。只剩下整数的加法、减法和移位运算。TffXC实际

5、的 DCT 输出为： （2）TffXCWr=2:整数 DCT 变换 r=1：Hadamard 变换（程序中用的算法）3.量化（1）概念H.264 中，量化步长 一共 52 个值。QP 是量化参数，是量化步长stepQ的序号。 QP 每增加 6， 增加一倍。(QP 小，量化精细；QP 大，量ste化粗糙)亮度编码：采用 QP 值范围 051；色度编码：采用 QP 值范围 039。 （避免在较高的量化步长时出现颜色量化人工效应） 。（2）量化理论：H.264 中，量化过程是对前面（1）式的 DCT 结果进行操作：)(roundijstepijQYZ其中， 是矩阵 Y 中的转换系数， 是输出的量化系

6、数， 是量ij ij stepQ化步长。实际上，H.264 量化过程还要完成 DCT 变换中的“ ”乘法运算，fE即：（3）)(stepijij QPFWroundZ其中， 是矩阵 W 中的转换系数（见（2）式） ，PF 是矩阵 中的ij fE元素，根据样本点在图像块中的位置(i,j)取值：其 他 情 况 或或;2/)3,(1,)(,420;2abPF利用量化步长（ ） 随量化参数（QP ）每增加 6 而增加一倍的性stepQ质，可以进一步简化计算。设： )/(15QPflorqbits令： qbitsstepFM2floor()为取整函数（不大于输入实数的最大整数） 。式（2）可写成：)(q

7、bitsijijWroundZ这样，MF 可以取整数，见下表：表中只列出 QP 值为 0 到 5 的 MF 值，对于 QP 值大于 5 的情况，只是 qbits 值每增加 6 而增加 1，而对应的 MF 值不变。这样，量化过程则为整数运算，并且可以避免除法。（3）量化运算公式：具体的量化过程的运算为： )()(ijijijij WsgnZsqbitsfMFf 为偏移量，用以改善恢复图像的视觉效果。对帧内预测图像块 f 取，对帧内预测图像块 f 取 。3/2qbits 6/2qbits4.DCT 直流系数的变换量化（Hadamard 变换）如果当前处理的图像宏块是色度块或帧内 16*16 预测模

8、式的亮度块，则需要将其中各图像块的 DCT 变换系数矩阵 W 中的直流分量或直流系数 按对应图像块的顺序排序，组成新的矩阵 ，再对 进0WDD行 Hadamard 变换及量化。 （上面的量化过程就不需对各图像块的单独进行量化）0（1）帧内 16*16 预测模式亮度块的直流系数变换量化16*16 的图像宏块中有 4*4 个 4*4 的图像亮度块，所以亮度块的为 4*4 矩阵，其组成元素为各图像块 DCT 的直流系数 ，见下DW 0W图：对亮度块 的 Hadamard 变换为：DW2/111 DWYYD 是 Hadamard 变换结果。接着对 YD 再进行量化输出：)()( )1(2, 0,(), jiDjiDjiji WsgnZsgnqbitsfMFY是位置为（0,0）的 MF 系数值。)0,(MF4*4Hadamard 变换也可采用快速算法（上面 DCT 快速算法图中有） 。（2）色度块的直流系数变换量化色度块 的 Hadamard 变换为：DW11DDWYYD 再进行量化输出： )()( )(2, 0,(), jiDjiDjijisgnZsgnqbitsfMF