H.266/VVC技术描述_4-变换量化_1-高频调零与多核变换

1、高频调零

  VTM中最大支持64x64的变换块。VTM中可以在SPS配置允许的最大的变换块，可以是16、32或64。
  对于DCT-2，高或宽为64的块进行高频调零。如果宽为64，仅保留左32列，如果高为64，仅保留上32列。使用变换的skip模式时不使用高频调零。对于DCT8和DST7，高或宽为32的块进行高频调零，只保留16x16的区域。

2、多核变换MTS

  DCT变换在数学上有8类，一般图像处理中使用的DCT变换是DCT2，HEVC只使用了DCT-2，VVC中新加了DCT8和DST7，以下是它们的基函数。

  变换矩阵进行了比HEVC更高精度的量化，变换计算中变换系数使用16比特，水平和垂直变换后系数为10比特。
  SPS中有两个标志为分别控制帧内和帧间的MTS开关，如果使用MTS，每个CU有一个标志为表示是否使用MTS。CU使用MTS必须满足宽高均小于32且CBF标志位为1。
  如果CU的MTS的标志位为0，水平和垂直方向均使用DCT2。如果MTS标志位为1，使用额外的两位表示使用的变换核。

  为了避免冗余，CU的MTS标志非零时变换的skip标志不被发送（只有宽和高均小于32时可以使用skip模式）。
  另外有几处隐性MTS。如果CU使用ISP或者CU是帧内块并且帧内和帧间的MTS开关都打开，只使用DST7进行水平垂直变换。CU使用二次变换或者MIP时使用DCT2。帧间块使用MTS时仍可以使用隐性MTS。