H.264/AVC의 엔트로피 부호화 방법 중 하나인 CABAC은 CAVLC 보다 높은 압축율을 보이나 화면 내 예측 시 고비트율에서는 압축 성능이 좋지 않은 것으로 알려져 있다. 따라서 본 논문에서는 고화질의 비디오 응용 분야를 위하여 고비트율에서도 CABAC이 CAVLC에 못지않은 압축 성능을 발휘할 수 있도록 양자화된 DCT 계수를 위한 새로운 이진화 방법을 제안하였다. 제안된 방법은 양자화된 DCT 계수의 통계적 특성을 고려하여 4개로 분할된 DCT 영역과 QP에 독립적인 이진화 방법을 이용하는 것이다. 실험 결과, 제안된 양자화된 DCT 계수를 위한 이진화 방법은 기존의 H.264/AVC의 CABAC과 비교하여 고비트율에서 높은 압축 성능의 향상을 보였으며, CAVLC에 유사한 성능을 나타내었다.
It is well-known that the coding efficiency of CABAC which is one of the entropy coding methods in H.264/AVC is lower than that of CAVLC at high bitrate in intra coding, even if CABAC shows higher coding efficiency than CAVLC. Therefore, for high quality video application, this paper proposes new binarization methods about the quantized DCT coefficients that are partitioned into four regions such that CABAC shows similar coding efficiency to CAVLC at high bitrate. The proposed binarization methods consist of separate binarization tables about the four partitioned DCT coefficients considering the statistical characteristics of the quantized DCT coefficients. The proposed binarizaton method for the quantized DCT coefficients shows higher coding efficiency than CABAC in H.264/AVC and shows very similar result to CAVLC at high bitrate.
