최근에 만들어진 비디오 압축 표준인 H.264는 매크로블록당 최적의 부호화 모드를 결정하기 위해 비트율-왜곡 (rate-distortion) 기법을 사용하지만, 그 복잡성으로 인해 부호화하는 데 많은 시간이 걸린다. 따라서, H.264의 부호화 시간을 단축하기 위해 고속 모드결정 방법이 필요하다. 본 논문에서는 양자화 계수에 따라 발생 모드가 변하는 특성에 기반하여 불필요한 움직임 예측 및 모드결정 과정을 생략하는 새로운 고속 모드결정 방법을 제안한다. 양자화 계수에 따라 최적모드의 발생 빈도가 변하게 되는데, 제안한 방법에서는 매크로블록의 양자화된 이산 여현변환 계수들이 모두 0일 때, 0의 값을 가지는 CBP(coded block pattern)를 고려하여 이러한 특성을 반영하며, 조기 SKIP 모드 결정방법과 조기 $16{ imes}16$ 모드 결정방법을 이용한다. 컴퓨터 모의실험을 통해, 본 논문에서 제안한 고속 인터모드 결정방법이 H.264의 참조 소프트웨어에 구현된 고속 인터모드 결정방법에 비해, Baseline 프로파일의 경우 19.6%, Main 프로파일의 경우 18.8%의 부호화 시간을 감소시키는 것을 확인했다.
The recent video coding standard H.264 employs the rate-distortion optimization (RDO) method for choosing the best coding mode; however, it causes a large amount of encoding time. Thus, in order to reduce the encoding time, we need a fast mode decision algorithm. In this paper, we propose a fast inter mode decision algorithm considering quantization parameter (QP). The occurrence of best modes depends on QP. In order to reflect these characteristics, we consider the coded block pattern (CBP) which has 0 value when all quantized discrete cosine transform (DCT) coefficients are zero. We also use the early SKIP mode decision and early $16{ imes}16$ mode decision methods. By computer simulations, we have verified that the proposed algorithm requires less encoding time than the fast inter mode decision method of the H.264 reference software for the Baseline and Main profiles by 19.6% and 18.8%, respectively.
