본 논문에서는 H.264 부호화기의 율-왜곡 최적화를 위한 저 복잡도의 왜곡치 예측 방식을 제안한다. H.264에서 사용하는 복원 왜곡치를 계산하기 위해서는 DCT, 양자화, 역 양자화, IDCT, 그리고 복원 과정을 거쳐야 한다. 제안 방식은 양자화에서 계산되는 정수 계수들을 사용하여 정수 연산만으로 왜곡치를 예측한다. 따라서 제안 방식을 사용함으로써 왜곡치 계산에 사용되었던 역 양자화, IDCT, 그리고 복원 과정이 생략된다. 실험 결과는 QP $24{sim}36$에서 율-왜곡 최적화된 모드 결정 시간의 감소량이 평균 29 %와 최대 약 42 % 이고, 율-왜곡 성능 저하는 무시할 수 있을 정도로 작음을 보여준다.
In this paper, a new low-complexity distortion estimation method for H.264 rate-distortion optimized mode decision is proposed. The coding processes, such as DCT, quantization, inverse quantization, inverse DCT, and reconstruction are needed to compute the distortion in an H.264 encoder. To reduce these processes, we estimate distortion using integer operations with coefficients obtained in the quantization process. Inverse quantization, inverse DCT, and reconstruction processes are not needed by the proposed method. For quantization parameters 24 to 36, experimental results show that the time saving of rate-distortion optimized mode decision is on average 29 % and as high as 42 % with negligible degradation in coding performance.
