H.264/AVC에서 다양한 블록 모드에서 최적 블록 모드를 결정하기 위해 율왜곡 최적화 알고리즘이 사용되고 있다. 이는 비트율을 개선시키고 있으나 계산량을 크게 증가시키고 있다. 본 논문은 움직임 추정을 위해 이미 계산된 비용을 이용해 율왜곡 최적화의 비용을 예측하여 적응적으로 율왜곡 최적화를 생략하는 고속 율왜곡 최적화 알고리즘을 제안한다. 모의 실험 결과는 제안된 알고리즘이 평균적으로 율왜곡 최적화에 의해 생성된 비트율과 화질을 거의 유지시키면서 율왜곡 최적화에 의해 발생하는 추가적인 계산량을 CIF와 QCIF에서 각각 69.86%와 69.63%를 감소시키고 있는 것을 보여주고 있다.
In H.264/AVC, rate distortion optimization algorithm is used to decide the best block mode from various block modes. It improves a bit rate but greatly increases an amount of computation. This paper proposes a fast rate distortion optimization algorithm that omits a rate distortion optimization adaptively by predicting its cost from the cost calculated for motion estimation. The simulation results show that the proposed algorithm, on average, keeps nearly the image quality and the bit rate made by the rate distortion optimization while reduces 69.86% and 69.63% of computation added by it in CIF and QCIF respectively.
