H.264/AVC 표준은 부호화 효율을 향상시키기 위해 각 매크로블록의 최적 부호화 모드를 결정하는 율-왜곡 최적화 기법을 사용한다. 율-왜곡 최적화 기법은 기존의 비디오 압축 표준보다 부호화 효율을 향상시키지만 매크로블록의 최적 부호화 모드를 결정하기 위해서 전체 모드에 대해 율-왜곡 최적화 과정을 수행해야하므로 부호화기의 복잡도가 매우 증가하게 된다. 본 논문에서는 부호화기의 복잡도 감소를 위해서 방향성 기울기를 이용한 고속 화면내 예측 모드 결정 방법을 제안한다. 제안된 알고리즘은 2-경로 구조로 구성되었다. 첫 번째 경로는 방향성 기울기를 계산하여 제안된 예측 모드 결정 방법에 따라 $16{ imes}16$ 화면내 예측 모드를 결정한다. 두 번째 경로는 $4{ imes}4$ 화면내 예측의 최적 모드를 결정한다. $4{ imes}4$ 화면내 예측에서 지원하는 9가지 예측 모드 중 3가지 예측 모드에 RDO 과정이 수행된다. 각 경로에서 결정된 두 가지 모드의 비용을 비교하여 최적 모드를 결정한다. 모의실험을 통해 제안 방식이 참조 소프트웨어와 비교하여 무시할 수 있는 화질 손실과 평균적으로 77%의 계산량을 감소시킬 수 있음을 확인하였다.
H.264/AVC video coding standard uses the rate distortion optimization method which determines the best coding mode for macroblock(MB) to improve coding efficiency. Whereas RDO selects the best coding mode, it causes the heavy computational burden comparing with previous standards. To reduce the complexity, in this paper, a fast intra prediction mode decision algorithm using directional gradients is proposed. The proposed algorithm is composed of 2-path structure. In the first path, $16{ imes}16$ intra prediction mode is determined using directional gradients. In the second path, 3 modes instead of 9 modes are chosen for RDO to decide the best mode for $4{ imes}4$ block. Finally, the two modes determined in the two-path decision process are compared to decide the final block mode. Experimental results show that the computation time of the proposed method is decreased to about 77% of the exhaustive mode decision method with negligible quality loss.
