H.264/AVC 비디오 부호화 표준은 MPEG-2, H.263 또는 MPEG-4와 같은 기존의 비디오 부호화 표준과 비교하여 상당한 부호화 효율의 향상을 제공한다. 부호화 효율의 향상을 수행하기 위해서 H.264/AVC는 매크로블록 단위로 최적의 움직임 벡터, 참조 화면, 매크로블록 모드를 선택하는데 있어서 율-왜곡 최적화 (Rate-distortion optimization) 기법을 이용한다. 결과적으로 높은 부호화 효율을 제공함과 동시에 복잡도 역시 상당히 증가하였다. 본 논문에서는 화면 내 부호화 모드들에서 나타나는 주파수 특성의 제약 조건들을 이용하여 고속 화면 내 모드 선택 방법을 제안한다. 먼저 영상의 주파수 해석을 통해 H.264/AVC의 화면 내 모드 별 특성을 살펴본다. 다음 제안하는 주파수 에러 비용 (Frequency Error Cost, FEC)을 계산하여 최소 비용을 가지는 모드와 그 주변 모드 2개만을 후보 모드로 선택하고 후보 모드의 율-왜곡 비용만을 계산하여 최적의 화면 내 모드를 결정하여 복잡도를 감소시킨다. 실험 결과는 제안하는 방법이 H.264/AVC와 비교하여 비슷한 율-왜곡 성능을 보이면서 복잡도를 상당히 감소시킴을 보여준다.
H.264/AVC video coding standard enables a considerably higher improvement in coding efficiency compared with previous standards such as MPEG-2, H.263 and MPEG-4. To achieve this, for each macro-block in H.264/AVC, Rate-Distortion Optimization (RDO) technique is employed to select the best motion vector, reference frame, and macro-block mode. As a result, computational complexity is increased significantly whereas RDO achieve higher improvement. This paper presents fast intra mode selection algorithm based on constraints of frequency characteristics which are derived from intra coding modes of H.264/AVC. First of all, we observe the features of each intra mode through the frequency analysis of image. And then proposed Frequency Error Costs (FECs) are calculated to select the best mode which has minimum cost. Computational complexity is considerably reduced because rate-distortion costs only calculate the candidate modes which are set of best mode and its neighbouring two modes. Experimental results show that proposed algorithm reduces the complexity dramatically maintaining the rate-distortion performance compared with H.264/AVC reference software.
