H.264/AVC는 기존 영상 압축 표준과 달리 Intra 부호화에서도 가변 크기 블록과 예측 부호화를 사용하여 압축 효율을 높이고 있다. 한 매크로 블록을 부호화 하는 경우 $I16{ imes}16$ 모드에서 4가지, $I4{ imes}4$ 모드에서 9가지 예측 모드 중 가장 좋은 성능을 보이는 모드를 선택하여 부호화를 행한다. 현재 H.264 참조 소프트웨어인 JM에서는 모드 결정 방법으로 RDO (Rate Distortion Optimization)를 채택하여 사용하고 있으며 이는 RD 관점에서 가장 좋은 성능을 보이는 모드를 선택하여 부호화를 행하는 것이다. 본 논문에서는 H.264/AVC Intra 부호화의 부호화 효율을 향상 시킬 수 있는 모드 결정 방법을 제안한다. RDO는 영상 부호화기에 적용되는 과정에서 복잡도를 줄이기 위하여 부호화 되는 단위 블록들의 부호화 결과는 독립이라는 가정을 하였다. 하지만 실제 H.264/AVC 인트라 부호화 구조는 인접 블록의 이미 부호화 된 픽셀 값을 사용함으로써 인접 블록의 부호화 결과에 영향을 받도록 되어있다. 때문에 제안하는 방법은 이 블록 간 부호화 결과가 종속이라는 점을 고려하여, 기존 RDO 내 $I4{ imes}4$ 예측 모드 결정 과정 중 다음 블록의 예측을 위해 사용되는 현재 블록 내 화소 값의 왜곡에 중점을 두어 모드 결정을 하는 과정을 추가함으로써 압축 성능 향상을 꾀한다. 제안하는 모드 결정 방법은 다양한 시퀀스와 QP에서 같은 화질대비 $0.64{sim}l.65%$의 비트율 감소나 같은 비트율 대비 $0.049{sim}0.101dB$의 PSNR 향상을 보인다.