본 논문은 H.264/AVC 화면내 부호화에서 부호화 효율 향상을 위해 율-왜곡 최적화를 이용한 화면내 예측 오프셋 보상 방법을 제안한다. H.264/AVC의 화면내 예측 부호화는 주변 블록의 복원 화소들을 현재 부호화하려는 블록의 예측 블록으로 활용함으로써 공간적 상관성을 제거하고 부호화 효율을 향상시킨다. 제안 방법은 화면내 부호화의 예측 오차를 감소시키기 위해, 율-왜곡 비용 관점에서의 최적 값을 갖는 화면내 예측 오프셋을 기존 화면내 예측 블록에 더하여 예측 블록의 정확도를 높인다. 따라서 예측 오차 신호의 양자화된 변환 계수를 감소시키며 원본 블록과 복원된 블록 간의 왜곡을 감소시켜 화면내 블록의 부호화 성능을 향상시킬 수 있다. 추가적으로, 휘도 성분의 부호화 성능 향상을 위해 화면내 예측 오프셋 보상이 사용되는 화면내 블록의 색차 성분에 JM 11.0에서 화면간 부호화에서 사용되는 계수 임계 처리 방법을 적용한다. 본 논문의 실험에서는 제안하는 방법이 JM 11.0과 비교 실험했을 때 High Profile 환경에서 평균 2.45%의 비트율 감소와 최대 4.41%의 비트율을 감소시킬 수 있음을 보인다.
In this paper, an intra prediction offset compensation method is proposed to improve intra prediction in H.264/AVC. In H.264/AVC, intra prediction based on various directions improves the coding efficiency by removing spatial correlation between neighboring blocks. In details, neighboring pixels in reconstructed block can be used as intra reference block for the current block to be coded when intra prediction method is used. In order to reduce further the prediction error of the intra reference block, the proposed method introduces an intra prediction offset which is determined in the sense of the rate-distortion optimization and is added to the conventional intra prediction block. Besides the intra prediction offset compensation, the coefficient thresholding method which is used for inter coding in JM 11.0, is used for chroma component in intra block, which leads the improvement of the luma coding efficiency of the proposed method. In experiments, we show that the proposed method achieves average 2.45% in High Profile condition and maximum 4.41% of bitrate reduction relative to JM 11.0.
