HEVC(high efficiency video coding) 표준에서 사용되는 기존의 rough mode decision(RMD) 알고리즘은 transform skip mode(TSM)와는 연관성이 낮은 DCT를 기반으로 하는 모드 선택 방법을 이용하고 있다. 따라서 기존 RMD의 결과로 구한 후보 모드가 TSM에서 사용될 때, 압축 효율이 손실되고 인코딩 시간을 낭비하게 된다. 본 논문은 HEVC에서의 TSM을 위한 새로운 RMD를 제안한다. 우리가 제안한 RMD 알고리즘은 TSM에서 최선의 모드를 선택할 확률을 높이는 새로운 비용 함수를 제안하여 코딩 효율을 향상시킨다. 또한, 제안하는 알고리즘은 새롭게 제안한 임계값을 기준으로 선택 가능성이 거의 없는 TSM의 인코딩 과정을 생략하여 인코딩 시간을 줄인다. 실험 결과 제안하는 방식은 HEVC 표준에 비해서 10%의 인코딩 시간을 줄이며 스크린 콘텐츠에 대해서 0.3%의 압축률을 향상시킨다.
The existing rough mode decision (RMD) algorithm, used in HEVC standard loses the coding efficiency and wastes encoding time when encoding using transform skip mode (TSM) because the RMD algorithm in HEVC uses a selection method that is designed for DCT, not for TSM. This paper proposes a new RMD algorithm for TSM in HEVC. Our proposed RMD algorithm enhances the coding efficiency by employing a new cost function to increase the probability of selecting the best intra prediction mode for TSM. In addition, it reduces the encoding time by skipping the encoding process of least feasible TSM based on a newly proposed threshold value. The experiment results show that the proposed method achieves coding gains of -0.3% for screen contents with a 10% reduction in encoding time compared to those of the HEVC standard.
