영상 압축 또는 영상 부호화에서 후처리, 복원, transcoding을 하는 경우, DCT 계수의 양자화 잡음 모델이 필요하다. 양자화 된 계수만 알고 있는 경우에는 양자화 되기 전의 분포를 구할 수 없다. 본 논문에서는 양자화 되기 전의 DCT 계수의 확률 분포함수를 Laplacian으로 가정하고, 양자화된 계수로부터 분산을 구하고 이를 사용하여 양자화 이전의 분산을 추정하는 방법을 제시하였다. 여러 영상을 사용한 실험을 통하여 제안된 방법의 결과가 기존의 방법에서는 분산이 작게 나오는 단점을 보완하는 것을 확인하였다.
Image and video compression requires quantization error model of DCT coefficients for post processing, restoration or transcoding. Once DCT coefficients are quantized, it is impossible to recover the original distribution. We assume that the original probability density function (pdf) is the Laplacian function. We calculate the variance of the quantized variable, and estimate the variance of the DCT coefficients. We can confirm that the proposed method enhances the accuracy of the quantization error estimation.
