벡터양자화에서 거리계산법으로 주로 평균자승오차가 사용된다. 그러나 이를 이용하면 벡터들의 평균값 사이의 거리가 전체거리를 크게 좌우한다. 영상벡터일 경우 인간시각체계로 볼 때 에지패턴의 일치가 매우 중요하다. 본 논문에서는 벡터간의 에지패턴의 일치를 가늠하는 양으로 편차분산을 이용하고, 이것을 적용한 영상벡터에 맞는 거리계산법을 제안하였다. 이를 벡터양자화 부호화에 적용한 결과 복원영상의 에지부분 열화를 줄일 수 있었으며, 코드북 설계에 적용한 결과 중복된 평탄성분의 코드벡터 생성을 줄이고 다양한 에지성분의 코드벡터들을 가진 효율적인 코드북을 얻으므로써 부호화 성능이 향상됨을 볼 수 있었다.
In vector quantization (VQ), mean squared error (MSE) is widely used as a distance measure between vectors. But the distance between averages appears as a dominant quantity in MSE. In the case of image vectors, the coincidence of edge pattern is also important considering human visual system (HVS). Therefore, this paper presents a new distance measure using the variance of difference (VD) as a criterion for the coincidence of edge pattern. By using this in the VQ encoding, we can reduce the degradation of edge region in the reconstructed image. And applying this to the codebook design, we can obtain the final codebook that has a lot of various edge codevectors instead of redundant shade ones.
