본 논문에서는 모의 실험을 통하여, 데이터의 분포가 Gauss 분포, 균등 분포 등의 경우, 어느 한 구간이 다른 구간에 비하여 확률도 크고 구간내의 오차도 크다면 이는 최적 양자화가 아니다라는 가정을 하였다. 이 가정을 LBG 알고리즘에 추가하여 수정된 LBG 알고리즘을 만들고, 이 알고리즘의 성능을 측정하였다. 수정된 알고리즘에 의한 코드 북의 오차는 본래의 알고리즘에 비하여 오차의 크기도 감소하였고, 오차의 편차도 감소하였다.
In this paper, an assumption to design a quantizer, is proposed that if one small region of a probability density function is represented larger probability and bigger total error than another neighbour region, then the quantizer is not optimal. It is tested when the probability functions are Gaussian, Laplacian and uniform density function by the computer simulations. A new LBG algorithm which originates from this assumption in addition to LBG algorithm, is designed for the vector quantizer. The new LBG algorithm presents better performance than the original LBG algorithm in the average error and the variance of the error.
