이 논문은 양자화 오류와 채널왜곡을 고려한 양극왜곡을 최소화시키기 위해 변조신호의 좌표와 소스 인코더를 동시에 최적화하는 방법을 제안한다. 제안된 최적화 과정은 먼저 주어진 변조 신호에 대해서, VQ 부호책을 최적화한다. 그리고 나서 앞 단계에서 얻어진 VQ 부호책에 대해, 변조 신호를 최적화한다. 이 두 과정들은 국소 최적점에 도달할 때까지 반복 시행된다. 또한 본 논문에서는 코드 벡터와 변조 신호들간의 대응 관계를 효율적으로 설정함으로써 전체 시스템의 성능이 개선됨을 보인다. 컴퓨터 실험을 통하여 제안된 시스템이 잡음 없는 채널에서 설계된 VQ 부호책과 기존의 직교 진폭 변조(QAM) 신호를 기반으로 하는 종래의 시스템보다 우수한 성능을 갖음을 보여준다.
A joint design scheme has been proposed to optimize the source encoder and the modulation signal constellation based on the minimization of the end-to-end distortion including both the quantization error and channel distortion. The proposed scheme first optimizes the VQ codebook for a fixed modulation signal set, and then the modulation signals for the fixed VQ codebook. These two steps are iteratively repeated until they reach a local optimum solution. It has been shown that the performance of the proposed system can be enhanced by employing a new efficient mapping scheme between codevectors and modulation signals. Simulation results show that a jointly optimized system based on the proposed algorithms outperforms the conventional system based on a conventional QAM modulation signal set and the VQ codebook designed for a noiseless channel.
