본 논문에서는 기존의 신경망 등화기의 비트 오류 확률 관점에서의 성능 향상을 위해 이차 시그모이드 함수를 활성 함수로 이용한 이차 시그모의 신경망 등화기를 제안한다. 비선형 왜곡을 보정하기 위해 사용되어온 기존의 신경망 등화기들은 일반적으로 활성 함수로서 시그모이드 함수를 이용한다. 기존의 시그모이드 함수를 이용한 신경망 등화기의 경우 하나의 뉴론은 한 개의 선형적인 경계 면을 형성한다. 따라서 복잡한 경계 면을 형성하기 위해 많은 수의 뉴론이 필요하게 된다. 하지만 제안하는 신경망을 등화기에서는 한 뉴론이 평행한 두 개의 직선을 가지고 평면 영역을 분할하기 때문에 보다 간단한 구조로 비트 오류 확률 관점에서 우수한 성능을 얻을 수 있다. 제안한 이차 시그모이드 신경망 결정궤한 등화기를 통신 환경 및 디지털 자기기록 시스템에 적용하였을 때, 기존의 결정궤환 등화기와 신경망 결정궤한 등화기에 비해 같은 비트 오류 확률 관점에서 신호 대 잡음비가 1.5dB~8.3dB 정도의 성능향상을 보인다. 특히 심벌간의 간섭이 심하거나, 비선형성이 강한 환경에서 기존의 일반적인 결정궤한 등화기와 신경망 결정궤한 등화기에 비하여 비트 오류 확률 관점에서 두드러진 신호 대 잡음비의 성능 이득을 보인다.
In this paper, a quadratic sigmoid neural equalizer(QSNE) is proposed to improve the performance of conventional neural equalizer in terms of bit error probability by using a quadratic sigmoid function as the activation function of neural networks. Conventional neural equalizers which have been used to compensate for nonlinear distortions adopt the sigmoid function. In the case of sigmoid neural equalizer, each neuron has one linear decision boundary. So many neurons are required when the neural equalizer has to separate complicated structure. But in case of the proposed QSNF and quadratic sigmoid neural decision feedback equalizer(QSNDFE), each neuron separates decision region with two parallel lines. Therefore, QSNE and QSNDFE have better performance and simpler structure than the conventional neural equalizers in terms of bit error probability. When the proposed QSNDFE is applied to communication systems and digital magnetic recording systems, it is an improvement of approximately 1.5dB~8.3dB in signal to moise ratio(SNR) over the conventional decision feedback equalizer(DEF) and neural decision feedback equalizer(NDFE). As intersymbol interference(ISI) and nonlinear distortions become severer, QSNDFE shows astounding SNR shows astounding SNR performance gain over the conventional equalizers in the same bit error probability.
