신경회로망 기술은 다양한 공학적 및 과학적 문제에 적용되어 왔으며 복잡한 동특성을 갖는 시스템의 모델링에 특히 효율적인 것으로 알려져 있다. 신경회로망 학습은 신경회로망의 가중치 및 바이러스로서 주어지는 파라미터 벡터의 요소를 주어진 목적함수를 최소화하는 최적의 값으로 추정하는 연산과정을 의미한다. 따라서 신경회로망 파라미터 학습은 전체시스템의 성능을 직접적으로 좌우하는 매우 중요한 단계라 할 수 있으며 일반적으로 파라미터의 수정규칙 알고리즘을 도출한다. 이러한 수정규칙은 주로 최적화 기법을 적용하며 경사함수(gradient function)를 포함한다. 최근에는 이러한 경사함수를 포함하지 않는 학습 알고리즘이 많이 개발되고 있으며 특히 칼만 필터링 이론을 접목한 미분 신경회로망의 학습 알고리즘이 최근에 발표되었다.