스파이킹 신경망 (spiking neural network (SNN))

한 줄 정의: 일반 인공신경망과 달리 생물학적 뉴런처럼 이산적인 스파이크(0 또는 1)를 시간에 걸쳐 발생시키는 방식으로 정보를 처리하는 신경망입니다.

쉽게 풀면

일반적인 딥러닝 모델의 뉴런은 연속적인 실수값을 출력하지만, 스파이킹 신경망의 유닛은 생물학적 뉴런처럼 막전위가 임계값을 넘을 때만 스파이크를 발생시킵니다. 가장 널리 쓰이는 뉴런 모델이 누설 적분-발화(LIF) 뉴런으로, 들어오는 입력을 막전위에 누적하고(적분) 시간이 지나면 저절로 감쇠하며(누설) 임계값을 넘으면 스파이크를 쏘고 초기화됩니다(발화). 최근에는 뉴런형 유닛뿐 아니라 더 느린 시간 규모로 정보를 표상하는 성상세포형 유닛을 추가해 학습 성능을 바꾸려는 시도도 이루어지고 있습니다.

왜 중요한가

스파이킹 신경망은 생물학적 뇌의 정보처리 방식에 더 가깝게 설계되어 있어 계산신경과학에서 뇌 기능을 모델링하는 도구로 쓰일 뿐 아니라, 이벤트 기반으로만 연산을 수행하기 때문에 저전력 신경형태 하드웨어(neuromorphic chip)에서 에너지 효율적인 인공지능을 구현하려는 공학 연구에서도 핵심적으로 다뤄집니다. 이 때문에 신경과학과 컴퓨터공학 양쪽 논문에서 공통적으로 등장하는 융합적 주제입니다.

논문에서는 이렇게 쓰입니다

"저수지 안의 스파이킹 유닛으로 누설 적분-발화(LIF) 뉴런을 사용하여 로렌츠 시계열을 예측하도록 학습시켰다."

실수값이 아니라 스파이크로 정보를 주고받는 신경망 모델을 이용해, 카오스적인 시계열 데이터의 미래를 예측하는 과제를 수행했다는 뜻입니다.

"제안된 스파이킹 신경망을 신경형태 칩에 구현한 결과, 기존 인공신경망 대비 동일한 분류 성능에서 소비 전력을 크게 낮출 수 있음을 확인하였다."

신경형태공학 분야에서는 스파이킹 신경망의 이벤트 기반 연산 특성을 활용해, 전력 소모가 중요한 엣지 디바이스용 인공지능 칩을 설계하는 연구가 활발히 진행되고 있습니다.

조금 더 깊게 보면

스파이킹 신경망은 스파이크가 미분 불가능한 이산 신호이기 때문에 일반적인 역전파(backpropagation)를 그대로 적용하기 어렵고, 이를 우회하기 위해 대리기울기(surrogate gradient) 기법이나 스파이크 시점 의존 가소성 같은 생물학적으로 그럴듯한 국소 학습 규칙이 함께 연구됩니다. 뉴런 모델도 단순한 누설 적분-발화부터 더 복잡한 동역학을 반영한 모델까지 다양하며, 어떤 뉴런 모델과 학습 규칙을 선택하느냐에 따라 계산 비용과 생물학적 타당성 사이의 절충이 달라집니다.

주의할 점

스파이킹 신경망은 생물학적 뉴런의 발화 방식을 모사하지만, 실제 생물학적 뉴런의 모든 성질(칼슘 동역학, 신경조절물질의 영향 등)을 그대로 재현하는 것은 아니라는 점에 유의해야 합니다.