뇌의 동역학계 이론 (Dynamical Systems Theory of Brain Function)

뇌과학·신경과학
한 줄 정의: 뇌의 신경 활동을 고정된 정보처리 회로가 아니라, 시간에 따라 상태가 연속적으로 변화하는 동역학계로 간주하고 끌개, 분기, 진동 같은 수학적 개념을 이용해 뇌 기능을 설명하는 이론적 접근법.

쉽게 풀면

뇌의 동역학계 이론은 뇌를 하나의 정지된 논리 회로도가 아니라, 시간에 따라 끊임없이 상태가 변화하는 흐르는 시스템으로 바라본다. 이 관점에서는 특정 인지 기능이 고정된 위치나 고정된 배선에 저장되어 있다기보다, 신경 활동이 시간에 따라 그리는 궤적, 그 궤적이 수렴하는 안정 상태(끌개), 그리고 조건에 따라 시스템의 행동 양상이 급격히 바뀌는 전환점(분기)과 같은 동역학적 개념으로 더 잘 설명된다고 본다. 이 이론적 틀은 물리학과 수학에서 발전한 비선형 동역학 이론의 도구들을 신경과학에 직접 적용한 것으로, 끌개신경망, 진동, 신경다양체 같은 여러 구체적인 개념들이 이 큰 틀 안에 포함된다. 뇌의 동역학계 이론은 개별 뉴런의 반응보다 신경집단 전체가 시간에 따라 어떻게 진화하는지에 주목하게 해 준다는 점에서 최근 계산신경과학의 중요한 흐름으로 자리 잡고 있다.

왜 중요한가

뇌를 동역학계로 보는 관점은 개별 뉴런 단위 분석만으로는 설명하기 어려운 인지 전환, 상태 변화, 발작이나 마취와 같은 뇌 상태 이행 현상을 설명하는 데 유용한 언어를 제공합니다. 그래서 계산신경과학, 정신의학, 신경공학 등 여러 분야의 논문에서 신경 데이터를 해석하는 공통 이론적 틀로 자주 인용됩니다. 또한 인공신경망 연구에서도 순환신경망의 학습 과정과 표상 형성을 동역학적으로 이해하려는 시도와 맞닿아 있어, 생물학적 뇌와 인공 시스템을 잇는 다리 역할을 하기도 합니다.

논문에서는 이렇게 쓰입니다

“신경집단 활동의 시간적 궤적을 뇌의 동역학계 이론(dynamical systems theory of brain function) 관점에서 분석한 결과, 의사결정 시점에 뚜렷한 분기점이 관찰되었다.”

신경 활동의 시간적 변화를 상태공간 궤적으로 시각화하고 해석하는 계산신경과학 연구에서 사용된다.

“마취 유도 전후의 피질 신경활동을 동역학계 이론의 틀에서 비교한 결과, 의식 소실 시점에서 끌개 상태 간 전이 패턴이 관찰되었다.”

마취학·의식 연구에서 뇌 상태의 급격한 전환을 동역학적 전이로 해석할 때 사용되는 표현이다.

“순환신경망의 은닉 상태 궤적을 동역학계 이론에 기반해 분석함으로써, 학습된 표상이 형성하는 안정 상태들을 규명하였다.”

계산신경과학 개념을 인공신경망 해석에 적용하는 최근 연구에서도 이 표현이 쓰인다.

조금 더 깊게 보면

논문을 읽을 때는 시스템의 상태 변화를 나타내는 상태공간(state space)과, 그 안에서 시스템이 수렴하는 안정된 영역인 끌개(attractor)의 개념을 함께 이해하는 것이 도움이 됩니다. 매개변수가 서서히 변할 때 시스템의 정성적 행동이 갑자기 바뀌는 지점을 분기(bifurcation)라 부르며, 이는 뇌 상태 전환이나 질환 발현을 설명하는 데 자주 쓰입니다. 실제 연구에서는 다수 뉴런의 활동을 저차원 공간으로 축소하는 차원축소 기법을 통해 이러한 궤적과 끌개를 시각화하고 정량화하는 경우가 많습니다.

주의할 점

이 이론은 매우 포괄적인 수학적 프레임워크이므로, 논문에서 구체적으로 어떤 동역학적 개념(끌개, 분기, 진동 등)을 다루는지 명확히 확인하며 읽어야 한다.

관련 용어