헤비안 학습 (hebbian learning)
쉽게 풀면
"함께 발화하는 세포는 서로 연결된다(cells that fire together, wire together)"는 문장으로 흔히 요약되는 원리입니다. 뉴런 A가 신호를 보낼 때마다 마침 뉴런 B도 같이 활성화된다면, 뇌는 이 둘을 "관련 있는 사건"으로 취급해서 둘 사이의 시냅스 연결을 조금씩 더 강하게 만듭니다.
마치 두 사람이 자꾸 같은 자리에서 마주치다 보면 자연스럽게 친해지는 것처럼, 동시에 활동하는 뉴런들은 반복될수록 더 끈끈하게 이어집니다. 이 원리는 뇌가 특별한 "정답 채점자" 없이도 반복되는 경험의 패턴만으로 스스로 학습할 수 있게 해주는 기본 규칙으로 여겨집니다.
왜 중요한가
헤비안 학습은 외부의 명시적인 정답 없이도 신경계나 인공 신경망이 스스로 패턴을 학습할 수 있음을 설명하는 가장 오래되고 근본적인 원리이기 때문에, 신경과학뿐 아니라 비지도학습 알고리즘이나 신경망 모델 연구에서도 이론적 토대로 자주 인용됩니다. 학습과 기억이 뇌의 어느 수준(시냅스, 회로, 네트워크)에서 어떻게 형성되는지를 설명하려는 연구에서 출발점 역할을 합니다.
핵심 주장
- Hebb(1949)의 제안을 풀어 쓰면 이렇습니다. 세포 A의 축삭이 세포 B를 흥분시키는 데 반복적으로, 지속적으로 기여하면, 그 결과 A가 B를 흥분시키는 효율이 높아지는 변화가 한쪽 또는 양쪽에서 일어난다는 것입니다.
- “함께 발화하는 세포는 함께 연결된다(cells that fire together wire together)”는 표현은 이후 요약이며 Hebb의 원문은 아닙니다. 널리 알려진 이 문구는 Shatz(1992)의 글에서 유래한 것으로 알려져 있습니다.
- 원문에는 A가 B의 발화에 기여한다는 인과적 선후의 뜻이 들어 있어서, 단순한 동시성이 아니라 A가 먼저 오는 순서가 중요하다고 읽을 수 있습니다. 이 점은 나중에 스파이크 시점 의존 가소성으로 구체화되었습니다.
- 수식으로는 연결 강도 변화 Δw = η·x·y (x: 입력 활동, y: 출력 활동, η: 학습률) 형태로 쓰며, 입력과 출력이 모두 클 때만 연결이 강해집니다.
근거와 대표 연구
- 분자 수준의 장치: NMDA 수용체는 시냅스 전 방출과 시냅스 후 탈분극이 동시에 있을 때만 열리므로 헤비안 조건을 감지하는 부품으로 해석됩니다. 그 결과로 장기강화가 일어납니다.
- 시간 순서의 증거: Markram 등(1997)은 시냅스 후 스파이크가 시냅스 전 입력 직후에 오면 강화되고 그 반대 순서면 약화된다고 보고했고, Bi와 Poo(1998)는 배양 해마 뉴런에서 수십 밀리초 범위의 같은 경향을 보고했습니다.
- 이론적 보완: 순수한 헤비안 규칙은 활동이 커질수록 연결이 더 커지는 양의 되먹임이라 불안정합니다. Oja(1982)의 규칙은 가중치 크기를 정규화해 이를 막고, Bienenstock 등(1982)의 BCM 이론은 강화와 약화를 가르는 역치가 활동 이력에 따라 움직이도록 했습니다.
비판과 한계
- 약화 규칙이 없습니다. 원 규칙은 연결을 키우기만 해서, 실제로는 장기저하나 항상성 조절(Turrigiano & Nelson, 2004)이 함께 있어야 합니다.
- 사실상 상관 규칙입니다. 두 뉴런의 활동이 같이 오르내린 것만으로는 인과 관계가 생기지 않습니다. 보상, 주의, 신경조절물질(예: 도파민) 같은 제3의 신호가 있어야 학습이 일어난다는 확장 모형(세 요인 규칙)이 제안되어 있습니다.
- 범위의 문제: 헤비안 가소성이 어떤 시냅스에서 관찰된다는 것과, 학습 전체가 이 규칙으로 이루어진다는 것은 별개의 주장입니다. 지도학습형 인공신경망의 오차역전파는 헤비안 규칙이 아닙니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 두 신경세포 집단이 자주 동시에 활성화될수록 실제로 그 사이의 연결이 강해졌다는 관찰 결과를, 헤비안 학습이라는 이론적 원리로 설명하고 있다는 뜻입니다.
기계학습 분야에서는 정답 라벨과 오차 역전파에 의존하는 지도학습과 달리, 헤비안 규칙만으로도 데이터의 구조적 패턴을 비지도 방식으로 학습할 수 있다는 점을 보여줍니다.
인지신경과학 분야에서는 뇌 영상 연구에서 관찰된 영역 간 연결성 변화가, 반복된 동시 활성화로 연결이 강화된다는 헤비안 원리와 일치한다고 해석한다는 뜻입니다.
조금 더 깊게 보면
헤비안 학습을 수식으로 단순화하면 두 뉴런의 활성도의 곱에 비례해 연결 강도가 증가하는 형태로 표현되지만, 이 단순한 규칙만으로는 연결 강도가 끝없이 커지는 문제가 생기므로 실제 모델에서는 정규화나 항상성 조절 기제를 함께 도입합니다. 생물학적으로는 시냅스 전후 뉴런의 발화 시점 차이에 따라 강화 또는 약화가 달라지는 스파이크 시점 의존 가소성(STDP)이 헤비안 원리를 더 정교하게 확장한 형태로 여겨지며, 장기증강(LTP)과 장기억압(LTD)이 이러한 시냅스 강도 변화의 생리학적 실체로 연구됩니다.
주의할 점
헤비안 학습은 어디까지나 "이론적 원리"이며, 이를 실제 신경 회로 수준에서 구현하는 구체적인 생물학적 메커니즘은 장기강화이나 스파이크 시점 의존 가소성 같은 별도의 현상으로 설명됩니다. 즉 헤비안 학습이 "무엇이 일어나는가"에 대한 규칙이라면, 이런 현상들은 "어떻게 일어나는가"에 대한 구체적인 답에 가깝습니다.
헷갈리기 쉬운 용어
| 용어 | 무엇인가 | 구별하는 점 |
|---|---|---|
| 헤비안 학습 | 함께 활동하는 뉴런의 연결이 강해진다는 학습 원리 | 이론적 규칙입니다 |
| 장기강화(LTP) | 시냅스 반응이 오래 커지는 실험 현상 | 헤비안 원리를 뒷받침하는 현상 중 하나입니다 |
| 스파이크 시점 의존 가소성 | 스파이크 선후 간격에 따라 강화·약화가 결정되는 규칙 | 헤비안 규칙에 시간 순서를 더한 형태입니다 |
| 강화학습 | 보상을 최대화하도록 행동을 고치는 학습 | 활동 상관이 아니라 보상 신호가 학습을 이끕니다 |
참고 문헌
- Hebb, D. O. (1949). The Organization of Behavior: A Neuropsychological Theory. Wiley.
- Bienenstock, E. L., Cooper, L. N., & Munro, P. W. (1982). Theory for the development of neuron selectivity: orientation specificity and binocular interaction in visual cortex. Journal of Neuroscience, 2, 32–48.
- Oja, E. (1982). A simplified neuron model as a principal component analyzer. Journal of Mathematical Biology, 15, 267–273.
- Markram, H., Lübke, J., Frotscher, M., & Sakmann, B. (1997). Regulation of synaptic efficacy by coincidence of postsynaptic APs and EPSPs. Science, 275, 213–215.
- Turrigiano, G. G., & Nelson, S. B. (2004). Homeostatic plasticity in the developing nervous system. Nature Reviews Neuroscience, 5, 97–107.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.