퍼셉트론 (Perceptron)
쉽게 풀면
친구가 놀이공원에 갈지 말지를 정하는 상황을 생각해봅시다. "날씨가 맑은가(중요도 높음)", "돈이 있는가(중요도 높음)", "숙제가 있는가(중요도 낮음)" 같은 여러 조건을 각각 다른 비중으로 따져보고, 그 점수 합이 일정 기준을 넘으면 "간다"고 결정합니다. 퍼셉트론은 이 과정을 수학적으로 흉내 낸 것입니다.
여러 입력값(조건)에 각각 가중치(중요도)를 곱해서 더하고, 그 합이 특정 기준값을 넘으면 1(활성화), 넘지 못하면 0(비활성화)을 출력합니다. 이런 퍼셉트론을 여러 층으로 겹겹이 쌓은 것이 오늘날의 인공신경망입니다.
왜 중요한가
퍼셉트론은 오늘날 딥러닝을 지배하는 인공신경망 구조의 가장 기본이 되는 단위로, 이후 등장한 합성곱신경망이나 트랜스포머 같은 복잡한 구조도 결국 퍼셉트론과 유사한 가중합-활성화 연산을 반복적으로 쌓아 만든 것입니다. 또한 퍼셉트론의 한계(XOR 문제)와 이를 극복한 다층 구조의 역사는 신경망이 왜 여러 층으로 구성되어야 하는지를 이해하는 데 중요한 배경 지식이 됩니다.
핵심 정리
퍼셉트론은 1958년 프랭크 로젠블랫(Rosenblatt)이 제안한 신경 모형으로, 입력 x에 가중치 w를 곱해 더하고 기준을 넘으면 1, 아니면 0을 내는 이진 분류기입니다.
ŷ = 1 (w·x + b > 0), 그렇지 않으면 0
- 결정 경계
w·x + b = 0은 입력 공간을 두 영역으로 나누는 직선(고차원에서는 초평면)입니다. 그래서 선형 분리 가능한 문제만 풀 수 있습니다. - 학습 규칙: 예측이 틀린 사례에서만
w ← w + η(y − ŷ)x,b ← b + η(y − ŷ)로 갱신합니다(η: 학습률). - 수렴 정리: 자료가 선형 분리 가능하면 이 규칙은 유한한 횟수의 갱신 뒤 모든 사례를 맞히는 가중치에 도달합니다(Novikoff, 1962).
예시로 보기
AND 게이트 학습(η = 1, 초기값 w = (0, 0), b = 0, 직접 계산). 입력 (0,0),(0,1),(1,0),(1,1)에 대한 정답은 0,0,0,1입니다. 에포크(전체 한 번 훑기)마다 틀린 사례 수는 1, 3, 3, 2, 1, 0이고 6번째 에포크에서 0이 되어, 최종 w = (2, 1), b = -2입니다. 확인: (1,1)은 2+1-2 = 1 > 0이라 1, (1,0)은 0로 0 이하라 0입니다.
XOR은 풀리지 않습니다. 정답이 0,1,1,0인 XOR을 같은 규칙으로 100에포크 학습해도 틀린 사례 수가 마지막까지 4, 4, 4처럼 0에 도달하지 못했습니다. (0,1),(1,0)과 (0,0),(1,1)을 직선 하나로 가를 수 없기 때문입니다. 은닉층을 둔 다층 퍼셉트론은 이 문제를 풀 수 있습니다.
자주 하는 오해
- “퍼셉트론은 인공신경망 전체를 가리킨다.” 퍼셉트론은 한 개의 뉴런(단층)을 뜻하고, 여러 층을 쌓은 것은 다층 퍼셉트론(MLP)이라 구분해 부릅니다.
- “현대 뉴런과 같다.” 원래 퍼셉트론은 계단 함수 출력과 오류 기반 갱신 규칙을 씁니다. 현대 신경망의 뉴런은 시그모이드·ReLU처럼 미분 가능한 활성화 함수와 역전파를 씁니다.
- “민스키와 페퍼트가 신경망을 끝냈다.” 『Perceptrons』(1969)는 단층 퍼셉트론이 풀 수 있는 문제의 한계(XOR 같은 비선형 분리)를 수학적으로 분석했습니다. 이 분석이 한동안 연구 열기를 식혔다는 평가가 있지만, 다층 구조가 불가능하다고 증명한 것은 아닙니다.
- “데이터가 많으면 단층 퍼셉트론도 XOR을 푼다.” 표현 능력의 문제이므로 자료를 늘려도 해결되지 않습니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“통계 데이터의 경우에는 기계학습 및 다층 퍼셉트론 기반으로 학습을 진행하였고, 이미지 데이터의 경우에는 합성곱 신경망(Convolutional Neural Network, CNN) 기반으로 학습을 진행하였다.”
통계 및 이미지 데이터를 활용한 가짜 SNS 계정 식별 기술, 스마트미디어저널, 2022 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "여러 개의 퍼셉트론을 여러 층으로 쌓아 만든 다층 퍼셉트론 신경망을 분류 문제에 사용했다"는 뜻입니다. MLP는 다층 퍼셉트론(Multi-Layer Perceptron)의 줄임말입니다.
복잡한 딥러닝 모델과 성능을 비교하기 위한 가장 단순한 형태의 비교 대상(베이스라인)으로 퍼셉트론이 쓰이는 사례이다.
퍼셉트론이 오차에 따라 가중치를 조금씩 조정해 나가는 학습 원리를 설명한 예문이다.
조금 더 깊게 보면
단일 퍼셉트론의 학습 규칙은 예측이 틀렸을 때 그 오차 방향으로 가중치를 조금씩 조정하는 방식으로 이루어지며, 이는 이후 등장한 경사하강법 기반 학습의 원형이라 할 수 있습니다. 다층 퍼셉트론에서는 각 층의 출력에 시그모이드나 ReLU 같은 비선형 활성화함수를 적용함으로써 비로소 직선 하나로는 나눌 수 없는 복잡한 패턴을 표현할 수 있게 됩니다.
주의할 점
단일 퍼셉트론 하나만으로는 직선 하나로 나눌 수 없는 복잡한 패턴(예: XOR 문제)을 학습할 수 없습니다. 이 한계를 극복하기 위해 여러 층을 쌓고 활성화 함수를 비선형 함수로 바꾼 다층 구조가 등장했으며, 이 다층 구조의 가중치를 효율적으로 학습시키는 방법이 바로 역전파입니다.
헷갈리기 쉬운 용어
이름이 비슷한 개념이 서로 다른 층위를 가리킵니다.
| 용어 | 무엇인가 | 핵심 차이 |
|---|---|---|
| 퍼셉트론 | 단일 뉴런 이진 분류기 | 선형 분리만 가능, 계단 함수 |
| 다층 퍼셉트론(MLP) | 은닉층을 가진 신경망 | 비선형 활성화 덕분에 비선형 문제도 학습 |
| 인공신경망 | 뉴런을 연결한 모형 전체 | 퍼셉트론은 그 가장 단순한 형태 |
| 활성화 함수 | 뉴런의 출력 변환 | 계단 함수 → 시그모이드·ReLU 등으로 확장 |
| 역전파 | 다층 신경망의 가중치 학습 알고리즘 | 퍼셉트론 학습 규칙과 다름 |
참고 문헌
- Rosenblatt, F. (1958). The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 65(6), 386–408.
- Minsky, M., & Papert, S. (1969). Perceptrons: An Introduction to Computational Geometry. MIT Press.
- Novikoff, A. B. J. (1962). On convergence proofs on perceptrons. Proceedings of the Symposium on the Mathematical Theory of Automata, 12.
- Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.