퍼셉트론 (Perceptron)
쉽게 풀면
친구가 놀이공원에 갈지 말지를 정하는 상황을 생각해봅시다. "날씨가 맑은가(중요도 높음)", "돈이 있는가(중요도 높음)", "숙제가 있는가(중요도 낮음)" 같은 여러 조건을 각각 다른 비중으로 따져보고, 그 점수 합이 일정 기준을 넘으면 "간다"고 결정합니다. 퍼셉트론은 이 과정을 수학적으로 흉내 낸 것입니다. 여러 입력값(조건)에 각각 가중치(중요도)를 곱해서 더하고, 그 합이 특정 기준값을 넘으면 1(활성화), 넘지 못하면 0(비활성화)을 출력합니다. 이런 퍼셉트론을 여러 층으로 겹겹이 쌓은 것이 오늘날의 인공신경망입니다.
왜 중요한가
퍼셉트론은 오늘날 딥러닝을 지배하는 인공신경망 구조의 가장 기본이 되는 단위로, 이후 등장한 합성곱신경망이나 트랜스포머 같은 복잡한 구조도 결국 퍼셉트론과 유사한 가중합-활성화 연산을 반복적으로 쌓아 만든 것입니다. 또한 퍼셉트론의 한계(XOR 문제)와 이를 극복한 다층 구조의 역사는 신경망이 왜 여러 층으로 구성되어야 하는지를 이해하는 데 중요한 배경 지식이 됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 "여러 개의 퍼셉트론을 여러 층으로 쌓아 만든 다층 퍼셉트론 신경망을 분류 문제에 사용했다"는 뜻입니다. MLP는 다층 퍼셉트론(Multi-Layer Perceptron)의 줄임말입니다.
복잡한 딥러닝 모델과 성능을 비교하기 위한 가장 단순한 형태의 비교 대상(베이스라인)으로 퍼셉트론이 쓰이는 사례이다.
퍼셉트론이 오차에 따라 가중치를 조금씩 조정해 나가는 학습 원리를 설명한 예문이다.
조금 더 깊게 보면
단일 퍼셉트론의 학습 규칙은 예측이 틀렸을 때 그 오차 방향으로 가중치를 조금씩 조정하는 방식으로 이루어지며, 이는 이후 등장한 경사하강법 기반 학습의 원형이라 할 수 있습니다. 다층 퍼셉트론에서는 각 층의 출력에 시그모이드나 ReLU 같은 비선형 활성화함수를 적용함으로써 비로소 직선 하나로는 나눌 수 없는 복잡한 패턴을 표현할 수 있게 됩니다.
주의할 점
단일 퍼셉트론 하나만으로는 직선 하나로 나눌 수 없는 복잡한 패턴(예: XOR 문제)을 학습할 수 없습니다. 이 한계를 극복하기 위해 여러 층을 쌓고 활성화 함수를 비선형 함수로 바꾼 다층 구조가 등장했으며, 이 다층 구조의 가중치를 효율적으로 학습시키는 방법이 바로 역전파입니다.