용어 목록 > 인공신경망 (Neural Network)

인공신경망 (Neural Network)

쉽게 풀면

사람 뇌는 수많은 신경세포(뉴런)가 서로 신호를 주고받으며 정보를 처리합니다. 인공신경망은 이 아이디어를 단순화해서, 숫자를 입력받아 계산한 뒤 다음 층으로 전달하는 작은 계산 단위(노드)를 여러 층으로 쌓아 만든 컴퓨터 모델입니다.

사진 속 고양이를 인식하는 과정을 예로 들면, 첫 번째 층은 선과 모서리 같은 아주 단순한 특징을 감지하고, 다음 층들은 이를 조합해 눈, 귀, 털 무늬 같은 점점 복잡한 특징을 인식하며, 마지막 층에서 "이건 고양이다"라는 최종 판단을 내립니다.

왜 중요한가

인공신경망은 이미지 인식, 자연어처리, 음성인식, 추천시스템 등 오늘날 대부분의 딥러닝 응용 분야를 떠받치는 기본 구조이기 때문에 논문에서 빠지지 않고 등장합니다. 새로운 모델 구조(트랜스포머, 합성곱신경망 등)나 학습 기법(정규화, 최적화 알고리즘 등)에 관한 연구들은 대부분 인공신경망이라는 공통 틀 위에서 개선점을 논의합니다. 또한 신경망의 표현 능력과 한계를 이론적으로 분석하는 연구도 인공지능의 기초를 다지는 중요한 주제로 다뤄집니다.

핵심 정리

• 인공신경망은 입력층 → 은닉층(하나 이상) → 출력층으로 이어지는 계산 그래프입니다. 각 노드는 입력에 가중치를 곱해 더하고(선형 결합) 활성화 함수를 통과시켜 다음 층에 넘깁니다.
• 학습은 가중치를 조정해 예측 오차(손실)를 줄이는 과정입니다. 오차를 출력층에서 거꾸로 전달해 기울기를 계산하는 역전파와 경사하강법이 표준 절차입니다(Rumelhart 등, 1986).
• 은닉층이 하나인 충분히 넓은 신경망이 연속 함수를 임의의 정밀도로 근사할 수 있다는 보편 근사 정리가 있습니다(Cybenko, 1989; Hornik 등, 1989). 다만 이는 “표현할 수 있다”는 존재 결과이고, 학습이 그 해를 찾는다는 보장이나 필요한 크기를 알려 주지는 않습니다.
• 층 수, 층당 노드 수, 활성화 함수, 학습률 같은 설정을 하이퍼파라미터라 하며, 구조에 따라 합성곱 신경망, 순환 신경망, 트랜스포머 등으로 갈라집니다.

예시로 보기

가상의 예(코드로 계산): 입력 x = (1, 2), 은닉 2개(ReLU), 출력 1개(시그모이드), 정답 y = 1인 가장 작은 신경망의 순전파입니다.

• 은닉 가중치 W1 = [[0.5, −1.0], [1.0, 0.5]], 편향 b1 = (0, −1)
• 은닉 입력 z1 = (0.5×1 − 1.0×2 + 0, 1.0×1 + 0.5×2 − 1) = (-1.50, 1.00); ReLU 후 h = (0.00, 1.00)
• 출력 가중치 w2 = (1.0, −0.5), 편향 0.2 → z2 = -0.30, 시그모이드 출력 ŷ = 0.426
• 이진 교차엔트로피 손실 = −ln(ŷ) = 0.854

첫 번째 은닉 노드는 ReLU로 0이 되어 출력에 기여하지 못합니다. 학습은 이 손실을 줄이는 방향으로 W1, w2, 편향을 조금씩 바꿉니다. 실제 모형은 수천~수십억 개의 가중치를 가지지만 계산의 구조는 같습니다.

자주 하는 오해

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

• “특히 주제 모형화, 능선 회귀분석과 라소 회귀분석, 지지벡터 기계, 신경망, 딥러닝 등에 대한 원리를 소개하고 심리학 연구에 적용되는 방법들에 대하여 논의하였다.”

  빅데이터를 이용한 심리학 연구 방법, 한국심리학회지:일반, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗

• “터널에서는 암반분류, TBM굴진율 및 막장전방 지질 예측, 발파에서는암반의 파쇄도 및 비산거리, 광산에서는 폐광의 침하가능성 예측을 위해 주로 활용되고 있으며, 기계학습의 다양한 알고리즘 중 인공신경망이 압도적으로 많이 활용되고 있는 것으로 나타났다.”

  암반공학분야에 적용된 인공지능 알고리즘 분석, 터널과 지하공간, 2021 · KCI 한국학술지인용색인 · 원문 보기 ↗

• “생성적 대립 신경망(GAN)은 신경망 2개가 적대적인 관계에서 학습하는 기계학습 방식의 하나로 생성모델과 판별모델이 경쟁하면서 실제와 가까운 산출물을 만들어 내는 모델로서 기계가 경쟁하면서 학습을 하는 것이 특징이라고 할 수 있다.”

  AI 기술 발달에 따른 국제경영에서 생성형 AI 모델(GAN)의 활용 및 사례에 대한 연구, 무역경영연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

여러 층으로 쌓인 계산 구조를 학습시켜 이미지를 분류하는 데 사용했다는 뜻입니다.

순차적인 데이터(시계열, 텍스트 등)를 다루는 과제에서 신경망 구조를 적용한 사례를 설명하는 표현입니다.

임베디드·모바일 환경처럼 자원이 제한된 조건에서 신경망을 적용하는 실무 연구 맥락에서 쓰이는 표현입니다.

조금 더 깊게 보면

신경망 내부에서는 입력이 가중치와 활성화 함수를 거쳐 층마다 변환되며, 오차역전파(backpropagation)를 통해 각 가중치가 얼마나 예측 오차에 기여했는지를 계산해 조금씩 수정해 나갑니다.

층의 개수(깊이)와 각 층의 노드 수(너비), 활성화 함수의 종류, 학습률 같은 요소들이 모델 성능에 큰 영향을 미치며, 이런 설정값을 하이퍼파라미터라고 부릅니다. 최근에는 합성곱신경망(CNN), 순환신경망(RNN), 트랜스포머(Transformer) 등 특정 데이터 구조에 특화된 변형 구조들이 널리 쓰이고 있습니다.

주의할 점

"뇌를 본떴다"는 표현 때문에 인공신경망이 실제로 사람처럼 사고하거나 이해한다고 오해하기 쉽지만, 이는 생물학적 신경계를 극도로 단순화한 수학적 계산 구조일 뿐이며 실제 뇌의 작동 방식과는 크게 다릅니다. 성능이 뛰어나다고 해서 그 판단 근거를 사람처럼 설명할 수 있는 것도 아닙니다.

헷갈리기 쉬운 용어

신경망 주변에는 포함 관계가 있는 용어가 많아 같은 층위로 착각하기 쉽습니다.

참고 문헌

1. McCulloch, W. S., & Pitts, W. (1943). A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics, 5(4), 115–133.
2. Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323, 533–536.
3. Cybenko, G. (1989). Approximation by superpositions of a sigmoidal function. Mathematics of Control, Signals and Systems, 2(4), 303–314.
4. Hornik, K., Stinchcombe, M., & White, H. (1989). Multilayer feedforward networks are universal approximators. Neural Networks, 2(5), 359–366.
5. Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어