프롬프트 엔지니어링 (prompt engineering)
쉽게 풀면
같은 사람에게 일을 시켜도 "이거 해줘"라고 대충 말하는 것과, 배경 설명과 예시를 곁들여 구체적으로 지시하는 것은 결과물의 질이 다릅니다. 프롬프트 엔지니어링은 언어 모델에게 "어떤 순서로, 어떤 형식으로, 어떤 예시와 함께" 질문을 던질지 설계해서, 모델 내부 가중치는 그대로 둔 채 출력 품질을 끌어올리는 작업입니다. 예시를 몇 개 보여주거나, 단계별로 생각하도록 지시하는 방식이 대표적입니다.
왜 중요한가
대규모 언어 모델을 파인튜닝하려면 많은 연산 자원과 데이터가 필요한 반면, 프롬프트 엔지니어링은 모델을 그대로 둔 채 입력 설계만으로 성능을 끌어올릴 수 있어 비용 효율적인 대안으로 주목받는다. 이 때문에 자연어처리, 인간-컴퓨터 상호작용, 응용 AI 연구 전반에서 특정 과제에 모델을 적용하는 가장 손쉬운 진입점으로 다뤄지며, 어떤 프롬프트 구조가 왜 더 나은 결과를 내는지를 설명하는 것 자체가 하나의 연구 주제이기도 하다.
어떤 절차인가
모델의 가중치를 바꾸지 않고, 입력 지시문(프롬프트)을 설계하고 다듬어 원하는 출력을 얻는 절차입니다. 일반적인 흐름은 다음과 같습니다.
- 과제 정의. 무엇을 어떤 형식으로 받을지, 무엇이 ‘정답’인지 정합니다.
- 프롬프트 설계. 지시, 배경 정보, 역할, 출력 형식, 예시(few-shot)를 구성합니다. 예시를 주지 않으면 제로샷(zero-shot), 몇 개 주면 퓨샷(few-shot)입니다. Brown 등(2020)은 큰 언어 모델이 예시 몇 개만으로 과제를 수행하는 능력을 보였습니다.
- 추론 유도. “단계별로 생각해 보자” 같은 지시나 풀이 과정을 담은 예시로 중간 추론을 끌어내는 사고연쇄(chain-of-thought) 방식(Wei 등, 2022; Kojima 등, 2022)이 있습니다.
- 평가와 반복. 정해 둔 평가 자료로 정확도 등을 재고 프롬프트를 고칩니다. 프롬프트 자체를 자동으로 탐색하는 접근도 연구됩니다.
언제 쓰고 무엇을 얻나
- 언제. 모델을 다시 훈련할 자원이 없거나, 이미 있는 모델을 새 과제에 빠르게 적용해 보려 할 때, 그리고 파인튜닝과 성능을 비교하는 기준선(baseline)을 만들 때 씁니다.
- 얻는 것. 비용이 적고 반복이 빠르며 결과가 바로 확인됩니다. 교육 연구에서는 학습자가 생성형 AI와 상호작용하는 프롬프트 작성 전략이 연구 대상이 되기도 합니다.
- 한계. 같은 뜻의 문구라도 표현·순서·형식에 따라 성능이 크게 달라질 수 있고(프롬프트 민감성), 한 모델에서 잘 되던 프롬프트가 다른 모델이나 다른 버전에서는 안 맞을 수 있습니다. 한 문제에서의 개선이 비슷한 다른 문제에서 재현되지 않을 수도 있습니다.
- 무엇이 아닌가. 모델에 새 지식을 넣는 것이 아니라 이미 가진 능력을 끌어내는 방법입니다. 파인튜닝은 가중치를 갱신하는 별도의 방법입니다.
논문에는 이렇게 적는다
재현이 가능하도록 아래를 방법 절에 적습니다.
- 모델 이름과 버전/접속 날짜(모델은 업데이트되므로), 사용 방식(웹 인터페이스인지 API인지)
- 생성 설정: 온도(temperature), 최대 출력 길이, 시드 등
- 프롬프트 전문(부록에 첨부)과 예시(few-shot)를 어떻게 골랐는지
- 같은 프롬프트를 몇 번 반복했는지, 정답을 누가 어떻게 채점했는지
- 프롬프트 개선 과정이 있었다면 어떤 자료로 개선하고 어떤 별도 자료로 평가했는지(평가 자료 오염 방지)
예: “GPT 계열 모델(모델명, 2025년 ○월 접속)에 온도 0으로 퓨샷 프롬프트(예시 3개)를 적용하고 각 문항을 5회 반복하여 정답률을 산출하였다.” (형식을 보여 주려는 가상의 문장입니다.)
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“정답률 향상을 위한 프롬프트 엔지니어링을 한 결과, 동일한 문제에 대해서는 정답률이 높아졌으나 유사 문제에 대해서는 정답률이 높아지지 않았다.”
수학교육에서 ChatGPT-4o의 기능과 활용 가능성 탐색: 중학교 1학년 수학을 중심으로, 한국학교수학회논문집, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
“인간과 생성형 AI의 커뮤니케이션 활동인 프롬프트 엔지니어링 기술이 저술과 편집, 디자인 등 출판의 핵심 과정에 활용되고 있다.”
프롬프트 엔지니어링 기술의 출판 활용 연구, 한국출판학연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 모델을 재학습하거나 파인튜닝하지 않고, 입력 프롬프트의 형식과 예시 구성만 바꿔서 성능이 개선되었다는 의미입니다.
의료 AI 응용 분야에서 프롬프트 설계를 통해 답변의 품질뿐 아니라 추론 과정의 신뢰성을 높이는 사례를 보고할 때 쓰이는 표현입니다.
소프트웨어공학 분야에서 코드 생성 모델의 성능을 프롬프트 구성 방식에 따라 비교할 때도 활용됩니다.
조금 더 깊게 보면
프롬프트 엔지니어링에는 예시를 몇 개 제공하는 퓨샷 프롬프팅, 예시 없이 지시문만 주는 제로샷 프롬프팅, "단계별로 생각해보자"처럼 중간 추론 과정을 유도하는 사고연쇄(chain-of-thought) 프롬프팅 등 여러 하위 기법이 있으며, 과제 성격에 따라 어떤 기법이 더 효과적인지가 달라진다. 최근에는 프롬프트 자체를 사람이 손으로 다듬는 대신 알고리즘이나 별도 모델을 이용해 자동으로 탐색·최적화하는 접근도 연구되고 있다.
주의할 점
프롬프트 엔지니어링은 파인튜닝과 달리 모델의 가중치를 전혀 수정하지 않습니다. 따라서 효과가 프롬프트 표현에 민감하게 좌우되며, 같은 의미라도 문구를 조금만 바꾸면 결과가 크게 달라질 수 있다는 한계가 있습니다.
헷갈리기 쉬운 용어
언어 모델을 과제에 맞추는 방법들입니다.
| 방법 | 가중치 변경 | 필요한 것 |
|---|---|---|
| 프롬프트 엔지니어링 | 변경하지 않음 | 프롬프트 설계와 평가 자료 |
| 퓨샷 학습 | 프롬프트 안 예시로 하면 변경 없음(맥락 내 학습) | 소수의 예시 |
| 제로샷 학습 | 변경 없음 | 지시문만 |
| 파인튜닝 | 변경함 | 추가 훈련 데이터와 연산 자원 |
모델 자체는 대규모 언어 모델 페이지를 참고하세요.
참고 문헌
- Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., Hesse, C., Chen, M., Sigler, E., Litwin, M., Gray, S., Chess, B., Clark, J., Berner, C., McCandlish, S., Radford, A., Sutskever, I., & Amodei, D. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33.
- Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E. H., Le, Q. V., & Zhou, D. (2022). Chain-of-thought prompting elicits reasoning in large language models. Advances in Neural Information Processing Systems, 35.
- Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large language models are zero-shot reasoners. Advances in Neural Information Processing Systems, 35.
- Liu, P., Yuan, W., Fu, J., Jiang, Z., Hayashi, H., & Neubig, G. (2023). Pre-train, prompt, and predict: A systematic survey of prompting methods in natural language processing. ACM Computing Surveys, 55(9).
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.