동료심사 중 AI 사용 기밀유출 (Peer Review AI Confidentiality Breach)

한 줄 정의: 심사위원이 아직 출판되지 않은 논문 원고를 챗지피티 같은 생성형 AI 서비스에 입력해 검토나 요약을 맡김으로써, 저자의 미공개 연구 내용을 외부 서버로 유출시키는 문제입니다.

쉽게 풀면

친구가 아직 세상에 공개하지 않은 사업 계획서를 "검토 좀 부탁해"라며 건네줬다고 해봅시다. 그런데 여러분이 그 계획서를 통째로 낯선 컨설팅 업체 서버에 올려서 "요약해줘"라고 시킨다면, 친구는 배신감을 느낄 겁니다. 동료심사도 마찬가지입니다. 심사위원은 저자가 아직 아무에게도 공개하지 않은 데이터와 아이디어를 미리 볼 수 있는 특권을 받는 대신, 그 내용을 비밀로 지킬 의무를 집니다. 그런데 바쁘다는 이유로 원고 전체를 생성형 AI 서비스에 붙여넣어 "이 논문 요약해줘", "이 논문 문제점 짚어줘"라고 요청하면, 그 원고 내용이 AI 서비스 운영사의 서버에 저장되거나 향후 모델 학습에 활용될 가능성이 생깁니다. 저자의 동의 없이 미공개 연구 아이디어가 외부로 새어나가는 셈이라 심각한 기밀유지 위반으로 취급됩니다.

왜 중요한가

생성형 AI 도구가 빠르게 확산되면서 심사위원의 편의를 위한 AI 사용이 저자의 지적재산권과 미공개 연구 정보를 침해할 수 있다는 우려가 커졌고, 이는 학술 출판 윤리와 연구 진실성(research integrity) 논의에서 새롭게 부상한 핵심 쟁점이다. 많은 학술지와 출판사가 이 문제를 계기로 심사위원용 AI 사용 정책을 새로 수립하거나 개정하고 있어, 출판윤리·과학정책 연구에서도 다뤄지는 주제다.

논문에서는 이렇게 쓰입니다

"본 학술지는 심사위원이 미공개 원고 전문이나 그 일부를 외부 생성형 AI 도구에 입력하는 행위를 금지하며, 이를 동료심사 기밀유지 의무 위반으로 간주한다."

이 문장은 학술지 편집 규정에서 심사위원의 AI 사용 범위를 제한하는 대목으로, "원고 요약이나 리뷰 초안 작성을 AI에 맡기는 행위 자체가 저자의 비공개 정보를 유출하는 규정 위반"이라는 뜻입니다.

"설문조사 결과, 응답한 심사위원 중 상당수가 원고 요약을 위해 최소 한 번 이상 생성형 AI를 사용한 적이 있다고 응답했으나, 이 중 다수는 관련 규정을 인지하지 못하고 있었다."

학술 출판 실태 조사 연구에서 심사위원들의 AI 사용 관행과 규정 인식 수준 간의 격차를 보고한 문장입니다.

"편집위원회는 심사위원의 AI 사용 여부를 심사 제출 시 자가 보고하도록 하는 절차를 도입하여 기밀유지 위반 가능성을 사전에 점검하도록 하였다."

학술지 운영 사례 연구에서 AI 사용 여부를 확인하는 절차를 새로 도입했다는 내용을 설명한 문장입니다.

조금 더 깊게 보면

이 문제의 핵심은 상용 생성형 AI 서비스에 입력된 텍스트가 서비스 제공사의 서버에 저장되거나, 서비스 약관에 따라 모델 개선을 위한 학습 데이터로 활용될 가능성이 있다는 점이다. 이 때문에 일부 학술지는 기밀 정보 유출을 방지하기 위해 입력 데이터를 저장하거나 학습에 사용하지 않는다고 명시된 "폐쇄형(sandboxed)" AI 도구만 예외적으로 허용하는 정책을 두기도 한다. 관련 논의는 저자의 AI 사용을 다루는 AI 저자됨 및 사용 공개 정책과는 별개로, 심사 과정 자체의 기밀성을 보호하기 위한 동료심사 시스템 개선 논의의 일부로 다뤄지는 경우가 많다.

주의할 점

이 문제는 저자가 AI 저자됨 및 사용 공개 규정에 따라 논문 작성에 AI를 썼는지 밝히는 것과는 방향이 반대입니다. 저자의 AI 사용 공개는 "내가 AI 도움을 받았다"는 투명성 문제이고, 심사위원의 AI 사용은 "타인의 미공개 정보를 외부로 유출했는가"라는 기밀유지 문제입니다. 두 문제를 혼동하지 않아야 합니다.