이중용도 연구 (Dual-Use Research)

한 줄 정의: 원래는 공익을 위한 연구지만 그 결과가 악용될 경우 심각한 피해를 초래할 수 있는 지식이나 기술을 만들어내는 연구입니다.

쉽게 풀면

부엌칼을 생각해보세요. 요리에 쓰라고 만든 도구지만 누군가는 흉기로 쓸 수도 있습니다. 이중용도 연구도 마찬가지입니다. 병원체의 전파력을 연구해 백신 개발에 쓰려던 결과가 생물무기 제작에 악용될 수도 있고, 사람 얼굴을 인식하는 AI 기술이 감시나 사기에 악용될 수도 있습니다. 연구자의 의도가 선하더라도 결과물 자체가 "선한 용도"와 "악한 용도" 두 갈래로 쓰일 수 있다는 점에서 "이중용도(dual-use)"라고 부르며, 특히 심각한 피해가 우려되는 경우를 DURC(Dual-Use Research of Concern)라고 따로 구분하기도 합니다.

왜 중요한가

이중용도 연구 개념은 생명과학뿐 아니라 인공지능, 사이버보안, 화학 분야까지 폭넓게 적용되면서 연구윤리와 과학기술정책 전반에서 중요하게 다뤄지고 있습니다. 연구 성과를 어디까지 공개할지, 오남용 위험이 있는 세부 방법을 논문에서 어떻게 다뤄야 할지는 학술출판 윤리 논의의 핵심 쟁점이며, 최근에는 생성형 AI 모델의 오남용 가능성을 둘러싼 논의가 이 개념을 다시 활발하게 소환하고 있습니다. 연구 자유와 공익 보호 사이의 균형을 다루는 과학기술사회학 연구에서도 자주 인용됩니다.

논문에서는 이렇게 쓰입니다

"본 연구는 병원체의 전파력을 높이는 변이를 다루어 이중용도 연구로 분류되었으며, 기관생명윤리위원회의 별도 심의를 거쳐 실험 프로토콜 일부를 원문에서 비공개로 전환하였다."

이 문장은 연구 내용이 악용될 위험이 있다고 판단되어, 일반적인 윤리 심의 외에 추가로 오남용 가능성을 검토하는 절차를 거쳤고, 그 결과 위험한 세부 방법을 논문에 전부 공개하지 않기로 했다는 뜻입니다.

"대규모 언어모델의 악성코드 생성 능력을 평가한 본 연구는 이중용도 위험을 고려하여 구체적인 프롬프트와 출력 예시를 논문에서 제외하였다."

인공지능 안전성 연구에서 이중용도 문제를 다룬 사례로, 오남용될 수 있는 구체적 결과물의 공개를 자체적으로 제한한 예문이다.

"산업용 화학물질 합성 경로 최적화 연구는 동일한 기술이 화학무기 전구체 생산에도 활용될 수 있다는 점에서 이중용도 연구로서의 성격을 함께 논의하였다."

화학 분야에서 이중용도 문제가 검토된 사례를 보여주는 예문이다.

조금 더 깊게 보면

이중용도 연구 중에서도 특히 위해 가능성이 크다고 판단되는 경우를 별도로 이중용도우려연구(DURC)라고 구분해 더 엄격한 심사를 적용하는 경우가 많습니다. 학술지들은 이를 다루기 위해 원고 심사 단계에서 생물안보나 정보보안 전문가의 별도 검토를 거치는 절차를 운영하기도 하며, 위험한 세부 방법론을 논문 본문에서 제외하거나 심사자에게만 공개하는 선택적 공개(selective publication) 관행도 함께 논의됩니다. 연구자의 자기규제(self-governance)와 기관 차원의 심의체계가 함께 작동해야 한다는 점이 자주 강조됩니다.

주의할 점

이중용도 연구 심의는 기관생명윤리위원회 승인과 목적이 다릅니다. 기관생명윤리위원회 승인은 주로 연구 참여자의 권리와 안전을 보호하는 데 초점이 있는 반면, 이중용도 연구 심의는 연구 참여자와 무관하게 "이 지식이나 기술이 사회 전체에 위해를 끼칠 수 있는가"를 별도로 검토합니다. 따라서 참여자 보호 절차를 다 지켰다고 해서 이중용도 위험 검토까지 자동으로 통과되는 것은 아닙니다.