한국연구재단

메인으로

구독신청 독자의견

News N1

인공지능, 연구에 어떻게 활용할까요?
AI 연구윤리가이드 발간

주요 행사 소식부터 각종 안내 사항까지 한국연구재단과 연구현장을 잇는 다양한 이슈를 모아 전합니다.

‘요즘 애들은 놀 때, AI를 가지고 논다’라는 말이 있습니다. 젊은 세대들이 AI를 활용해 직접 창작물을 만들고, 이런 콘텐츠가 밈과 트렌드로 소비되고 있기 때문. 이러한 모습은 연구계에서도 비슷하게 나타납니다. 문헌 검색 및 요약부터 데이터 분석까지, 연구자들의 AI 활용 빈도가 늘고 있는데요. 한국연구재단은 생성형 AI 활용 과정에서 발생할 수 있는 문제를 예방하고자 「대학 연구자를 위한 생성형 AI 연구윤리 가이드」를 발간했습니다.

Chapter 01 대학 연구자를 위한
생성형 AI 연구윤리가이드 발간

지난 6월, 한국연구재단은 「대학 연구자를 위한 생성형 AI 연구윤리 가이드」를 발간했습니다. 이번 가이드는 최근 연구계에서 빈번하게 나타나고 있는 AI 부정행위를 방지하고, 연구자가 연구과정에서 생성형 AI를 책임 있게 사용하도록 윤리적 기준을 제시하고자 마련되었는데요. 연구의 투명성과 재현성, 신뢰성을 유지하고 연구진실성을 확보하는데 그 목적을 두고 있습니다.

연구과정에서 생성형 AI 활용 사례

  • 텍스트 생성 지원 논문 초안작성, 윤문 작업 지원
    (ChatGPT, Gemini, Claude)
  • 문헌 탐색 및 분석 연구논문 탐색 및 문헌 요약
    (Elicit, Scite, Semantic Scholar AI)
  • 코드 및 데이터 분석 연구데이터 분석 및 코드 작성 지원
    (GitHub Copilot, Code Interpreter)
  • 이미지 생성 연구 발표자료나 시각자료 제작 지원
    (DALL·E, Midjourney)

생성형 AI 활용 시 나타날 수 있는 문제

시간, 내용
시간 내용
연구진실성 문제
  • 생성형 AI는 기존의 다양한 문헌과 데이터를 학습하여 콘텐츠를 생성하기 때문에 제대로 된 인용 표시 없이 사용하는 경우, 부적절한 인용 등의 연구윤리 문제가 발생할 수 있음.
정보의 정확성 문제
  • 생성형 AI는 사실과 다른 정보를 생성하거나 존재하지 않는 문헌을 인용하는 등 환각(Hallucination) 현상을 일으킬 수 있음.
저작권 문제
  • 생성형 AI는 인터넷상의 방대한 텍스트, 이미지, 논문 등을 학습하여 개발되므로, 저자(저작권자)의 허락 없이 저작물이 학습 데이터로 활용되었을 가능성이 있으며, 그 결과 기존 저작물과 유사한 내용이 생성될 가능성이 있음.
연구 보안 및 개인정보 문제
  • 연구 데이터나 미공개 연구 결과를 생성형 AI에 입력하면 연구 데이터 유출이나 개인정보 침해가 발생할 수 있음.
연구 책임성 문제
  • 생성형 AI를 논문 작성에 활용했다고 하더라도, 연구의 책임 주체가 될 수 없으며, 연구 결과에 대한 최종 책임은 연구자에게 있음.

이번에 발간한 가이드는 총 6단락 약 60페이지 분량으로, 제1장~제4장에서는 실제 연구단계별 사용되는 AI와 이로 인해 야기될 수 있는 점을 사례중심으로 엮어냈는데요. 문제에 직면했을 때 행동해야 할 지침도 함께 제시하고 있어, 생성형 AI 활용 시 나타날 수 있는 연구자들의 고민을 조금이나마 해소해 줄 것으로 보입니다.

대학 연구자를 위한 생성형 AI 연구윤리 가이드

  • 제1장 연구에서 활용되는 생성형 AI
  • 제2장 연구 설계 단계에서의 생성형 AI 활용
  • 제3장 연구 수행 단계에서의 생성형 AI 활용
  • 제4장 연구 보고 단계에서의 생성형 AI 활용
  • 제5장 생성형 AI 활용 후 인용
  • 제6장 연구자를 위한 생성형 AI 활용 체크리스트
  • 부록 생성형 AI 활용을 위한 책임 있는 연구수행 10가지 준칙

한편 제5장에서는 생성형 AI를 활용한 사실과 범위를 투명하게 공개해야 함을 언급하며, 생성형 AI를 사용해 논문을 작성했음에도 이를 제대로 밝히지 않는 경우 연구부정행위로 이어질 수 있다고 명시했습니다. 특히 제6장과 부록에 수록된 연구단계별 체크리스트와 책임 있는 연구수행 10가지 준칙은 연구자들이 생성형 AI를 활용할 때 연구윤리를 위반하지 않도록 돕는 가이드라인 역할을 톡톡히 해줄 것으로 기대됩니다.

생성형 AI 활용을 위한 책임 있는 연구수행 10가지 준칙

  • 1. AI를 저자로 표시하지 말라.
  • 2. AI 사용에 대한 최종 책임은 연구자가 져라.
  • 3. AI가 생성한 정보는 반드시 검증하라.
  • 4. 개인정보·기밀정보를 AI에 입력하지 말라.
  • 5. AI의 분석 결과를 이해하지 못하면 사용하지 말라.
  • 6. AI의 해석을 그대로 믿지 말고 연구자가 직접 판단하라.
  • 7. AI 사용 가능 범위를 사전에 확인하라.
  • 8. AI 사용 사실은 투명하게 공개하라.
  • 9. AI 사용 과정을 기록하라.
  • 10. 연구윤리 기준을 준수하라.

생성형 AI 연구윤리 가이드 보기

Chapter 02 생성형 AI 활용 시 나타날 수 있는
연구윤리 문제와 사례

앞서 연구 간 나타나는 부정행위, 연구윤리 위반행위를 방지하고자 「대학 연구자를 위한 생성형 AI 연구윤리 가이드」를 발간했다고 말씀드렸습니다. 생성형 AI를 사용하는 과정에서 발생할 수 있는 문제점에 대해 짧게 소개드렸는데요. 구체적으로 연구자는 어떤 상황에 직면할 수 있을지, 연구단계별 주요 사례를 통해 알아보겠습니다.

01. 연구 설계단계

연구자는 연구를 수행하기 전에 연구의 목적, 연구 문제, 가설, 연구 방법 등을 체계적으로 계획하는 과정을 거칩니다. 최근에는 생성형 AI를 활용해 연구 아이디어를 탐색하거나 연구 문제를 구체화하는 사례가 늘고 있는데요. 다만 AI가 제안하는 연구 아이디어에 의존할 경우, 연구자의 독창적인 문제 설정 능력을 저해할 수 있으며 특히 생성형 AI는 모든 학술자료를 완전히 반영하지 못하기 때문에 실제로는 이미 충분히 연구된 주제를 새로운 연구 공백으로 제시할 가능성이 있어 주의해야 합니다.

[예시] 잘못된 연구 공백 생성*
* Chat GPT 활용 예시 이미지

02. 연구 수행단계

수행단계는 연구 설계단계에서 수립된 주제와 계획에 따라 실제로 연구를 수행하는 과정으로, 연구자는 이 단계에서 데이터를 수집하고 분석하여 연구결과를 도출합니다. 최근에는 생성형 AI를 활용해 데이터를 정리하고 코드 작성, 통계 분석 설명, 텍스트 데이터 분류, 연구결과를 해석하고 있으나 이 과정에서 AI가 부정확한 분석 방법을 제안할 수 있어 반드시 연구자가 직접 분석결과를 검토하고 틀린 부분이 있으면 수정해야 합니다.

[예시] 수치해석 방법(Numerical method)*에 대한 생성형 AI 답변의 불완전성
* 정확한 수식 해는 구하기 어렵지만, 근사 값을 계산해서 문제를 해결하는 계산적 기술

03. 연구 보고단계

앞서 수행한 연구 결과를 학술 논문, 보고서, 학술 발표 등의 형태로 정리해 연구 공동체와 공유하는 단계로, 결과를 정확하고 투명하게 기록하고 연구결과가 왜곡되거나 과장되지 않도록 객관적으로 보고하는 것이 중요합니다. 생성형 AI를 활용해 초록작성, 문장교정 지원을 받는 사례가 늘고 있으나 이 과정에서 AI가 작성한 논문을 그대로 사용할 경우 연구 부정행위로 이어질 수 있어 연구자들의 주의가 필요합니다.

[예시] 생성형 AI를 활용하여 원고를 작성한 뒤 그대로 활용한 경우
기술의 발전은 삶을 더 편리하게, 더 풍요롭게 만들지만 때론 사회적 규범과 윤리를 위협하기도 합니다. 피할 수 없는 AI 기술 융합시대에 맞추어 본 가이드는 생성형 AI의 기술적 활용 방법을 설명하는 데 목적이 있는 것이 아니라, 연구자가 연구의 전 과정에서 생성형 AI를 책임 있게 활용하기 위한 윤리적 기준을 제시하는 데 목적이 있습니다. 이를 통해 연구의 투명성, 재현성, 신뢰성을 유지하고 연구진실성을 확보하는 데 도움을 드리고자 합니다. 본 가이드가 생성형 AI를 활용하는 연구자가 야기할 수 있는 연구윤리 문제를 예방하고 책임있는 연구수행을 지원하는데 기여하길 바랍니다.